深層偽造ポルノアプリ「ClothOff」の蔓延と規制の壁
オンライン上で若い女性を標的にし、深層偽造ポルノを生成するアプリ「ClothOff」が2年以上にわたり問題となっています。主要なアプリストアから削除され、多くのソーシャルプラットフォームで禁止されたものの、同アプリはウェブやTelegramボットを通じて依然として利用可能です。この問題を解決するため、イェール大学ロースクールのクリニックは昨年10月、ClothOffの完全な停止、全画像の削除、運営停止を求める訴訟を提起しました。
しかし、この訴訟は、深層偽造ポルノとの闘いがどれほど困難であるかを浮き彫りにしています。訴訟の共同主任弁護士であるジョン・ラングフォード教授は、「英領バージン諸島に法人登録されていますが、ベラルーシの兄妹が運営していると見ています。おそらく世界中の大規模なネットワークの一部でしょう」と述べ、被告を特定すること自体が一筋縄ではいかないことを示唆しています。
ClothOff訴訟の現状と被害の実態
イェール大学ロースクールが提出した訴状は、深刻な状況を訴えています。原告はニュージャージー州に住む匿名の高校生で、彼女の同級生がClothOffを使用してInstagramの写真を改変しました。元のInstagramの写真が撮影された時、彼女は14歳であったため、AIによって改変された画像は法的に児童性的虐待画像（CSAM）に分類されます。しかし、これらの画像が明確に違法であるにもかかわらず、地元の当局は容疑者のデバイスから証拠を得るのが困難であることを理由に、捜査を拒否しました。
訴状には「学校も法執行機関も、ジェーン・ドゥー（原告の仮名）や他の少女たちのCSAMがどの程度広範囲に配布されたかを確認できなかった」と記されています。訴訟は昨年10月に提訴されて以来、遅々として進んでいません。ラングフォード教授とその同僚は、グローバルな事業体である被告に通知を送達する作業に苦慮しており、この間、法制度はClothOffの被害者たちにほとんど救済をもたらしていません。
汎用AIツール「Grok」との課題
一方、イーロン・マスク氏のxAIが提供するAIチャットボット「Grok」のように、深層偽造ポルノ生成に悪用され得る汎用AIツールは、さらに複雑な問題を引き起こしています。ClothOffが「深層偽造ポルノ画像・動画ジェネレーターとして特化して設計・販売されている」のに対し、Grokのような汎用システムは多様な用途に使用されるため、法的責任を追及するのが格段に難しくなります。
米国では「Take It Down Act」を含む複数の法律が深層偽造ポルノを禁止していますが、プラットフォーム全体に責任を負わせるには、加害意図の明確な証拠が必要とされます。xAIがツールが非同意ポルノの生成に使用されることを認識していたという証拠がなければ、同社の基本的な合衆国憲法修正第1条（言論の自由）の権利が大きな法的保護を与えることになります。
「CSAMは憲法修正第1条で保護される表現ではないことは明らかです。したがって、そのようなコンテンツを作成するシステムを設計する場合、明確に保護の範囲外で運営していることになります。しかし、ユーザーがあらゆる種類の問い合わせに利用できる汎用システムの場合、それは明確ではありません」とラングフォード教授は説明します。マスク氏がGrokのセーフガードを緩めるよう従業員に指示したという最近の報道は、xAIが問題を意図的に無視した可能性を示唆しており、訴訟の行方を左右する可能性があります。
国際的な規制の動きと米国の立ち位置
言論の自由に対する強力な法的保護を持たない国の法制度では、xAIに対する大きな反発が見られます。インドネシアとマレーシアはGrokへのアクセスをブロックする措置を講じており、英国の規制当局は同様の禁止につながる可能性のある調査を開始しました。欧州委員会、フランス、アイルランド、インド、ブラジルも予備的な措置を講じています。
対照的に、米国の規制機関は公式な対応をまだ示していません。これらの調査がどのように解決されるかは不明ですが、深層偽造画像の洪水は規制当局に多くの疑問を投げかけており、その回答は決定的なものとなる可能性があります。ラングフォード教授は、「CSAMを投稿、配布、拡散する者は刑事上の禁止に違反しており、責任を問われる可能性があります。難しい問題は、X（xAI）が何を知っていたのか？何をしたりしなかったのか？そして今、それに対して何をしようとしているのか？という点です」と語り、プラットフォームの責任を巡る議論が深まることを示唆しました。
元記事: https://techcrunch.com/2026/01/12/a-new-jersey-lawsuit-shows-how-hard-it-is-to-fight-deepfake-porn/