はじめに：AI生成画像の氾濫が国際問題に

過去2週間にわたり、イーロン・マスク氏率いるソーシャルメディアプラットフォームXが、Grok AIチャットボットによって生成されたAI操作による非同意型ヌード画像で溢れかえっていることが明らかになりました。被害者には著名なモデルや女優、ニュース関係者、犯罪被害者、さらには各国の指導者まで含まれており、深刻な社会問題となっています。Copyleaksの調査によると、かつては1分間に約1枚の画像が投稿されていると推定されていましたが、その後の調査では1月5日から6日の24時間で1時間あたり6,700枚という驚異的なペースで拡散されていたことが判明しました。

Grok AIとXの対応

この問題の根源は、xAIが提供するGrok AIチャットボットが安全対策なしにリリースされたことにあります。CNNの報道では、イーロン・マスク氏自身がGrokによる画像生成の安全対策導入を阻止した可能性も示唆されており、非難の声が集中しています。XはGrokの公開メディアタブを削除し、声明でAIツールを用いた違法コンテンツの生成を非難。1月3日にはX Safetyアカウントが「Grokを使用して違法なコンテンツを作成する者は、違法なコンテンツをアップロードするのと同等の結果に直面する」と投稿しましたが、具体的な技術的変更については不明です。

世界各国の規制当局の動き

この事態に対し、世界中の政府や規制当局が行動を起こしています。最も積極的な動きを見せているのは、欧州委員会です。同委員会は1月5日木曜日、xAIに対しGrokチャットボットに関連するすべての文書を保持するよう命令しました。これは調査開始の兆候と見られています。

• イギリス：通信規制機関Ofcomは1月2日月曜日、xAIと連絡を取り、「調査を必要とするコンプライアンス問題があるかどうかを判断するための迅速な評価」を行うと発表しました。ケイア・スターマー首相は、この現象を「恥ずべき」「うんざりする」と非難し、Ofcomの行動を全面的に支持すると述べました。
• オーストラリア：eSafetyコミッショナーのジュリー・インマン・グラント氏は、2025年後半からGrok関連の苦情が倍増したと述べつつも、xAIに対する行動は控えており、今後利用可能な規制ツールを用いるとしています。
• インド：最も厳しい措置を示唆しているのがインドです。国会議員からの正式な苦情を受け、インドの通信規制機関MeitYはXに対し、72時間以内（後に48時間延長）に問題に対処し「行動報告書」を提出するよう命令しました。この報告書の内容が不十分と判断された場合、Xはインドにおける「セーフハーバー」の地位を失う可能性があり、国内での事業運営に深刻な影響を与える可能性があります。

規制の課題と今後の展望

今回のAI生成ヌード画像の氾濫は、技術規制の限界を浮き彫りにし、規制当局にとって将来的な大きな課題を突きつけています。AIモデルの急速な進化と、それに対するプラットフォーム側の安全対策の遅れが、デジタル空間における新たな脅威を生み出しています。各国政府の対応が、今後のAI技術の利用と規制のあり方にどのような影響を与えるか、注目が集まります。

元記事: https://techcrunch.com/2026/01/08/governments-grapple-with-the-flood-of-non-consensual-nudity-on-x/