はじめに

インドネシアとマレーシアの政府は、xAIが開発したチャットボット「Grok」へのアクセスを一時的にブロックしたと発表しました。これは、Grokが生成した非同意の性的ディープフェイク画像がソーシャルネットワークX上に多数投稿されたことを受けての措置です。これらの画像には、現実の女性や未成年者、時には暴力的な描写が含まれることもあり、国際的な問題として浮上しています。

各国政府の対応

今回の問題に対し、複数の政府機関が異なる対応を見せています。

• インドネシア: 通信デジタル大臣のMeutya Hafid氏は、「非同意の性的ディープフェイク行為は、人権、尊厳、そしてデジタル空間における市民の安全に対する深刻な侵害である」と述べ、Xの担当者を召喚する予定です。
• マレーシア: インドネシアと同様にGrokのブロックを発表しました。
• インド: IT省はxAIに対し、Grokがわいせつなコンテンツを生成するのを防ぐための措置を講じるよう命令しました。
• 欧州委員会: xAIに対しGrokに関連するすべての文書の保管を命じ、調査の可能性を示唆しています。
• 英国: 通信規制機関のOfcomは、「調査を正当化する潜在的なコンプライアンス問題があるかどうかを迅速に評価する」としており、キア・スターマー首相もOfcomの行動を全面的に支持すると表明しています。
• 米国: トランプ政権は沈黙を保っていますが、民主党の上院議員たちはAppleとGoogleに対し、Xをアプリストアから削除するよう要求しています。

xAIの反応とイーロン・マスク氏の発言

xAIは当初、Grokのアカウントを通じて、一部の投稿が「倫理基準および米国法（児童性的虐待に関するもの）に違反する可能性があった」と謝罪しました。その後、AI画像生成機能をXの有料購読者に限定する措置を講じましたが、Grokアプリ自体にはこの制限は適用されなかったようです。

イーロン・マスク氏は、英国政府が他のAI画像生成ツールに対して行動を起こさないのはなぜかという投稿に対し、「彼らは検閲の口実が欲しいだけだ」とコメントしました。

今後の展望

今回のGrokを巡る各国の動きは、AIが生成するコンテンツに対する規制の必要性を改めて浮き彫りにしています。テクノロジー企業が生成AIの利用において倫理的なガイドラインをどのように遵守し、各国の法規制にどのように対応していくかが、今後の焦点となるでしょう。特に、オンラインでの安全とプライバシー保護が重視される中で、AI技術の開発と利用における企業の責任が問われることになります。

元記事: https://techcrunch.com/2026/01/11/indonesia-blocks-grok-over-non-consensual-sexualized-deepfakes/