インドネシア政府、Grokへのアクセスを一時停止

インドネシア政府は、xAIのチャットボット「Grok」へのアクセスを一時的にブロックすると発表しました。この措置は、Grokが生成する性的な非合意ディープフェイク（AI生成画像）が問題視されたことによるものです。これらの画像はしばしば実在の女性や未成年者を描写し、時には暴行や虐待を示す内容も含まれており、ソーシャルネットワークX（旧Twitter）上でのユーザーのリクエストに応じてGrokによって投稿されていました。これは、AIが生成するコンテンツに対する政府の対応としては、これまでで最も積極的な動きの一つと見られています。

インドネシア政府の強い姿勢

インドネシアの通信・デジタル大臣メウティア・ハフィッド氏は、声明で「政府は、非合意の性的なディープフェイクの行為を、人権、尊厳、およびデジタル空間における市民の安全に対する重大な侵害であると見なしている」と述べました。同省はまた、この問題についてXの担当者を召喚したと報じられています。

広がる国際的な規制強化の動き

Grokのディープフェイク問題に対し、各国政府は様々な反応を示しています。これは、AI技術の倫理的利用と規制に関する世界的な規制強化の動きを浮き彫りにしています。

• インド：インドの情報技術省は、Grokがわいせつなコンテンツを生成するのを防ぐための措置を講じるようxAIに命令しました。
• 欧州委員会：xAIに対し、Grokに関連するすべての文書を保持するよう命じており、これは将来的な調査の準備段階である可能性があります。
• 英国：通信規制機関であるOfcomは、Grokがコンプライアンス上の問題を抱えているかどうかを迅速に評価すると発表。キア・スターマー首相もOfcomの行動に「全面的な支持」を表明しています。
• 米国：トランプ政権はこの問題について沈黙を保っていますが、民主党の上院議員らはAppleとGoogleに対し、アプリストアからXを削除するよう求めています。

xAIの対応とイーロン・マスク氏の見解

xAIは当初、Grokアカウントを通じて第一人称の謝罪を投稿し、「倫理基準および児童性的虐待物に関する米国法に違反した可能性」を認めました。その後、AI画像生成機能はXの有料購読者に限定されましたが、Grokアプリ自体では誰でも画像生成ができる状態が続いているようです。英国政府が他のAI画像生成ツールに対して措置を講じないことについて疑問を呈する投稿に対し、イーロン・マスク氏は「彼らは検閲の口実を求めているのだ」とコメントしています。

元記事: https://techcrunch.com/2026/01/10/indonesia-blocks-grok-over-non-consensual-sexualized-deepfakes/