インドネシア、AIチャットボットGrokへの禁⽌を解除

インドネシアは、X（旧Twitter）の関連企業xAIが開発したAIチャットボット「Grok」に対する禁⽌措置を解除しました。これは、マレーシアとフィリピンに続く動きとなります。この禁⽌は、GrokがX上で非同意の性的な画像、特に実在の女性や未成年者の画像を大量に生成するために悪用されたことを受けて課されていました。

禁⽌解除の背景とxAIの対応

ニューヨーク・タイムズとCenter for Countering Digital Hateによる独立した分析によると、昨年12月から1月にかけて、Grokは少なくとも180万枚の性的な女性画像を生成したと報告されています。インドネシア通信情報省は、Xが「サービス改善と誤用防止のための具体的な措置」を記した書簡を送付したことを受け、禁⽌解除を決定しました。

しかし、同省のデジタル空間監視局長アレクサンダー・サバル氏は、この禁⽌解除が「条件付き」であり、「さらなる違反が発見された場合、再開される可能性がある」と強調しています。

世界的な監視とGrokの機能制限

Grokによるディープフェイクの問題は、世界中の政府から批判と調査を引き起こしています。米国では、カリフォルニア州司法長官のロブ・ボンタ氏がxAIに対する調査を開始し、同社に問題のある画像の生成を直ちに停止するよう求める停止命令書を送付しました。

xAIはGrokの機能制限に向けた措置を講じており、現在、AI画像生成機能はXの有料購読者のみに限定されています。xAIのCEOであるイーロン・マスク氏は、「Grokを違法なコンテンツ作成に利用する者は、違法なコンテンツをアップロードするのと同等の結果に直面する」と主張し、「Grokによって生成された裸の未成年者の画像については認識していない」と述べています。

元記事: https://techcrunch.com/2026/02/01/indonesia-conditionally-lifts-ban-on-grok/