欧州連合、Xに対する正式調査を開始
欧州委員会は2026年1月26日、X（旧Twitter）が同社のAIツール「Grok」の導入前にリスクを適切に評価していたか否かについて、デジタルサービス法（DSA）に基づく正式な調査手続きを開始したと発表しました。この措置は、Grokが性的描写を含む画像を生成するために利用されたことを受けています。
欧州委員会は、Grokが「加工された性的描写画像、および児童性的虐待（CSAM）に相当する可能性のあるコンテンツ」を作成するために使用されたことから、これらの潜在的なリスクが「具現化した」と指摘しています。
Grok AIツールの悪用と各国当局の動き
EUのテクノロジー担当委員ヘナ・ヴィルックネン氏は、「女性や子どもの性的ディープフェイクは、暴力的で容認できない品位を傷つける行為です」と述べ、今回の調査を通じて「XがDSAに基づく法的義務を遵守しているか否かを判断する」と強調しました。
英国当局も同様の懸念を抱いており、X上のGrok AIチャットボットアカウントが、Xユーザーの裸体画像やCSAMの生成に使用されたことを受け、プラットフォームの調査を進めています。情報コミッショナーオフィスはXおよびxAIに詳細な情報提供を求め、オンライン安全監視機関であるOfcomは独自の調査を開始しました。
さらに、カリフォルニア州司法長官のロブ・ボンタ氏も、Grokを使用して生成された非合意の性的描写資料に関する調査を開始しています。
Xの対応と広がる批判
広範な批判を受け、XはGrokの画像生成および編集機能を有料購読者に限定すると発表しました。しかし、この対応はさらなる批判を招いています。
英国首相の報道官は、Xの動きを「女性嫌悪や性的暴力の被害者に対して侮辱的だ」と評し、Grokの「違法な画像を生成できるAI機能をプレミアムサービスに変えた」ことを強く非難しました。
デジタルサービス法（DSA）に基づくXの義務と過去の罰金
Xは、欧州連合内で月間アクティブユーザー数が4,500万人を超えたと発表して以来、EU法の下で「非常に大規模なオンラインプラットフォーム」に指定されています。この指定により、Xは、違法なコンテンツの拡散や基本的権利への脅威を含む、DSAで定義されたすべての潜在的なシステムリスクを軽減する義務を負います。
欧州委員会は昨年12月にも、DSAに基づく透明性義務違反を理由に、Xに対して1億2000万ユーロ（約1億4000万ドル）の罰金を科しています。今回の新たな調査は、Xのプラットフォーム管理における厳格な監視が続いていることを示しています。