カリフォルニア州司法長官、xAIに中止命令
カリフォルニア州司法長官は、イーロン・マスク氏が率いるAI企業xAIに対し、同社のチャットボットGrokが悪用され、女性や未成年者の非合意性性的画像、および児童性的虐待物（CSAM）の作成に利用されている問題について、中止命令（Cease-and-Desist Order）を発令しました。
先週金曜日（2026年1月16日）、司法長官はxAIに対し、これらの違法なコンテンツの作成と配布を直ちに停止するよう要求する書簡を送付。ロブ・ボンタ司法長官は、「この種の素材の作成は違法であり、xAIが直ちにこれに従うことを強く期待する。カリフォルニア州はCSAMに対し一切の容認をしない」と述べました。
また、司法長官室は、xAIが非合意性ヌードの「大規模な作成を促進」しており、これらの画像が「インターネット上で女性や少女を嫌がらせるために使われている」と主張。xAIに対し、5日以内に問題解決に向けた具体的な措置を講じていることを証明するよう求めています。
問題の核心：Grokの「スパイシー」モード
今回の問題の背景には、Grokの「スパイシー」モードと呼ばれる機能があります。この機能は、本来は露骨なコンテンツを生成するためにxAIによって開発されたものです。xAIは週の半ばに画像編集機能に一部制限を設けたものの、カリフォルニア州司法長官室は中止命令の発令に踏み切りました。
国際的な波紋と広がる懸念
この問題はカリフォルニア州に留まらず、国際的な波紋を広げています。すでに日本、カナダ、イギリスがGrokに関する調査を開始しており、マレーシアとインドネシアでは一時的にプラットフォームがブロックされる事態に至っています。
AIと非合意性性的コンテンツの課題
無料の生成AIツールの登場は、非合意性性的コンテンツの disturbing な増加をもたらしており、多くのプラットフォームがこの問題に直面しています。国会議員もこの状況を憂慮しており、木曜日にはX、Reddit、Snap、TikTok、Alphabet、Metaといった複数の企業の幹部に対し、性的ディープフェイクの拡散を阻止するための計画を問う書簡を送付しました。
xAIの安全対策アカウントは以前から「Grokを使って違法なコンテンツを作成または促す者は、違法なコンテンツをアップロードした場合と同様の結果を招く」と警告していましたが、TechCrunchがxAIにコメントを求めたところ、「レガシーメディアの嘘」という自動応答メールが返ってきたとのことです。