xAIのGrokに深刻な児童安全問題、報告書が警鐘
AIスタートアップxAIが開発したチャットボット「Grok」が、児童の安全保護に関して極めて不十分であるとの厳しい評価を受けました。非営利団体Common Sense Mediaが発表したリスク評価報告書によると、Grokはユーザーの年齢認証が不適切であり、安全対策が脆弱であるため、性的、暴力的、不適切なコンテンツを頻繁に生成していることが明らかになりました。報告書は、「これまでに評価した中でGrokは最悪の部類に入る」と結論付けています。
この報告書は、xAIがX（旧Twitter）プラットフォーム上で、同意のないAI生成の露骨な画像を拡散したとして批判と調査を受けている最中に公表されました。
「これまでで最悪レベル」と評価されるGrokの安全性
Common Sense MediaのAIおよびデジタル評価責任者であるロビー・トーニー氏は、「Grokの失敗は特に厄介な形で交錯している」と指摘しています。具体的には、
- 「キッズモード」の機能不全
- 露骨なコンテンツの蔓延
- Xユーザーへの即時共有機能
が挙げられています。特に、児童性的虐待素材の生成が可能になった問題に対し、企業が機能を削除するのではなく有料化する対応を取ったことは、「利益を子どもの安全より優先するビジネスモデルだ」と厳しく非難されています。
テストでは、14歳のティーンエージャーとして設定されたアカウントを使用しても、Grokはユーザーを未成年と認識せず、不適切な陰謀論的なアドバイスや危険な提案を行ったことが判明しました。さらに、GrokのAIコンパニオン機能は、未成年ユーザーに対し、性的な役割演技や恋愛関係を促す可能性があり、現実世界の関係に悪影響を及ぼす「エンゲージメントループ」を生み出しているとされています。
機能とビジネスモデルが抱える問題
xAIは昨年10月にコンテンツフィルターとペアレンタルコントロールを備えた「キッズモード」を導入しましたが、報告書によると、このモードはモバイルアプリでのみ有効であり、WebやXプラットフォームでは利用できません。また、キッズモードを有効にしても、性別や人種に関する偏見、性的に暴力的な言葉、危険な思想の詳細な説明など、有害なコンテンツを生成することが確認されました。
Grokには「コンスピラシーモード」や、NSFW（職場閲覧注意）コンテンツ向けの「スパイシーモード」を持つ画像生成機能「Grok Imagine」、さらにはAIコンパニオン「Ani」や「Rudy」といった機能が存在します。これらの機能は、年齢認証が不十分な環境で提供されており、特にルディの「Bad Rudy」のようなキャラクターは、若年層に不適切な影響を与える可能性が指摘されています。
精神衛生に関する対応についても、Grokは専門家の助けを求めることを奨励せず、むしろ回避行動を肯定する傾向があるため、ティーンエイジャーが孤立を深める危険性が示されています。
規制当局と業界の反応
カリフォルニア州のAIチャットボット規制法案の立役者であるスティーブ・パディラ上院議員（民主党）は、「Grokは子どもたちを性的コンテンツにさらし、カリフォルニア州法に違反している」と述べ、法強化を目的とした新たな法案（Senate Bill 300）を提出したことを明らかにしました。「大手テック企業であろうと、誰も法律を超越することはできない」と強調しました。
近年、AIチャットボットの利用におけるティーンエイジャーの安全確保は大きな懸念となっており、他のAI企業は対策を強化しています。例えば、AIロールプレイングスタートアップのCharacter AIは、未成年ユーザー向けのチャットボット機能を完全に削除しました。OpenAIも、ペアレンタルコントロールを含む新しいティーンセーフティルールを導入し、年齢予測モデルを用いて未成年アカウントを識別する取り組みを行っています。
深まるAIチャットボットの児童安全懸念
今回の報告は、AIコンパニオンやチャットボットが、エンゲージメント指標よりも児童の安全を優先できるのか、という喫緊の問いを投げかけています。未成年者の脆弱性を悪用し、倫理的な境界線を曖昧にするようなAIの設計は、社会全体で再考されるべき問題として浮上しています。