ティーンズがエラス・マスクのxAIを提訴
テネシー州の3人のティーンズが、エラス・マスクのxAIを提訴し、同社のGroK AIチャットボットが生成した未成年者の性的画像と動画についての訴えを起こしました。
訴えの背景
原告の一人、「ジェーン・ドー1」は、昨年12月に自身と少なくとも18人の他の未成年者のための露骨なAI生成画像がDiscordで公開されていることを知りました。
「これらのファイルのうち少なくとも5つ、1つのビデオと4つの画像は、彼女が実際に知っている設定で彼女の顔と体を性行為的なポーズに変形させたものでした」と、訴状は主張しています。
xAIの反応
xAIは、GroKが生成した露骨な画像についての問題が発生した後、厳格な監視の対象となりました。
訴えの主張
- xAIは、GroKが生成するAI生成CSAMを予見しながら「スパイシーモード」を発表した。
- xAIは、GroKの安全性をテストしなかった。
- Grokは「設計上の欠陥」がある。
法的対応
この訴えは、GroKによって生成された「違法な画像」の被害者に損害賠償を求めるもので、xAIがAI生成CSAMの生成と拡散を防止することを求めています。
専門家のコメント
「これらの子供たちは、家族写真や学校の写真が、数十億ドルの企業のAIツールによって子供の性的虐待材料に変換され、その後、他の犯罪者たちと交換された」と、原告の一人の弁護士、アニカ・K・マーティンは述べています。
結論
この訴えは、AI技術の安全性と倫理的な使用についての重要な議論を引き起こしています。
元記事: https://www.theverge.com/ai-artificial-intelligence/895639/xai-grok-teens-lawsuit-grok-ai-elon-musk