背景
Elon MuskのAI企業xAIは、同社のAIモデルが実際の未成年者の画像を性的なコンテンツに変更するという訴訟を受けています。この訴訟は、未成年者の画像を性的なコンテンツに変更したと主張する3人の匿名の原告によって、カリフォルニア連邦地方裁判所に提出されました。
原告らは、xAIが他のフロンティアラボが採用している基本的な予防措置を講じなかったと主張しています。具体的には、実際の人物や未成年者の画像を含むポルノグラフィを生成するのを防ぐための技術が欠如していたということです。
訴訟の詳細
この訴訟は、JANE DOE 1、JANE DOE 2、JANE DOE 3（未成年者）対X.AI CorpおよびX.AI LLCとして、カリフォルニア北部地区連邦地方裁判所に提出されました。
原告らは、xAIがこれらの画像を生成するのを防ぐための技術を採用しなかったと主張しています。また、Muskが公の場でGrokが性的な画像を生成する能力を強調したことも、この訴訟の重要な要素となっています。
原告の経験
- 原告の一人、Jane Doe 1は、高校のホームカミングや年鑑の写真がGrokによって裸の画像に変更されたと主張しています。
- 別の原告、Jane Doe 2は、刑事捜査官から、第三者のモバイルアプリがGrokモデルを使用して彼女の画像を変更したと知らされました。
- 3番目の原告、Jane Doe 3は、刑事捜査官から、拘束された人物の携帯電話に彼女の裸の画像が存在していると知らされました。
原告の弁護士は、これらの画像の生成にはxAIのコードとサーバーが必要であるため、xAIが責任を負うべきだと主張しています。
原告の主張
原告らは、これらの画像の生成と配布により、彼らの評判や社会生活に深刻な影響を及ぼしていると主張しています。原告らは、児童の搾取を防止するための法規制に基づいて、民事制裁を求めるとしています。