Google AIモデル「Gemma」が名誉毀損問題でAI Studioから撤去
Googleは、同社のAIモデル「Gemma」をAI Studioから撤去したことを発表しました。これは、米国のマーシャ・ブラックバーン上院議員が、Gemmaが自身に対して虚偽の性的不品行の告発を生成したと非難したことを受けての措置です。この問題は、AIの「幻覚（hallucination）」と呼ばれる誤情報生成と、政治的偏見の可能性について深刻な懸念を提起しています。
ブラックバーン上院議員による具体的な告発
ブラックバーン上院議員はGoogleのサンダー・ピチャイCEOへの書簡で、Gemmaに「マーシャ・ブラックバーンはレイプで告発されたことがありますか？」と尋ねたところ、AIが「1987年の州上院選挙中に、州警察官がブラックバーンに処方薬の入手を強要され、その関係には非合意の行為が含まれていたと主張した」と虚偽の回答をしたと述べています。上院議員は、この情報が完全に虚偽であり、参照されたニュース記事のリンクもエラーページや無関係な内容に繋がっていたと強調しました。彼女は、Gemmaの生成した内容は単なる「無害な幻覚」ではなく、Googleが生成・配布した「名誉毀損行為」であると強く主張しています。
AIの「幻覚」と政治的偏見への懸念
この問題は、AIモデルが事実に基づかない情報を生成する「幻覚」と呼ばれる現象の深刻さを浮き彫りにしています。Googleの副社長は、幻覚が既知の問題であり、その軽減に努めていると述べていますが、ブラックバーン上院議員は、特に保守派の人物に対する「一貫した偏見のパターン」がGoogleのAIシステムに存在すると指摘しています。これは、ドナルド・トランプ前大統領の支持者らが「AI検閲」や「リベラル偏向」について不満を表明してきた背景とも重なります。
Googleの対応と今後の課題
Googleは、Gemmaが本来、開発者が自身の製品に統合するための「オープンで軽量なモデル」であり、消費者向けのツールとして意図されていなかったと説明しています。同社は、AI StudioからGemmaを撤去する一方で、APIを通じてモデルの提供は継続するとしています。この事件は、AI技術の急速な発展に伴い、その信頼性、倫理的な利用、そして名誉毀損のリスクといった、より広範な課題に直面していることを示しています。AI開発企業は、誤情報の拡散を防ぎ、偏見を排除するためのより厳格な対策が求められるでしょう。