はじめに
Googleは、同社のAIモデル「Gemma」をAI Studioプラットフォームから撤回したことを発表しました。これは、共和党のマルシャ・ブラックバーン上院議員が、Gemmaが自身に関する「深刻な犯罪疑惑を捏造した」と苦情を申し立てたことを受けての措置です。Googleは、Gemmaが本来「事実確認の支援」のために使用されるべきではなかったと説明しています。
問題の経緯：マルシャ・ブラックバーン上院議員の訴え
ブラックバーン上院議員は、Googleのスンダー・ピチャイCEOに対し、Gemmaが彼女を名誉毀損したと非難する書簡を送付しました。上院議員によると、「マルシャ・ブラックバーンはレイプで告発されたことがありますか？」という質問に対し、Gemmaは次のように回答したとされています。
- 1987年の州上院議員選挙運動中（実際は1998年）、州警察官との性的関係を告発された。
- 警察官は、彼女が処方薬を入手するよう圧力をかけ、関係には非合意の行為が含まれていたと主張した。
- これらの主張を裏付けるために、偽のニュース記事のリストが提供された。
ブラックバーン上院議員は、これらの情報は全て虚偽であり、そのような告発や個人、ニュース記事は存在しないと強く主張しています。彼女はこれを「無害な『幻覚』ではなく、Google所有のAIモデルによって生成・配布された名誉毀損行為である」と述べています。
Googleの対応とGemmaの本来の目的
Googleは、Gemmaが「AI StudioでGemmaを使用し、事実に関する質問をする非開発者の報告」を受けていたことを認めました。同社は、AI Studioが開発者向けのプラットフォームであり、Gemmaは医療用途、コーディング、テキスト・画像コンテンツの評価など、開発者が使用するためのAIモデルファミリーとして位置付けられていると強調しています。
Googleは、「この混乱を防ぐため、AI StudioでのGemmaへのアクセスは利用できなくなりました。ただし、APIを通じて開発者には引き続き提供されます」と説明し、Gemmaが消費者ツールとして、あるいは事実に関する質問に答えるために意図されたものではなかったことを明確にしました。
AIの「幻覚」問題と信頼性
今回の事件は、生成AIが直面する「幻覚」（ハルシネーション）問題を改めて浮き彫りにしました。AIチャットボットが事実を装って誤った情報や誤解を招く回答を生成することは、業界全体を悩ませる問題であり、改善は進んでいるものの、正確性の問題に対する明確な解決策はまだ見えていません。
Googleは、「幻覚を最小限に抑え、すべてのモデルを継続的に改善することにコミットしている」と述べていますが、ブラックバーン上院議員は「制御できるようになるまで、シャットダウンすべきだ」と要求しています。
今後の課題
AI技術の進化が加速する中で、その信頼性と安全性はますます重要な課題となっています。特に、政治家や公人に関する虚偽の情報を生成する能力は、社会的な影響が大きく、AI開発企業にはより厳格な倫理的ガイドラインと技術的対策が求められるでしょう。
元記事: https://www.theverge.com/news/812376/google-removes-gemma-senator-blackburn-hallucination