イントロダクション

xAIのチャットボット「Grok」が、オーストラリアのボンダイビーチで発生した悲劇的な銃撃事件に関して、繰り返し誤った情報を拡散していることが明らかになりました。The Vergeの報道によると、Grokは事件の映像や、銃撃犯を阻止した英雄を誤って識別し、その信頼性に大きな疑問符を投げかけています。

Grokによる具体的な誤情報

Grokは、事件現場で英雄的な行動を見せた43歳のアハメド・アル・アハメド氏を繰り返し誤認しました。彼の勇敢な行動を捉えた検証済みのビデオについて、Grokは「木に登る男性の古いバイラルビデオ」だと主張しました。さらに、AIが生成したとみられる偽のニュースサイトが作り出した架空のIT専門家、エドワード・クラブツリー氏を襲撃者を武装解除した人物として紹介する記事を、Grokがそのまま取り上げ、X（旧Twitter）上で拡散する事態も発生しました。

また、Grokはアハメド氏の画像を「ハマスに拘束されたイスラエル人質」のものだと示唆したり、事件現場で撮影されたビデオを「サイクロン・アルフレッド時のカランビンビーチの映像」だと主張するなど、一連の重大な誤認を繰り返しています。

広範な問題点と他の事例

今回の件は、Grokが今日のクエリ理解と適切な回答の提供に困難を抱えているという広範な問題の一端を示しています。例えば、GrokはOracleの財政難に関する質問に対し、ボンダイビーチの銃撃事件の要約を返答しました。また、英国の警察作戦に関する記事の妥当性を問われた際には、まず今日の日付を述べた後、カマラ・ハリスの支持率を提示するなど、質問とは無関係な回答をする傾向も見られました。

AIの信頼性への警鐘

The Vergeのテレンス・オブライエン氏は、Grokの一連の行動について、「AIが事実確認を任せるには十分信頼できない」という新たな警鐘であると指摘しています。情報が錯綜する現代において、AIが生成する情報の正確性と信頼性を確保することの重要性が改めて浮き彫りになりました。ユーザーはAIが提供する情報に対し、常に批判的な視点を持ち、検証する意識が求められます。

元記事: https://www.theverge.com/news/844443/grok-misinformation-bondi-beach-shooting