AIチャットボットGrok、ボンダイビーチ銃乱射事件で誤情報拡散

イーロン・マスク氏のxAIが開発し、ソーシャルメディアプラットフォームXで広く利用されているAIチャットボット「Grok」が、オーストラリアのボンダイビーチで発生した銃乱射事件に関して、繰り返し誤った情報を拡散していたことが判明しました。 この事件は、AIが生成する情報の正確性と信頼性について、深刻な懸念を投げかけています。

誤報の具体的内容

Gizmodoが指摘するところによると、Grokは事件に関する複数の点で事実と異なる情報を発信していました。主な誤報は以下の通りです。

• 英雄的な市民の誤認： 銃撃犯の一人を武装解除した43歳の市民Ahmed al Ahmed氏を誤って特定。別の投稿では、彼を「エドワード・クラブツリー」という43歳のIT専門家兼シニアソリューションアーキテクトであると主張しました。
• 情報の信憑性への疑問： al Ahmed氏の行動を捉えた動画や写真の信憑性について疑問を呈しました。
• 不適切な関連情報の提示： ある投稿では、al Ahmed氏をイスラエルの人質と誤認し、別の投稿ではイスラエル軍によるパレスチナ人の扱に関する無関係な情報に言及しました。

Grokによる修正と課題

Grokは自身の誤りの一部を修正しているようです。例えば、銃撃事件の動画が「サイクロン・アルフレッド」を示すものだと主張していた投稿は、「再評価の結果」、訂正されました。また、その後Grokはal Ahmed氏の身元を認め、「誤解は、彼をエドワード・クラブツリーとして誤って特定したバイラル投稿に起因するものであり、おそらく報道の誤りか、架空の人物を参照したジョークによるものだ」と説明しました。この情報源とされる記事は、機能不全でAIによって生成された可能性のあるニュースサイトに掲載されていたと報じられています。

IT業界とAI開発への教訓

この一連の出来事は、AIチャットボットが生成する情報の正確性を確保することの難しさと重要性を浮き彫りにしています。特に、緊急性の高いニュースや社会的に影響の大きい事柄において、AIのファクトチェック機能と誤情報検出能力の強化が急務であることを示唆しています。AI技術の進化が加速する中で、開発者やプラットフォーム運営者には、信頼性の高い情報提供と、誤情報拡散を防ぐためのさらなる対策が求められるでしょう。

元記事: https://techcrunch.com/2025/12/14/grok-gets-the-facts-wrong-about-bondi-beach-shooting/