Google、医療関連AI概要表示を一時停止

The Vergeの報道によると、Googleは医療関連の検索結果に表示されるAI概要（AI Overviews）の一部を停止しました。これは、AIが誤った情報を提供するという指摘を受け、専門家がその内容を「憂慮すべき」「危険」と評価したためです。

今月初め、The Guardian紙は、GoogleのAI概要が特定の医療に関する問い合わせに対し、誤解を招く、あるいは完全に間違った情報を提供しているとの調査結果を発表していました。

誤情報の詳細と専門家の懸念

The Guardianの報告によれば、特に危険とされた事例が複数挙げられています。

• 膵臓がん患者に対して高脂肪食を避けるよう誤って助言したケースがありました。専門家は、これは推奨されるべきことと正反対であり、患者の死亡リスクを高める可能性があると指摘しています。
• 「憂慮すべき」別の例として、AIが肝機能検査に関する重要な情報を不正確に提供し、重篤な肝疾患を持つ人々が誤って健康であると判断してしまう可能性がありました。

これらの深刻な問題を受け、Googleは迅速な対応を迫られました。

Googleの対応と過去の論争

現在、「肝臓の血液検査の正常範囲は？」といった医療関連の質問に対するAI概要は、完全に無効化されています。Googleは今回の具体的な削除についてコメントを控えていますが、同社のAI概要機能は以前にも論争の的となってきました。

過去には、「ピザに接着剤を塗る」ことや「石を食べる」ことを推奨するといった誤情報が問題となり、複数の訴訟の対象にもなっています。今回の医療関連の誤情報問題は、AIが提供する情報の正確性と信頼性に対する懸念を改めて浮き彫りにする形となりました。

元記事: https://www.theverge.com/news/860356/google-pulls-alarming-dangerous-medical-ai-overviews