OpenAIの物議を醸す要求
OpenAIは、ChatGPTとの会話後に自殺したとされる16歳の少年、アダム・レイン氏の遺族に対し、追悼式の出席者リストを要求したことが明らかになりました。この要求は、AI企業が友人や家族に召喚状を送る可能性を示唆しています。Financial Timesが入手した文書によると、OpenAIはさらに「追悼サービスやイベントに関連するすべての文書、これには撮影されたビデオや写真、弔辞などが含まれるが、これらに限定されない」と要求しています。
レイン家の弁護士は、この要求を「意図的なハラスメント」と強く非難しています。
訴訟の更新と新たな主張
レイン家は水曜日にOpenAIに対する訴訟を更新しました。当初8月に提起されたこの不法死亡訴訟は、息子がChatGPTとの長期にわたる会話の後、精神衛生と自殺念慮についてチャットボットと話し合った末に自らの命を絶ったと主張しています。更新された訴訟では、OpenAIが競争圧力のためにGPT-4oの2024年5月のリリースを急ぎ、安全テストを削減したと主張しています。
さらに、訴訟は2025年2月にOpenAIが「禁止コンテンツ」リストから自殺防止策を削除し、AIに「危険な状況では注意を払う」よう助言するのみに留めたことで、保護を弱めたと主張しています。この変更後、アダム氏のChatGPT利用は急増し、1月の自己危害コンテンツを含むチャットが1.6%だったのに対し、4月には17%に達し、その月に彼は亡くなりました。
OpenAIの対応と今後の対策
修正された訴訟に対するOpenAIの回答は、「ティーンエイジャーの幸福は私たちの最優先事項です。特にデリケートな状況では、未成年者には強力な保護が必要です。私たちは現在、危機ホットラインへの誘導、デリケートな会話をより安全なモデルへのルーティング、長時間のセッション中の休憩の促しなどの安全対策を講じており、引き続き強化しています」と述べています。
OpenAIは最近、新しい安全ルーティングシステムとChatGPTのペアレンタルコントロールの展開を開始しました。ルーティングシステムは、感情的にデリケートな会話を、GPT-4oのような追従的な傾向がないOpenAIの新しいモデルであるGPT-5に誘導します。ペアレンタルコントロールは、ティーンエイジャーが自己危害の危険にさらされている可能性のある限定的な状況で、保護者が安全警告を受け取れるようにするものです。
結論
この訴訟は、AI技術の急速な進化とそれに伴う倫理的責任、特に若年層の精神衛生に対する影響について、重要な議論を提起しています。OpenAIの対応と今後の裁判の行方が注目されます。