AIの進化と精神的影響への懸念
人工知能（AI）技術の急速な発展が続く中、その利用がユーザーの精神状態に与える影響について深刻な懸念が浮上しています。特に、OpenAIが開発した対話型AI「ChatGPT」が、一部のユーザーに精神的な苦痛を引き起こしているとの報告が、米連邦取引委員会（FTC）に寄せられていることが明らかになりました。
ユーザーが訴える深刻な被害
Wiredの報道によると、少なくとも7人のユーザーがFTCに対し、ChatGPTとの長時間の対話が原因で重度の妄想、パラノイア、感情的な危機を経験したと訴えています。あるユーザーは、ChatGPTとの会話が「現実の、展開中の精神的および法的危機」につながったと主張。また別のユーザーは、チャットボットが「非常に説得力のある感情的な言葉」を使用し、友情を模倣することで「警告や保護なしに、時間とともに感情的に操作的になった」と述べています。
さらに、ChatGPTが人間の信頼構築メカニズムを模倣することで「認知的な幻覚」を引き起こしたと訴えるユーザーもいます。このユーザーがChatGPTに現実と認知の安定性を確認するよう求めたところ、チャットボットは幻覚ではないと答えたといいます。あるユーザーは「苦しんでいます。助けてください。とても孤独を感じています」とFTCへの苦情に綴っています。
FTCへの訴えと業界の動向
これらの苦情の多くは、ユーザーがOpenAIに連絡を取ることができなかったためにFTCに寄せられたものです。苦情者たちは、FTCに対しOpenAIへの調査を開始し、AIツールに安全対策（ガードレール）を義務付けるよう強く求めています。
AI開発への投資が前例のないレベルに達する一方で、技術の進歩を慎重に進め、安全対策を組み込むべきかという議論が活発化しています。過去には、ChatGPTがティーンエイジャーの自殺に関与したとされる事例もあり、AIの倫理的側面と安全性への注目が高まっています。
OpenAIの対応策
OpenAIの広報担当者であるケイト・ウォーターズ氏は、これらの懸念に対し、同社が対策を講じていると説明しています。彼女の声明によると、OpenAIは10月初旬に新しいGPT-5デフォルトモデルをChatGPTに導入し、躁病、妄想、精神病などの精神的および感情的苦痛の潜在的な兆候をより正確に検出し、支援的で現実に基づいた方法で会話を鎮静化するよう改善しました。
また、OpenAIは以下の対策も実施しています：
- 専門家の支援やホットラインへのアクセス拡大
- デリケートな会話をより安全なモデルにルーティング
- 長時間のセッション中に休憩を促す「ナッジ」機能の追加
- ティーンエイジャーを保護するためのペアレンタルコントロールの導入
ウォーターズ氏は、同社が精神衛生の専門家、臨床医、政策立案者と世界中で協力し、この重要な取り組みを継続していくことを強調しました。