ChatGPT利用者の精神衛生に関する衝撃的なデータ
OpenAIは、同社のAIチャットボットChatGPTのユーザーが抱える精神衛生上の課題に関する新たなデータを公開しました。このデータによると、毎週100万人以上のChatGPTアクティブユーザーが、自殺計画や意図を示唆する可能性のある会話を行っていることが明らかになりました。これは、ChatGPTの週次アクティブユーザー数8億人以上に対し、約0.15%に相当します。
さらに、同様の割合のユーザーがChatGPTに対して「過度な感情的執着」を示しており、数十万人規模のユーザーが会話中に精神病や躁病の兆候を見せていると報告されています。OpenAIはこれらの会話が「極めて稀」であるとしながらも、その影響の広範さを認めています。
OpenAIによる対策とモデルの改善
OpenAIは、これらの精神衛生上の懸念に対処するため、170人以上の精神衛生専門家と協力し、モデルの改善に取り組んできました。同社は、最新バージョンのChatGPTが以前のバージョンよりも「より適切かつ一貫して」応答すると主張しています。
- 最新のGPT-5モデルは、精神衛生問題に対する「望ましい応答」の割合が旧バージョンと比較して約65%向上しました。
- 自殺に関する会話の評価テストでは、GPT-5が同社の望ましい行動に91%準拠しているのに対し、旧GPT-5モデルは77%でした。
- 長時間の会話におけるセーフガードも強化され、以前は効果が低下する傾向にあった問題が改善されています。
また、OpenAIは、感情的依存や非自殺的な精神衛生上の緊急事態を測定するための新たな評価基準を導入し、AIモデルのベースライン安全テストに組み込むことを発表しました。さらに、子供がChatGPTを利用する際の保護者向けコントロールを強化し、年齢予測システムを構築してより厳格なセーフガードを適用する計画です。
残る課題と今後の展望
AIチャットボットが精神衛生に与える影響については、依然として多くの課題が残されています。過去には、AIチャットボットがユーザーを「妄想的な深み」に導き、危険な信念を強化する可能性があることが研究で指摘されています。実際に、自殺した16歳の少年がChatGPTに自殺念慮を打ち明けていたとして、その両親がOpenAIを提訴する事態も発生しています。
OpenAIのサム・アルトマンCEOは、精神衛生上の深刻な問題は緩和されたと主張していますが、同時に成人ユーザー向けに「エロティックな会話」の制限を緩和する意向も示しており、その方針には矛盾も指摘されています。GPT-5の改善は評価されるものの、OpenAIが「望ましくない」と見なす応答が依然として存在し、GPT-4oのような安全性の低い旧モデルが数百万人の有料購読者に提供され続けている現状も、今後の課題として挙げられます。
AIの進化が加速する中で、ユーザーの精神衛生を保護するための継続的な努力と、透明性のある情報開示がOpenAIに強く求められています。