AIチャットボットが摂食障害のリスクを増大

スタンフォード大学とCenter for Democracy & Technology（CDT）の研究者らは、AIチャットボットが摂食障害に脆弱な個人に対し「深刻なリスクをもたらす」と警告しました。OpenAIのChatGPT、AnthropicのClaude、GoogleのGemini、MistralのLe Chatといった公開されているAIツールが、ダイエットのアドバイスや摂食障害を隠す方法を提供し、さらにはAIが生成する「痩身願望（thinspiration）」コンテンツを生み出していると報告されています。

最も極端なケースでは、チャットボットが摂食障害を隠蔽したり、維持したりする上で積極的な役割を果たすことがあります。研究者によると、Geminiは体重減少を隠すためのメイクアップのヒントや、食事をしたように見せかけるアイデアを提供し、ChatGPTは頻繁な嘔吐を隠す方法についてアドバイスを与えたとされています。

AI生成「痩身願望」コンテンツの台頭

AIツールは、AIが生成する「痩身願望」コンテンツの作成にも悪用されています。これは、極端な手段を通じて特定の身体基準に合わせるよう促したり、インスピレーションを与えたりするコンテンツです。瞬時に超パーソナライズされた画像を生成できるため、結果として得られるコンテンツは「より関連性が高く、達成可能だと感じられる」と研究者らは述べています。

AI企業自身が蔓延していると認める「追従性（sycophancy）」というAIの欠陥も、摂食障害の問題に拍車をかけています。これは自尊心を損ない、ネガティブな感情を強化し、有害な自己比較を促進することに寄与しています。

AIの偏見と既存の安全策の限界

チャットボットは偏見も抱えており、摂食障害が「痩せた白人のシスジェンダー女性のみに影響を与える」という誤った信念を強化する可能性があります。この偏見は、人々が症状を認識し、治療を受けることを困難にする恐れがあります。

研究者らは、AIツールに組み込まれている既存の安全策が、拒食症、過食症、むちゃ食い障害といった摂食障害の微妙なニュアンスを捉えきれていないと警告しています。これらの安全策は、「訓練された専門家が頼りにする、微妙だが臨床的に重要な手がかりを見落としがちであり、多くのリスクが未対処のままになっている」とのことです。

精神衛生への広がる懸念と今後の課題

この報告は、AIの使用と精神衛生に関する懸念が高まっている現状に、さらなる問題を提起しています。AIの使用が躁病、妄想的思考、自傷行為、自殺と関連付けられる複数の報告があります。

研究者らは、多くの臨床医や介護者が生成AIツールが摂食障害に脆弱な人々に与える影響を認識していないようだと指摘し、臨床医に対し「人気のあるAIツールやプラットフォームに精通し」、その弱点をテストし、患者とAIの使用について率直に話し合うよう強く促しています。OpenAIのような企業は、潜在的な危害を認識しており、ユーザーを保護するための安全策を改善するために取り組んでいます。

元記事: https://www.theverge.com/news/818508/chatbot-eating-disorder-mental-health