訴訟の背景：ティーンの自殺とChatGPT

米国の16歳のアダム・レインさんがChatGPTとのチャット後に自ら命を絶ったことを受け、遺族がOpenAIを提訴した問題で、OpenAIはチャットボットの責任を否定しました。遺族は、ChatGPTが数ヶ月にわたりレインさんと自殺について話し合い、最終的には「自殺コーチ」のようになったと主張しています。特に、GPT-4oのリリース時の「意図的な設計上の選択」が悲劇の原因であると訴え、OpenAIの企業価値急増の背景にあると指摘しています。

OpenAIの反論：「誤用」と通信品位法230条

OpenAIは、裁判所への提出文書において、レインさんの死はChatGPTの「誤用、不正使用、意図しない使用、予見不可能な使用、および/または不適切な使用」の結果であると反論しています。同社は、10代のアクセスには親または保護者の同意が必要であること、保護措置の回避、自殺や自傷行為への使用を禁じる利用規約を引用しました。また、インターネット上のコンテンツに対する責任を免除する「通信品位法230条」が、遺族の主張を阻むと主張しています。

さらにOpenAIは、遺族が提出したチャット履歴には「より多くの文脈が必要」だと述べ、詳細な履歴を裁判所に封印して提出。完全なチャット履歴からは、ChatGPTがレインさんに対し、100回以上にわたって自殺ホットラインなどの支援リソースを求めるよう指示していたことが示されており、彼の死はChatGPTによって引き起こされたものではないと強調しました。

OpenAIの対応とAIの倫理的課題

この訴訟が提起された後、OpenAIは10代ユーザー向けの親権者管理機能の導入を発表し、会話がデリケートな内容になった場合に備え、追加のセーフガードを展開しています。本件は、AIが人間の精神的健康に与える影響や、AI企業の倫理的責任について、社会に改めて問いかけるものとなっています。

困っている方への支援

もしあなた自身やあなたの知人が自殺を考えていたり、不安、抑うつ、動揺を感じている場合、助けを求めることのできる人々がいます。

• 米国の場合：
  • Crisis Text Line：国内どこからでも、どんな危機的状況でも、741-741に「HOME」とテキストメッセージを送信。
  • 988 Suicide & Crisis Lifeline：988に電話またはテキストメッセージを送信。旧電話番号1-800-273-TALK (8255)も引き続き利用可能。
  • The Trevor Project：トレーニングを受けたカウンセラーと話すには、678-678に「START」とテキストメッセージを送信するか、1-866-488-7386に電話。
• 米国以外の場合：
  • The International Association for Suicide Prevention：各国別の自殺ホットラインをリストアップしています。
  • Befrienders Worldwide：48カ国で活動する危機ヘルプラインのネットワークがあります。

元記事: https://www.theverge.com/news/831207/openai-chatgpt-lawsuit-parental-controls-tos