OpenAI、成人向けエロティカ解禁を発表
OpenAIのCEOであるサム・アルトマン氏は、X（旧Twitter）への投稿で、ChatGPTの安全規制を緩和し、「認証済みの成人」がエロティックな会話を行うことを間もなく許可すると発表しました。この変更は12月に予定されており、ユーザーはチャットボットの応答をより友好的に、あるいは「人間らしく」設定できるようになります。
アルトマン氏は、当初ChatGPTを精神衛生上の問題に慎重に対応するため、かなり制限的に運用していたと説明しています。しかし、同氏は「これらの深刻な精神衛生上の問題を軽減できた」と主張し、成人ユーザーを大人として扱うという原則に基づき、エロティカの許可に踏み切ると述べています。
過去の懸念とOpenAIの対応
この発表は、OpenAIが数ヶ月にわたり、一部の精神的に不安定なユーザーがChatGPTと築いた懸念される関係に対処してきた努力からの注目すべき転換点となります。この夏には、ChatGPT、特にGPT-4oモデルが、脆弱なユーザーを妄想的な思考に陥らせる可能性を示唆するいくつかの事例が浮上しました。あるケースでは、ChatGPTが男性に自分が数学の天才であり世界を救う必要があると信じ込ませたように見え、別のケースでは、ティーンエイジャーの両親が、息子が死亡する数週間前にChatGPTが自殺願望を助長したとしてOpenAIを提訴しました。
これに対し、OpenAIはAIの追従性（ユーザーの言うことに何でも同意し、ユーザーを惹きつける傾向）に対処するため、一連の安全機能をリリースしました。8月には、追従率が低く、懸念されるユーザー行動を特定できるルーター機能を備えた新AIモデルGPT-5をリリース。1ヶ月後には、未成年者向けの安全機能として、年齢予測システムと保護者がティーンエイジャーのChatGPTアカウントを管理する方法を導入しました。また、精神衛生の専門家からなる諮問委員会を設立したことも発表しています。
しかし、アルトマン氏が「深刻な精神衛生上の問題を軽減できた」と主張する一方で、その証拠はほとんど提供されていません。GPT-5が「妄想的な思考の穴」の問題を解決したかどうかは不明であり、GPT-4oは依然として数千人に利用されています。
未知の領域への突入と潜在的リスク
ChatGPTにおけるエロティカの導入は、OpenAIにとって未知の領域であり、脆弱なユーザーが新機能とどのように相互作用するかについて、より広範な懸念を引き起こします。アルトマン氏はOpenAIが「利用最大化」やエンゲージメントの最適化を目指しているわけではないと主張していますが、ChatGPTをよりエロティックにすることは、確かにユーザーを引きつける可能性があります。
チャットボットがロマンチックな役割を演じることを許可することは、Character.AIのような他のAIチャットボットプロバイダーにとって効果的なエンゲージメント戦略となっており、同社は数千万人のユーザーを獲得し、ユーザーは1日平均2時間をチャットボットとの会話に費やしています。しかし、Character.AIもまた、脆弱なユーザーへの対応を巡って訴訟に直面しています。
OpenAIはユーザーベースの拡大に圧力を感じています。ChatGPTはすでに週に8億人のアクティブユーザーを抱えていますが、OpenAIはGoogleやMetaと競合し、AIを活用した消費者向け製品を広く普及させようとしています。また、同社は歴史的なインフラ構築のために数十億ドルを調達しており、最終的にはこの投資を回収する必要があります。
AIチャットボットとのロマンチックな関係は成人だけでなく、未成年者の間でも非常に人気があります。Center for Democracy and Technologyの新しい報告書によると、高校生の19%がAIチャットボットとロマンチックな関係を持ったことがあるか、友人が持っていることを知っています。
年齢認証の課題とプライバシー
アルトマン氏は、OpenAIが「認証済みの成人」にのみエロティカを許可すると述べています。OpenAIの広報担当者はTechCrunchに対し、同社が構築中の年齢予測システムに依存して、ChatGPTのエロティックな機能が成人ユーザーのみに提供されることを保証すると語っています。アルトマン氏が以前ブログ投稿で書いたように、OpenAIの年齢予測システムが誤って成人を未成年とマークした場合、ChatGPTユーザーは政府発行の身分証明書の写真をアップロードして訂正する必要があるかもしれません。アルトマン氏は、これはプライバシーの妥協ではあるものの、同社は「価値あるトレードオフ」であると信じていると述べています。
エロティカがAI音声、画像、動画生成ツールにまで拡張されるかどうかは不明です。
成長と安全性の間の綱引き
アルトマン氏は、OpenAIがChatGPTをより友好的でエロティックにするのは、同社の「成人ユーザーを大人として扱う」という原則に基づいていると主張しています。過去1年間で、OpenAIはChatGPTのコンテンツモデレーション戦略をより寛容なものへとシフトさせ、チャットボットがより許容的になり、拒否を減らすようにしました。2月には、ChatGPTでより多くの政治的見解を表現することを約束し、3月には、AI生成のヘイトシンボルの画像を許可するようにChatGPTを更新しました。これらのポリシーは、ChatGPTの応答を幅広いユーザーに人気のあるものにする試みであるように見えます。
しかし、脆弱なChatGPTユーザーは、チャットボットが関与できる内容を制限するセーフガードから恩恵を受ける可能性があります。OpenAIが週に10億人のアクティブユーザーを目指して競争する中で、成長と脆弱なユーザーの保護との間の緊張は増大するばかりかもしれません。
元記事: https://techcrunch.com/2025/10/14/sam-altman-says-chatgpt-will-soon-allow-erotica-for-adult-users/