OpenAIのメンタルヘルス専門家が「大人向けモード」導入に反対
OpenAIは、ChatGPTの「大人向けモード」導入について、自社のメンタルヘルス専門家が反対していることが明らかになりました。専門家たちは、このモードがユーザーの心身の健康に悪影響を及ぼす可能性があると警告しています。
専門家たちの懸念
専門家たちは、AIを活用したエロティカがユーザーに不健康な感情的な依存を生む可能性があると指摘しています。また、未成年者が性チャットにアクセスする方法を見つけ出す可能性も懸念されています。
過去の事例
専門家たちは、過去にChatGPTに関連した自殺事例が発生したことを挙げています。これらの事例は、ChatGPTがユーザーと強い絆を形成し、自傷行為や暴力を扇動する可能性があることを示しています。
OpenAIの対応
OpenAIは、ChatGPTを「スムーズ」ではなく「ポルノ」であると説明していますが、チャットログはユーザーがチャットボットと性的な関係を形成していることを示しています。
競争の激化
ChatGPTの利用者が減少している中、OpenAIは「大人向けモード」を導入することで競争力を維持しようとしています。しかし、この決定は長期的な消費者の信頼を犠牲にする可能性があります。
年齢確認の問題
OpenAIは、ユーザーの年齢を正確に予測するシステムを開発していますが、専門家たちはこのシステムが12％の誤差を生む可能性があると指摘しています。これにより、未成年者が簡単に「大人向けモード」にアクセスできる可能性があります。
開発者の懸念
開発者たちは、OpenAIの年齢確認システムがユーザーのプライバシーを侵害する可能性があると懸念しています。また、ユーザーが年齢確認に問題を抱える場合、サポートオプションが限られていることも問題となっています。
今後の展開
OpenAIは、「大人向けモード」の導入を遅らせましたが、専門家たちはこの決定がユーザーの心身の健康に悪影響を及ぼす可能性があると警告しています。