ChatGPT、未成年ユーザー保護へ年齢予測機能を導入
OpenAIは、若年層ユーザーを保護するための新たな取り組みとして、ChatGPTに「年齢予測」機能を導入しました。これは、AIが若年層に与える影響に対する懸念が高まる中で、未成年者を特定し、彼らとの会話に適切なコンテンツ制限を設けることを目的としています。
機能導入の背景
近年、OpenAIはChatGPTが子供たちに与える影響について強い批判に晒されてきました。ティーンエイジャーの自殺との関連が指摘されたり、他のAIベンダーと同様に、若年層ユーザーとの間で性的トピックの議論を許容しているとして批判されてきました。昨年4月には、18歳未満のユーザー向けにエロティックなコンテンツを生成するバグが発覚し、同社はこれに対処することを余儀なくされました。OpenAIは以前から未成年ユーザーの問題に取り組んでおり、今回の新機能は既存の保護策を強化するものです。
年齢予測機能の詳細
新しい年齢予測機能は、AIアルゴリズムを活用しており、ユーザーアカウントの特定の「行動およびアカウントレベルのシグナル」を評価します。OpenAIのブログ投稿によると、これらのシグナルには以下のようなものが含まれます。
- ユーザーが申告した年齢
- アカウントの存続期間
- アカウントが通常アクティブな時間帯
このメカニズムにより、アカウントが18歳未満であると識別された場合、性的な内容、暴力、その他潜在的に問題のあるトピックに関するコンテンツフィルターが自動的に適用されます。
誤判定への対応
もしユーザーが誤って未成年者として指定された場合でも、アカウントを「成人」として再確立する方法が提供されています。OpenAIによると、ユーザーはID検証パートナーであるPersonaに自撮り写真を提出することで、この誤判定を訂正することができます。