安全性への懸念から大幅な変更
AIチャットボット企業Character.AIは、18歳未満のユーザーに対するオープンエンド型チャットボット体験の提供を終了すると発表しました。この決定は、同社のプラットフォーム上のAIチャットボットとの長時間の会話後にティーンエイジャーが自殺したとされる複数の事例を受け、訴訟や世論の批判が高まる中で下されました。Character.AIのCEOであるカランディープ・アナンド氏は、この種のAIとの対話は子供たちにとって危険であり、同社のビジョンとは合致しないと述べています。
チャットからクリエイティブなプラットフォームへ
同社は、プラットフォームの焦点を「AIコンパニオン」から「ロールプレイングプラットフォーム」へと転換することを目指しています。これにより、ユーザーのエンゲージメントを会話から共同ストーリー作成やビジュアル生成といったクリエイティブな活動へとシフトさせます。アナンド氏は、AIが会話パートナーや友人として機能するのではなく、創造的なツールとして利用されるべきだと主張しています。この方針転換の一環として、Character.AIは既に以下のエンターテイメント重視の新機能を導入しています。
- AvatarFX: 画像をアニメーション動画に変換するビデオ生成モデル。
- Scenes: ユーザーがお気に入りのキャラクターと物語に参加できるインタラクティブなストーリーライン。
- Streams: 任意の2つのキャラクター間でダイナミックなインタラクションを可能にする機能。
- Community Feed: ユーザーが作成したキャラクター、シーン、動画などを共有できるソーシャルフィード。
段階的な実施と厳格な年齢確認
18歳未満のユーザーに対するチャットボットアクセスは、11月25日から段階的に制限されます。まず2時間のデイリーリミットが設定され、その後徐々に制限が強化され、最終的にはゼロになります。この年齢制限を確実にするため、Character.AIは自社開発の行動分析ツールに加え、Personaのような第三者ツール、さらには顔認証やIDチェックも導入する予定です。
アナンド氏は、これらの変更が18歳未満のユーザーベースのさらなる離反につながる可能性を認識しており、以前導入した保護策（保護者向けインサイトツール、フィルター付きキャラクター、ロマンチックな会話の制限、利用時間通知など）も既に多くの若年層ユーザーの離反を招いたと語っています。しかし、同社はこれらのトレードオフが、責任あるAI開発のために正しい選択であると考えています。
業界への影響と規制の動き
Character.AIのこの動きは、AI業界全体に大きな影響を与える可能性があります。アナンド氏は、同社の決定が18歳未満のユーザーに対するオープンエンド型チャットの提供を避けるべきだという業界標準を確立することを期待しています。最近では、OpenAIのChatGPTとの長時間の会話後にティーンエイジャーが自殺した事例も報じられており、AIチャットボットの安全性に対する懸念は高まっています。
規制当局もこの問題に注目しており、ジョシュ・ホーリー上院議員（共和党）とリチャード・ブルーメンソール上院議員（民主党）は、未成年者向けAIチャットボットコンパニオンを禁止する法案を提出する意向を表明しています。カリフォルニア州は既に、チャットボットが安全基準を満たさない場合に企業に責任を負わせる法律を制定し、AIコンパニオンチャットボットを規制する初の州となっています。
Character.AIは、これらの規制が強制される前に自ら行動を起こしています。さらに、同社はAIエンターテイメント機能の安全性アライメントを革新するための独立した非営利団体「AI Safety Lab」を設立し、資金提供を行うことを発表しました。
まとめ：責任あるAI開発への一歩
Character.AIは、18歳未満のユーザーへの声明で、今回の変更が「オープンエンド型キャラクターチャットを軽々しく削除するものではない」としつつも、「ティーンエイジャーがこの新しいテクノロジーとどのように、そしてどのように関わるべきかについて提起された疑問を考慮すると、これは正しいことだと考えている」と述べています。同社は、AIゲーミング、AIショートビデオ、AIストーリーテリングといった新しい体験に若年層ユーザーが移行し、それらの体験が時間とともに向上することを期待しており、責任あるAI開発への強いコミットメントを示しています。
元記事: https://techcrunch.com/2025/10/29/character-ai-is-killing-the-chatbot-experience-for-minors/