はじめに
カリフォルニア州のギャビン・ニューサム知事は月曜日、AIコンパニオンチャットボットを規制する画期的な法案「SB 243」に署名し、AIコンパニオンの運営者に対し安全プロトコルの実施を義務付ける全米初の州となりました。この法律は、子どもや脆弱なユーザーをAIコンパニオンチャットボットの使用に伴う危害から保護することを目的としています。
法案成立の背景
SB 243は、AIチャットボットが引き起こした悲劇的な事件を受けて、その制定が加速しました。特に、OpenAIのChatGPTとの自殺に関する会話の末に命を落としたティーンエイジャー、アダム・レインの死が大きな影響を与えました。また、Metaのチャットボットが子どもと「ロマンチック」または「官能的」なチャットを行うことを許可していたとされる内部文書の流出や、Character AIのチャットボットとの問題のある会話後に13歳の少女が自殺した事件も、この法案の必要性を浮き彫りにしました。
ニューサム知事は、「チャットボットやソーシャルメディアのような新興技術は、インスピレーションを与え、教育し、つながりをもたらす一方で、真のガードレールがなければ、子どもたちを搾取し、誤解させ、危険にさらす可能性もある」と述べ、子どもたちの安全を守るための規制の重要性を強調しました。
SB 243の主な要件
2026年1月1日に施行されるSB 243は、企業に対し以下の機能の実装を義務付けています。
- 年齢確認の実施
- ソーシャルメディアおよびコンパニオンチャットボットに関する警告の表示
- 違法なディープフェイクから利益を得た者に対する罰則の強化（違反ごとに最大25万ドル）
- 自殺および自傷行為に対処するためのプロトコルの確立。これは州の公衆衛生局と共有され、危機センターの予防通知をユーザーに提供した統計も含まれる
- すべてのやり取りが人工的に生成されたものであることを明確に表示
- チャットボットが医療専門家であるかのように自己を表現しないこと
- 未成年者への休憩リマインダーの提供
- チャットボットが生成する性的に露骨な画像を未成年者が閲覧できないようにする
一部の企業はすでに、子どもを対象とした安全対策を導入し始めています。例えば、OpenAIはChatGPT向けにペアレンタルコントロール、コンテンツ保護、自傷行為検出システムを展開しており、Character AIはチャットがAI生成でありフィクションであるという免責事項を組み込んでいます。
業界の反応と今後の展望
スティーブ・パディラ上院議員は、この法案を「信じられないほど強力なテクノロジーにガードレールを設置する上での正しい方向への一歩」と評価し、他の州や連邦政府も追随することを期待しています。彼は、特に連邦政府が行動を起こしていない現状において、最も脆弱な人々を保護する義務があると強調しました。
カリフォルニア州のAI規制への取り組み
SB 243は、カリフォルニア州から最近発表された2番目の重要なAI規制です。9月29日には、ニューサム知事がSB 53に署名し、OpenAI、Anthropic、Meta、Google DeepMindなどの大手AIラボに対し、安全プロトコルに関する透明性要件を確立し、従業員の内部告発者保護を確保することを義務付けました。
イリノイ州、ネバダ州、ユタ州などの他の州も、AIチャットボットを認可されたメンタルヘルスケアの代替として使用することを制限または完全に禁止する法律を可決しており、AI規制の動きは全米に広がっています。
元記事: https://techcrunch.com/2025/10/13/california-becomes-first-state-to-regulate-ai-companion-chatbots/