はじめに：カリフォルニア州、AI開示義務化の新法を施行
2025年10月13日、カリフォルニア州ギャビン・ニューサム知事は、AIチャットボット業界を規制する新たな法律、上院法案243号（SB 243）に署名し、同州で施行されました。この法案は、州上院議員アンソニー・パディラ氏によって「全米初のAIチャットボット保護策」と称されており、AIチャットボット開発者に対し、新たな安全対策の実施を義務付けるものです。
SB 243の主な内容：誤解防止と安全対策
新法SB 243は、特に以下の点に焦点を当てています。
- AIであることの明確な開示：「チャットボットと対話している合理的な人物が、人間と対話していると誤解する可能性がある場合」、チャットボットの製造元は、その製品が厳密にはAIであり人間ではないことを「明確かつ目立つ形で通知」することが義務付けられます。これは、ユーザーがAIとのインタラクションであることを認識し、誤解を防ぐための重要な措置です。
- 自殺念慮への対応：来年からは、一部のコンパニオンチャットボット運営者に対し、「ユーザーによる自殺念慮の事例を検出し、削除し、対応するための保護策」について、自殺予防局に年次報告書を提出することが求められます。自殺予防局は、このデータをウェブサイトに公開する必要があります。これは、AIがユーザーの精神的健康に与える影響に対するセキュリティと倫理的な配慮を強化するものです。
ニューサム知事の声明：責任あるAIと子供の安全
ニューサム知事は、この法案への署名に際し、「チャットボットやソーシャルメディアのような新興技術は、インスピレーションを与え、教育し、つながりをもたらすことができますが、真のガードレールがなければ、技術は子供たちを搾取し、誤解させ、危険にさらす可能性もあります」と述べました。知事は、オンラインでの子供たちの安全を向上させるための他のいくつかの法案（ハードウェアの年齢制限要件を含む）とともに、この法案に署名しました。「私たちはAIとテクノロジーをリードし続けることができますが、それは責任を持って行わなければなりません。子供たちの安全は売り物ではありません」と強調し、責任あるAI開発と子供たちの保護の重要性を訴えました。
関連法案：AI透明性への動き
このニュースは、ニューサム知事が数ヶ月にわたりAI企業間で議論を巻き起こし、大きな話題となった画期的なAI透明性法案である上院法案53号にも正式に署名した後に発表されました。カリフォルニア州は、AI技術の急速な発展に対し、法的枠組みと安全対策を積極的に導入することで、その潜在的なリスクを管理し、社会的な信頼を構築しようとしています。