カリフォルニア州、AIチャットボットの透明性を義務化
2025年10月13日、カリフォルニア州ギャビン・ニューサム知事は、AIチャットボットの規制を目的とした上院法案243号（SB 243）に署名し、同法が成立しました。この法律は、州上院議員アンソニー・パディラ氏によって「全米初のAIチャットボット保護策」と称されており、AIチャットボット開発者に対し、新たな安全対策の実施を義務付けるものです。
誤解を招くAIには明確な開示を
新法の主要な要件の一つは、「合理的な人がコンパニオンチャットボットとのやり取りにおいて、人間と対話していると誤解する可能性がある場合」、チャットボットの製造元が「その製品が厳密にはAIであり、人間ではないことを明確かつ目立つ形で通知する」ことです。これにより、ユーザーがAIとの対話であることを認識し、誤解を防ぐことを目指します。
自殺念慮への対応と報告義務
さらに、来年からは、コンパニオンチャットボットの運営者に対し、「ユーザーによる自殺念慮の兆候を検知し、対応するための安全対策」について、自殺予防局に年次報告書を提出することが義務付けられます。自殺予防局は、このデータをウェブサイトで公開することになります。これは、AIがユーザーの精神的健康に与える影響に対する懸念に対応するための重要な措置です。
子どもの安全を最優先
ニューサム知事は、法案署名に際し、「チャットボットやソーシャルメディアのような新興技術は、人々を鼓舞し、教育し、繋げることができますが、適切なガードレールがなければ、技術は子どもたちを搾取し、誤解させ、危険に晒す可能性もあります」と述べました。知事は、「AIとテクノロジーにおいて引き続き主導的な役割を果たすことはできるが、それは責任を持って行わなければならない。子どもたちの安全は売り物ではない」と強調し、オンラインでの子どもの安全向上を目指す他の法案（ハードウェアの年齢制限要件など）と合わせて、今回の法案が成立したことを説明しました。
AI透明化への動き
今回のニュースは、ニューサム知事が数ヶ月にわたりAI企業の間で議論を巻き起こし、大きな注目を集めた画期的なAI透明化法案である上院法案53号にも正式に署名した後に発表されました。カリフォルニア州は、AI技術の進展と社会への影響に対し、積極的に規制の枠組みを構築していることが伺えます。