カリフォルニア州、AI開示義務化の新法を施行
2025年10月13日、カリフォルニア州ギャビン・ニューサム知事が、AIチャットボットに「AIであること」の開示を義務付ける画期的な法案「上院法案243（SB 243）」に署名し、同州で法律として施行されました。この法律は、AIが人間と誤解される可能性のある状況において、明確な通知を義務付けることで、特にコンパニオンAIチャットボット業界に新たな安全対策を導入するものです。
法案の主要な要件
SB 243の主な要件は以下の通りです。
- まず、「合理的な人が、コンパニオンチャットボットとのやり取りが人間とのやり取りであると誤解する可能性がある場合」、チャットボットの製造元は、その製品が厳密にはAIであり人間ではないことを「明確かつ目立つ形で通知」することが義務付けられます。これは、ユーザーがAIとの対話であることを認識し、誤解を防ぐための重要な措置です。
- 次に、来年からは、一部のコンパニオンチャットボット運営者に対し、ユーザーによる自殺念慮の兆候を検知し、対応するための安全対策について、毎年自殺予防局に報告書を提出することが求められます。自殺予防局は、このデータをウェブサイトで公開する義務があります。これは、AIがユーザーの精神的健康に与える影響に対する倫理的責任を強化するものです。
知事の声明と子供の安全への注力
ニューサム知事は、法案署名に際し、「チャットボットやソーシャルメディアのような新興技術は、インスピレーションを与え、教育し、つながりをもたらすことができる一方で、真のガードレールがなければ、搾取し、誤解させ、子供たちを危険にさらす可能性もある」と述べました。知事は、オンラインでの子供の安全を向上させるための他のいくつかの法案（ハードウェアの年齢制限要件を含む）にも署名しており、「子供たちの安全は売り物ではない」と強調し、AI技術の責任ある発展を強く求めています。
広がるAI規制の動き
このニュースは、ニューサム知事が、AI企業の間で議論を巻き起こし、数ヶ月間見出しを飾った画期的なAI透明性法案である「上院法案53（SB 53）」にも正式に署名した後に発表されました。カリフォルニア州は、これらの法案を通じて、AI技術の透明性と安全性に関する規制において、全国的なリーダーシップを発揮しています。