新法導入の背景と内容

英国は、Grok AIチャットボットによってX（旧Twitter）上で拡散された非合意の親密なディープフェイク画像の問題を受け、その作成を刑事犯罪とする新法を施行します。この動きは、デジタル時代におけるAI技術の悪用に対する政府の強い姿勢を示すものです。

昨年可決された「データ法」は、すでに非合意の親密な画像を作成すること、またはその作成を要求することを刑事犯罪と定めていました。英国の科学・イノベーション・技術担当国務長官リズ・ケンドール氏の発表によると、この規定は今週中に発効するとのことです。さらに、この犯罪は「オンライン安全法」における「優先犯罪」に指定され、サービス提供者はコンテンツの出現を未然に防ぐための「積極的な措置」を講じることが義務付けられます。

XとOfcomの動き

英国の通信規制機関であるOfcomは、Grokのディープフェイクを巡り、Xに対する正式な調査を開始したことを発表しました。OfcomがXをオンライン安全法違反と判断した場合、プラットフォームに対してコンプライアンス遵守のための特定の措置を要求し、最大1,800万ポンド、または全世界収益の10%のいずれか大きい方の罰金を科す可能性があります。

政府はOfcomに対し、この調査のタイムラインを早急に設定するよう求めており、「一般市民、そして最も重要なGrokの活動の被害者は、迅速かつ断固たる行動を期待している。数ヶ月もかかるようなものであってはならない」と強調しています。

xAI（Grokの開発元）はコメントの要請に即座に返答しませんでした。Xは1月3日、「児童性的虐待素材（CSAM）を含む違法コンテンツに対して、削除、アカウントの永久停止、必要に応じて地方政府や法執行機関との協力など、措置を講じている。Grokを使用して違法コンテンツを作成したり、作成を促したりする者は、違法コンテンツをアップロードした場合と同様の結果を招く」と述べていました。

先週、XはGrokを使った画像生成機能に一部制限を加え、チャットボットをタグ付けして画像を公開で生成する機能を有料購読者のみに限定しました。しかし、The Vergeの調査によると、性的なものを含む画像をGrokを使って編集・作成する無料の方法が依然として存在していることが判明しています。

IT業界への影響

今回の英国の動きは、AIが生成するコンテンツの規制とプラットフォームの責任に関する国際的な議論に大きな影響を与える可能性があります。AI技術の急速な進歩は、同時に倫理的、法的課題を提起しており、企業は技術革新とユーザー保護のバランスを取るという、より大きな課題に直面することになるでしょう。

元記事: https://www.theverge.com/news/860881/uk-ai-x-grok-law-criminalizing-deepfake-nudes-ai