X、AIチャットボット「Grok」の性的ディープフェイク生成でEUの調査対象に

イーロン・マスク氏率いるソーシャルメディアプラットフォーム「X」が、そのAIチャットボット「Grok」による性的ディープフェイクの生成を巡り、欧州委員会による調査を受けることになりました。

欧州委員会は、XがEU域内におけるGrokの画像生成機能に関連する「リスクを適切に評価し、軽減したか」を評価するとのことです。

高まる懸念とXの対応

GrokのAI画像編集機能に対しては、世界中の擁護団体や議員から懸念の声が上がっていました。Grokがプラットフォーム上で女性や未成年者の性的画像を生成する要求に応じ始めたためです。

Xは後に、公開された投稿への返信における画像編集機能を有料化しましたが、Grokのチャットボットインターフェース内では、引き続き誰でも画像を生成できる状態が続いています。

デジタルサービス法（DSA）に基づく調査と重い罰則

欧州委員会は、Xがデジタルサービス法（DSA）に違反したかどうかを評価します。DSAは、大規模オンラインプラットフォームに対し、プラットフォーム上に投稿されるコンテンツに対する法的責任を負わせる一連の規制です。

さらに、プラットフォームのGrokを活用したレコメンデーションシステムについても、2023年に開始されたXに対する広範な調査が拡大されます。（EUは既に、Xに対し「欺瞞的な」青いチェックマークに関連して1億4000万ドルの罰金を科しています）。

欧州委員会の執行副委員長であるヘンナ・ヴィルクネン氏は、「女性や子供の性的ディープフェイクは、暴力的で許容できない侮辱の形です」と述べ、EUが市民の権利保護を重視する姿勢を強調しました。

もしXがDSAに違反していると再び判明した場合、年間世界収益の最大6%に相当する罰金が科される可能性があります。

元記事: https://www.theverge.com/news/868239/x-grok-sexualized-deepfakes-eu-investigation