米上院議員、性的ディープフェイク問題でIT大手各社に説明要求
複数の米上院議員が、X、Meta、Alphabet、Snap、Reddit、TikTokの各社に対し、AIによって生成された性的ディープフェイクの拡散防止策について説明を求めています。これは、プラットフォーム上で非同意の性的ディープフェイクが横行している現状に対する深刻な懸念が背景にあります。
Grok問題とプラットフォームの責任
特に問題視されているのは、X社が提供するAIサービス「Grok」です。メディアの報道によると、Grokは容易に性的・ヌード画像を生成できる状態にあり、X社は最近、Grokの機能更新を発表したものの、そのガードレールが不十分であるとの指摘がなされています。議員たちは、多くの企業が非同意の親密な画像や性的搾取に反対するポリシーを掲げているにもかかわらず、実際にはユーザーがこれらの保護策を回避しているか、機能していないと指摘しています。
広がるディープフェイク問題、各社の対応状況
ディープフェイク問題はXにとどまりません。過去にはRedditがセレブリティの合成ポルノ動画で問題となり、MetaのOversight BoardもAI生成の露骨な画像について言及しています。また、Snapchatでは子どもたちの間でディープフェイクが拡散する事例があり、Telegramは女性の写真を「裸にする」ボットがホストされていることで悪名高いです。
各社の対応は分かれており、XはGrokの更新に言及。Redditの広報担当者は、非同意の親密なメディア（NCIM）を厳しく禁止しており、その作成ツールも提供していないと述べました。一方、Alphabet、Snap、TikTok、Metaは現時点でコメントを出していません。
上院議員が求める具体的な情報
上院議員が各社に要求している内容は多岐にわたります。以下の詳細な情報提供を求めています：
- 「ディープフェイク」「非同意の親密な画像」などの定義
- AIによる非同意の身体のディープフェイク、非ヌード写真、衣服の改変、および「仮想着衣解除」に対するポリシーと執行方法
- 編集されたメディアや露骨なコンテンツに関する現在のポリシーとモデレーターへの内部ガイダンス
- AIツールや画像ジェネレーターが示唆的または親密なコンテンツにどのように関与するかを管理するポリシー
- ディープフェイクの生成と配布を防ぐために実装されたフィルター、ガードレール、または対策
- ディープフェイクコンテンツを特定し、再アップロードを防ぐメカニズム
- ユーザーがそのようなコンテンツから利益を得るのを防ぐ方法
- プラットフォーム自身が非同意のAI生成コンテンツから収益を上げないようにする方法
- ディープフェイクを投稿したユーザーを禁止または停止するためのサービス規約
- 非同意の性的ディープフェイクの被害者に通知するために企業が行うこと
法整備の現状と課題
米国では、ディープフェイクポルノを規制する法案が既にいくつか可決されています。昨年5月に連邦法となった「Take It Down Act」は、非同意の性的画像の作成と配布を犯罪化するものですが、その多くは個々のユーザーに焦点を当てており、画像生成プラットフォームの責任を追及することは難しいのが現状です。
これに対し、州レベルでの動きも見られます。ニューヨーク州知事Kathy Hochulは、AI生成コンテンツのラベル表示義務付けや、選挙期間中の非同意のディープフェイク禁止などを提案しています。また、中国では合成コンテンツのラベル表示に関するより強力な要件がありますが、米国連邦レベルではこのような規定は存在せず、プラットフォームの断片的なポリシーに依存している状況です。
AI画像・動画生成ツールの中には、「服を脱がせる」機能だけでなく、容易にディープフェイクを作成できるものも多く、OpenAIのSora 2、GoogleのNano Banana、さらには中国企業のツールなどがその例として挙げられています。この問題は、技術の進化とともにさらに複雑化しており、プラットフォームの抜本的な対策と、より実効性のある法規制の必要性が浮き彫りになっています。