はじめに：政治的ディープフェイクの拡散とXの対応
2025年10月17日、上院共和党がチャック・シューマー上院少数党院内総務のディープフェイク動画をソーシャルメディアプラットフォームXに投稿しました。この動画は、民主党が現在16日間続く政府閉鎖を祝っているかのように見せかけることを意図しており、AI技術の悪用による政治的誤情報の拡散が深刻な問題として浮上しています。
Xのポリシーでは、「誤解を招く可能性のある合成または操作されたメディア」の共有を禁止していますが、同プラットフォームは現時点（記事執筆時）でこの動画を削除しておらず、警告ラベルも追加していません。動画にはAI生成であることを示す透かしが含まれているものの、ポリシー執行の一貫性が問われています。
ディープフェイクの内容と背景
問題のディープフェイク動画では、AIによって生成されたシューマー氏が「毎日が我々にとって良くなる」と繰り返しています。この発言は、Punchbowl Newsの記事から文脈を無視して切り取られたもので、元の記事ではシューマー氏が民主党の医療政策に焦点を当てた政府閉鎖戦略について議論し、共和党の脅迫的な戦術に屈しない姿勢を示していました。
政府閉鎖は、民主党と共和党が10月以降の政府資金調達法案で合意できないために発生しています。民主党は、数百万人のアメリカ人にとって医療保険を安価にするための税額控除の維持、トランプ政権によるメディケイド削減の撤回、政府医療機関への予算削減阻止を目指しています。このような状況下で、文脈を無視した情報操作は、有権者の判断を大きく歪める危険性をはらんでいます。
Xのポリシーと過去の事例
Xのポリシーは、「人々を誤解させたり、公共の問題に関して重大な混乱を引き起こしたりする可能性のある」有害なコンテンツを禁止しています。しかし、今回のシューマー氏のディープフェイク動画に対しては、AI生成の透かしがあるにもかかわらず、削除や警告表示といった措置が取られていません。
これは、Xが政治的ディープフェイクをプラットフォーム上に残すことを許容した初めての事例ではありません。2024年後半には、Xのオーナーであるイーロン・マスク氏がカマラ・ハリス前副大統領の操作された動画を選挙前に共有し、有権者を誤解させることについて議論を巻き起こしました。また、ドナルド・トランプ前大統領もTruth Socialで、シューマー氏やハキーム・ジェフリーズ下院少数党院内総務が移民や有権者詐欺について虚偽の発言をしているディープフェイクを投稿しています。これらの事例は、プラットフォームのポリシー執行の一貫性の欠如が、誤情報の拡散を助長している可能性を示唆しています。
ディープフェイク規制の現状と課題
米国では、最大28州が政治家のディープフェイク、特に選挙運動や選挙に関連するものを禁止する法律を制定しています。しかし、ほとんどの州では、明確な開示があれば全面的に禁止しているわけではありません。カリフォルニア州、ミネソタ州、テキサス州は、選挙に影響を与えたり、有権者を欺いたり、候補者を傷つけたりすることを意図したディープフェイクを禁止しています。
このような状況に対し、共和党全国上院委員会（NSRC）の広報部長であるジョアンナ・ロドリゲス氏は、「AIはここにあり、どこにも行かない。適応して勝つか、騒いで負けるかだ」と述べており、AI技術の急速な進化と法規制の追いつかない現状が浮き彫りになっています。
セキュリティ上の教訓と今後の展望
今回の事件は、AI技術が政治的プロパガンダや誤情報拡散の強力なツールとなり得ることを改めて示しています。特に選挙が近づくにつれて、ディープフェイクによる情報操作のリスクは増大するでしょう。
- プラットフォーム側には、ポリシーの明確化と一貫した執行が強く求められます。
- 有権者や一般市民は、AI生成コンテンツに対するリテラシーを高め、情報の真偽を慎重に判断する能力を養う必要があります。
- 政府や立法機関は、AI技術の悪用を防ぐための効果的な法規制を早急に検討し、導入することが不可欠です。
今後の公共の議論や民主主義プロセスにおいて、ディープフェイクがもたらす影響はさらに増大する可能性があり、社会全体での対応が急務となっています。