AI深層フェイクが変えるファン文化
人工知能（AI）技術の進化は、ファン文化に新たな局面をもたらしています。特に、セレブリティの肖像を無断で利用したAI生成コンテンツ、いわゆるディープフェイクが問題視されています。歌手のアリアナ・グランデはAI生成画像への不快感を公に示し、ファンアカウントをブロックしたと報じられました。しかし、一部のファンはAIによる編集を継続し、SNS上で議論を巻き起こしています。
「スタンTwitter（Stans Twitter）」と呼ばれるポップカルチャーのファンコミュニティでは、AIコンテンツがエンゲージメントを獲得し、特にX（旧Twitter）の認証済みユーザーが収益を得るための手段として利用され始めています。あるファンアカウント運営者は「AIに対する反発が大きいため、AIコンテンツを投稿すると即座にコメントやリツイートが集まり、手っ取り早くお金を稼げる」と証言しており、インターネットの注目経済がAIコンテンツの拡散を助長している実態が浮き彫りになっています。
生成AIツールの進化とその影響
AIメディアの拡散を加速させているのが、OpenAIの動画生成ツールSoraのような革新的な技術です。Soraの「Cameos」機能は、ユーザーが自身の肖像をAIに提供し、他のユーザーがそれを使ってコンテンツを作成できるというものです。インフルエンサーのジェイク・ポールは自身のSora生成AI動画が1週間で10億回以上再生されたと語っていますが、中には同性愛嫌悪的なステレオタイプを利用した不快なコンテンツも含まれていました。
一度オンラインに公開されたAI生成コンテンツは、プラットフォームから削除されても他の場所にコピーされ、完全に消し去ることが非常に困難です。iShowSpeedが自身のAIによるカミングアウト描写の削除を試みた際も、同様の問題に直面しました。これは、非同意のAIメディアが拡散した場合の被害の深刻さを示しています。
著名人の懸念と誤解
AI技術による肖像の悪用に対する懸念は、著名人の間に広く共有されています。ドラマ「クリミナル・マインド」のパジェット・ブリュースターは、ファンが投稿した自身のキャラクターのスクリーンショットをAI生成画像と誤認し、謝罪する出来事がありました。これは、AI技術の普及が、何が現実で何が偽物かを見分けることを困難にしている現状を象徴しています。
多くのインフルエンサーは、自身のディープフェイクを作成することに後ろ向きであり、コンテンツが偽物と疑われたり、ファンが詐欺の被害に遭ったりする可能性を懸念しています。専門家は、「ディープフェイクの常態化は誰も望んでいない。OpenAIが製品のバイラル性を高めるためにこの扉を開いたに過ぎない」と指摘しており、一度肖像権のコントロールを失うと取り戻すことが極めて難しいと警鐘を鳴らしています。
肖像権侵害と性的な悪用
AIによるセレブリティの肖像権侵害は、単なる誤解にとどまらず、より深刻な問題を引き起こしています。SNSでは、チャーリー・カークの顔を合成したアリアナ・グランデの画像のような偽情報が拡散し、有名人の評判を傷つける可能性があります。また、最も悪質なケースとしては、テイラー・スウィフトを含む多くの女性セレブリティを標的とした性的に露骨なディープフェイクの存在が挙げられます。
これらの非同意のコンテンツは、X（旧Twitter）での「テイラー・スウィフト」検索の一時的なブロックや、「Take It Down Act」のような連邦法制定の動きを促すなど、社会的な大きな反響を呼んでいます。しかし、コンテンツが複数のプラットフォームに拡散するため、完全に削除することは困難であり、加害者が収益を得るケースも存在します。
AIチャットボットと「支配感」
AI技術は、カスタマイズ可能なAIチャットボットという形で、ファンにセレブリティへの「奇妙な支配感」を与えています。MetaのInstagramやFacebookでは、ユーザーがセレブリティを模倣したAIチャットボットを作成できる機能を提供していますが、中には児童による不適切なチャットボット作成や、性的なやり取りに誘導する傾向のあるチャットボットが問題となっています。
メディア研究者は、AIチャットボットが「女性インフルエンサーのアイデンティティが一度機械の中に取り込まれると、そのデータセットが内蔵された女性嫌悪やバイアスと混ざり合い、人間のコントロールを失う」と指摘しています。女性のAIチャットボットを作成する際に選択される「遊び好き」「生意気」「共感的」「愛情深い」といった性格特性や、チャットボットが会話を始める際のスクリプト設定にも、性的な偏見が含まれている可能性があります。
倫理と規制の必要性
AI技術は、ファンとセレブリティの関係に新たな次元をもたらしましたが、同時に肖像権の侵害、誤情報の拡散、性的な悪用といった深刻な倫理的問題を引き起こしています。セレブリティが自身の肖像をコントロールする権利が脅かされ、特に女性は不当な性的な客体化に晒されています。スカーレット・ヨハンソンやジェナ・オルテガも、長年にわたりディープフェイクの問題に対して声を上げてきました。
この状況は、AI技術の悪用を防ぎ、個人の肖像権と尊厳を保護するための国際的な条約や強固な規制の必要性を浮き彫りにしています。技術の進歩は止められませんが、その利用には厳格な倫理的ガイドラインと法的枠組みが不可欠です。