OpenAIのSoraアプリが公開、ディープフェイクの嵐
OpenAIが新たにリリースしたTikTok風のソーシャルメディアアプリ「Sora」が、公開からわずか24時間足らずで、恐ろしいほどリアルなSam Altman氏のディープフェイク動画で溢れかえっています。招待制の早期アクセス期間中に公開されたこのアプリでは、AIが生成したAltman氏が、豚の工場農場で「私の豚たちは餌を楽しんでいるか？」と問いかけたり、ポケモンが戯れる野原で「任天堂に訴えられないといいが」と発言したりする動画が次々と投稿されています。
これらの動画は、Soraの高度な動画生成能力を示していますが、同時にその悪用可能性と倫理的な問題を浮き彫りにしています。
著作権侵害と倫理的懸念
Soraのフィードには、Altman氏がピカチュウやエリック・カートマンにスターバックスで飲み物を提供したり、マクドナルドで客に怒鳴りつけたり、NVIDIAのGPUを盗んで警察に捕まったりする動画が多数見られます。ユーザーは、OpenAIが著作権法を露骨に侵害しているかのように見えることに特に面白がっているようです。
Soraは、コンテンツの利用に関して著作権保有者が「オプトアウト」することを要求すると報じられており、これは一般的なアプローチとは逆であり、その合法性には議論の余地があります。AIが生成したAltman氏が「このコンテンツは、第三者の肖像に関する当社のガードレールに違反する可能性があります」と述べた後、それがナンセンスであることを知っているかのようにヒステリックに笑い出す動画も存在し、アプリの倫理的ガイドラインの形骸化を示唆しています。
「カメオ」機能と生体認証データの危険性
Soraの決定的な機能の一つは、ユーザーが自身の「カメオ」（ディープフェイク）を作成できる点です。これは、生体認証データをアップロードし、自身が数字を読み上げたり頭を左右に動かしたりする動画を記録することで行われます。各Soraユーザーは、自身のカメオを使って動画を生成できる人物を制御できますが、Altman氏自身は自身のカメオを「全員」に公開しており、これがアプリがAltman氏のディープフェイクで溢れる原因となっています。
記事の筆者は、ジャーナリズムと好奇心のために自身のカメオを作成しましたが、生体認証データをソーシャルアプリにアップロードすることは一般的に悪い考えであると警告しています。これは、個人情報の悪用やプライバシー侵害のリスクを伴います。
安全対策の限界と悪用の可能性
OpenAIはSoraのローンチ投稿で、ペアレンタルコントロールやカメオの利用制限など、安全性へのコミットメントを強調しています。しかし、ユーザーはすでにSoraのガードレールを回避する方法を見つけています。例えば、実在の人物の動画生成は許可されていませんが、故人の歴史上の人物についてはルールが緩く、エイブラハム・リンカーンやジョン・F・ケネディのディープフェイク動画が作成されています。
Soraのようなツールが一般に公開されれば、ディスインフォメーション、いじめ、その他の悪意のある用途の温床となる可能性があります。特に、政治的なディープフェイクはすでに存在しますが、Soraのようなアクセスしやすいツールが普及することで、その影響は壊滅的になるでしょう。
広がるAIの安全性問題
OpenAIは、ChatGPTが精神衛生上の危機に貢献しているという懸念や、自殺教唆の指示を与えたとして訴訟に直面するなど、すでに安全性に関する問題を抱えています。Soraの登場は、同社のAI製品が社会に与える潜在的な負の影響をさらに増大させる可能性があります。極めてリアルなディープフェイクを簡単に作成できるリソースを一般に提供することの無責任さが問われています。