OpenAIの動画生成AI「Sora」が社会現象に

OpenAIがリリースした動画生成AIアプリ「Sora」が、急速にソーシャルメディアを席巻しています。iOSアプリとして登場したSoraは、ユーザーが思い描くほぼあらゆる内容を10秒間の動画として生成できる機能を持ち、特に「カメオ」機能では、自身のAI生成バージョンや承認した他者の肖像を使った動画作成が可能です。OpenAIの従業員はこれを「動画生成におけるChatGPTモーメント」と称し、リリース後わずか数日でAppleのApp Store無料アプリランキングのトップに躍り出ました。

賛否両論と深まる懸念

しかし、Soraの急速な普及には、すでに賛否両論が巻き起こっています。多くのユーザーは、その超リアルな動画生成能力が誤情報の拡散やディープフェイクの温床となる可能性を指摘。一部では「AIスロップマシン（AIが生成する質の低いコンテンツ）」と揶揄する声も上がっています。OpenAIのCEOであるサム・アルトマン自身も批判に反応せざるを得ない状況で、社内からも懸念の声が聞かれます。OpenAIのプレトレーニング担当者であるジョン・ホールマンは「Sora 2のリリースを知った時、懸念を感じたことは否定できない」と述べ、技術スタッフのボアズ・バラクも「技術的には素晴らしいが、他のソーシャルメディアアプリやディープフェイクの落とし穴を回避できたと自画自賛するのは時期尚早だ」と警告しています。

ユーザー体験とセキュリティの脆弱性

Soraは、ユーザーが自身の肖像をAIに学習させることで、自分自身を「ミーム化」できるという一時的な魅力を持っています。しかし、その裏にはいくつかのセキュリティ上の脆弱性が指摘されています。

• 肖像権とコンテンツポリシー：筆者が「牧草地を走る」自身の動画を生成しようとした際、「示唆的またはわいせつな内容が含まれる可能性がある」として拒否されましたが、「はしゃぐ」という言葉に置き換えると生成が可能になるなど、コンテンツポリシーの曖昧さが露呈しました。
• アカウント削除の困難さ：現在、Soraのアカウントを削除するには、ChatGPTのアカウントも同時に削除する必要があり、同じメールアドレスや電話番号で再登録することはできません。OpenAIはこの問題の修正に取り組んでいると述べています。
• 著作権侵害の懸念：Soraでは、すでに「ナチススポンジボブ」や「犯罪者ピカチュウ」といった著作権侵害の可能性のあるコンテンツが報告されています。筆者のテストでは、特定のキャラクター（エルサやスパイダーマン）の生成は拒否されたものの、スティーブ・ジョブズに似た「成功したテック幹部」の生成は可能でした。
• ウォーターマークの信頼性：OpenAIは、Soraで作成されたすべての動画にはメタデータと動くウォーターマークが含まれると説明していますが、ChatGPT Proユーザーの場合、Sora.comではウォーターマークが省略される可能性があります。さらに、アプリ内でのスクリーンショットや画面録画は不可能とされていましたが、筆者のテストではこれらが可能であることが判明しました。これにより、ディープフェイクの音声や動画が容易に拡散されるリスクが高まります。また、ウォーターマーク自体も小さく、他のAIツールを使えば簡単に除去できる方法が多数存在することも指摘されています。

誤情報時代の新たな課題

過去の事例が示すように、AIのガードレールに対する回避策は常に生まれてきました。昨年にはMicrosoftのAI画像生成ツールが著作権を無視し、不適切な画像を生成した事例が報告され、xAIのGrokもテイラー・スウィフトのディープフェイクヌード動画を生成しています。Soraの現在の魅力は、友人やサム・アルトマンの「面白い動画」を作成できる点に集約されていますが、これがTikTokの模倣アプリとして長期的に成功する基盤となるのか、そして誤情報が氾濫する現代社会において、どのような新たな課題をもたらすのかが問われています。

元記事: https://www.theverge.com/ai-artificial-intelligence/791290/openai-sora-ai-generated-video-hands-on