OpenAIがキング牧師の動画生成を一時停止
OpenAIは、AI動画生成モデル「Sora」において、故マーティン・ルーサー・キング・ジュニア牧師に似た動画の生成機能を一時停止したことを発表しました。この決定は、一部のSoraユーザーがキング牧師の「不敬な描写」を生成したことを受け、キング牧師の遺族からの要請によるものです。
停止の背景：遺族からの要請と「不敬な描写」
OpenAIは、X（旧Twitter）の公式ニュースルームアカウントで、「歴史上の人物を描写することには強力な言論の自由の利益がある一方で、OpenAIは、公人およびその家族が最終的に自身の肖像の使用方法を管理すべきだと考えている」と述べました。これにより、公人の公認代理人または遺産所有者は、Soraでのカメオ出演に自身の肖像が使用されないよう要求できるとしています。
この制限は、ユーザーが歴史上の人物や友人、または自身の肖像をSoraで再現できるようになったソーシャル動画プラットフォームのローンチからわずか数週間後に実施されました。このローンチは、AI生成動画の危険性や、プラットフォームが技術にどのようにガードレールを設けるべきかについて、激しい議論を巻き起こしています。
AI生成動画の倫理的課題と悪用の実態
キング牧師の娘であるバーニス・キング博士は先週、自身のInstagramで、父親に似たAI動画を送るのをやめるよう人々に求めました。同様に、ロビン・ウィリアムズの娘もSoraユーザーに対し、父親のAI動画生成を停止するよう要請しています。
ワシントン・ポスト紙は今週初め、Soraユーザーがキング牧師が猿の鳴き声を上げたり、公民権運動の象徴であるマルコムXと格闘したりするAI生成動画を作成したと報じました。Soraアプリをスクロールすると、アーティストのボブ・ロス、歌手のホイットニー・ヒューストン、元大統領のジョン・F・ケネディなど、他の歴史上の人物に似た粗悪な動画が容易に見つかる状況でした。
広がる懸念：著作権とコンテンツモデレーション
Soraが人間をどのように表現するかという問題を超えて、このローンチは、ソーシャルメディアプラットフォームが著作権で保護された作品のAI動画をどのように扱うべきかという疑問も提起しています。Soraアプリには、スポンジ・ボブ、サウスパーク、ポケモンなどの漫画を描写した動画も多数存在しています。
OpenAIはSoraに他の制限も追加しており、10月上旬には、著作権所有者が自身の肖像で生成できるAI動画の種類について、より詳細な制御を可能にする計画を発表しました。これは、ハリウッドがSoraに対して示した当初の否定的な反応への対応であった可能性があります。
OpenAIの対応と今後の展望
Soraに対する制限を追加する一方で、OpenAIはChatGPTのコンテンツモデレーションに対してはより「ハンズオフ」なアプローチを取っているようです。OpenAIは今週、成人ユーザーが今後数ヶ月以内にChatGPTと「エロティックな」チャットができるようになると発表しました。
Soraに関しては、OpenAIがAI動画生成に伴う懸念と格闘していることがうかがえます。OpenAIのCEOであるサム・アルトマンは、ローンチ初日にSoraに対して「不安」を感じていたと述べています。ChatGPTの責任者であるニック・ターリーは、新しい技術について世界に教える最善の方法は、それを世に出すことだと述べており、OpenAIはSoraでも同様の学びを得ているようです。同社は、この技術の配布方法についても学んでいる最中であると考えられます。
元記事: https://techcrunch.com/2025/10/16/openai-pauses-sora-video-generations-of-martin-luther-king-jr/