導入：キング牧師のAI動画生成が一時停止に

OpenAIは、AI動画生成モデル「Sora」において、故マーティン・ルーサー・キング・ジュニア牧師に似た動画の生成機能を一時的に停止したことを発表しました。この決定は、キング牧師の遺族からの要請を受けてのものであり、一部のユーザーによる「不適切な描写」が問題視されたためです。

停止の背景とOpenAIの声明

OpenAIは、X（旧Twitter）の公式ニュースルームアカウントを通じて、「歴史上の人物を描写することには強い言論の自由の利益がある一方で、OpenAIは公人やその家族が自身の肖像の使用方法を最終的に管理すべきだと考えている」と述べました。これにより、公認の代表者や遺産管理者は、Soraでの肖像使用を停止するよう要求できるとしています。

AI生成動画が提起する倫理的課題

Soraのローンチ以来、AI生成動画の危険性や、技術に対するガードレール（安全策）の必要性について活発な議論が交わされてきました。キング牧師の娘であるバーニス・キング博士は、AIが生成した父親の動画を送るのをやめるようInstagramで訴えていました。ワシントン・ポスト紙の報道によれば、Soraのユーザーは、キング牧師が猿の鳴き声を上げたり、マルコムXとレスリングしたりするような不適切なAI生成動画を作成していたとされています。Soraアプリ内では、ボブ・ロス、ホイットニー・ヒューストン、ジョン・F・ケネディ元大統領など、他の歴史上の人物を模した粗悪な動画も簡単に見つけることができます。

広がる懸念と著作権問題

Soraは、人間の肖像表現だけでなく、著作権で保護された作品に関する問題も提起しています。アプリ内には、「スポンジ・ボブ」や「サウスパーク」、「ポケモン」といった人気キャラクターのAI生成動画も多数存在しており、著作権侵害の懸念が高まっています。

OpenAIの対応と今後の方向性

OpenAIは、Soraのローンチ以来、いくつかの制限を追加してきました。10月上旬には、著作権保有者が自身の肖像がAI動画でどのように生成されるかについて、より詳細な制御を提供すると発表しました。これは、ハリウッドからのSoraに対する当初の否定的な反応への対応と見られています。一方で、OpenAIはChatGPTのコンテンツモデレーションに関しては、成人ユーザーが「エロティックな」チャットを行うことを許可する方針を示しており、Soraとは対照的なアプローチを取っています。

OpenAIのCEOであるサム・アルトマン氏は、Soraのローンチ初日に「トレピデーション（不安）」を感じていたと語っています。同社の幹部は、新技術を世に出すことで世界に教えることが最善の方法だと考えていますが、Soraの事例は、AI動画生成技術の普及に伴う倫理的、社会的課題への継続的な対応の重要性を浮き彫りにしています。

元記事: https://techcrunch.com/2025/10/16/openai-pauses-sora-video-generations-of-martin-luther-king-jr/