導入：AIソーシャルメディアへの進出と社内の葛藤
OpenAIがTikTokスタイルのAI生成動画アプリ「Sora」をローンチしたことで、社内外から倫理的な懸念と議論が巻き起こっています。このアプリは、AIが生成した動画、特にサム・アルトマン氏のディープフェイク動画で溢れており、同社の「人類に利益をもたらす高度なAIを開発する」という非営利ミッションとの整合性が問われています。
Soraアプリへの懸念：ディープフェイクと中毒性
複数の現役および元OpenAI研究者が、Soraアプリの潜在的な危険性についてX（旧Twitter）で意見を表明しています。
- OpenAIの事前学習研究者であるジョン・ホールマン氏は、「AIベースのフィードは恐ろしい」と述べ、Sora 2のリリースに懸念を抱きつつも、チームが「可能な限り最高のポジティブな体験を設計した」と評価しています。
- 同じくOpenAIの研究者でハーバード大学教授のボアズ・バラク氏は、「懸念と興奮が入り混じった感情を共有している」とし、Sora 2の技術的な素晴らしさを認めつつも、他のソーシャルメディアアプリやディープフェイクの落とし穴を回避できたと自画自賛するのは時期尚早だと指摘しました。
- 元OpenAI研究者のローハン・パンデイ氏は、Soraのような「無限のAI TikTokスロップマシン」ではなく、科学的発見のためのAIシステム構築を目指す自身の新興企業「Periodic Labs」を紹介し、AIの商業化と倫理的利用の間の緊張を浮き彫りにしました。
特に、サム・アルトマン氏のディープフェイクが多数存在するという事実は、AI生成コンテンツがもたらす誤情報やアイデンティティ操作のリスクを明確に示しており、セキュリティニュースとして重要なポイントです。
サム・アルトマン氏の釈明と企業の二面性
OpenAIのCEOであるサム・アルトマン氏は、SoraのようなAIソーシャルメディアアプリに多大な資本と計算能力を投入する理由について、Xで次のように説明しています。
- 「科学ができるAIを構築するための資本がほとんど必要であり、我々の研究努力のほぼ全てはAGI（汎用人工知能）に集中している。」
- 「途中でクールな新技術や製品を人々に示し、笑顔にさせ、そしてその計算能力の必要性を考えると、いくらかの収益を上げることも良いことだ。」
この発言は、OpenAIが非営利のミッションと商業的な成長という二つの側面を抱えていることを示しています。しかし、カリフォルニア州司法長官のロブ・ボンタ氏が、OpenAIの営利企業への移行において「非営利としてのOpenAIの明言された安全ミッションが最前線にあり続けることを特に懸念している」と述べるなど、規制当局もこの二面性に注目しています。
Soraの設計思想と潜在的リスク
OpenAIは、SoraがChatGPTのように「有用性」のために最適化されているのではなく、「楽しさ」のために構築されていると説明しています。同社は、Soraのローンチに関するブログ投稿で、「ドゥームスクロール、中毒、孤立、RL-sl最適化されたフィードに関する懸念は最優先事項である」と主張し、利用時間の最適化ではなく、創造性を最大化することを目指していると述べています。
しかし、ユーザーはすでに、動画に「いいね」をするたびに動的な絵文字が表示されるなど、エンゲージメントを最適化する技術がアプリに組み込まれていることに気づいています。これは、ユーザーの行動を促し、アプリへの滞在時間を延ばすための心理的な操作につながる可能性があり、過去のソーシャルメディアが陥った中毒性の罠を繰り返す危険性をはらんでいます。
アルトマン氏自身も、過去にソーシャルメディアの「大きな不整合」について語っており、「フィードアルゴリズムが社会全体、そして個々のユーザーに意図しない負の結果をもたらした」と指摘しています。ChatGPTにおける「おべっか」の問題も、トレーニング技術に起因する意図しない結果として挙げられており、AIシステムの設計が予期せぬ倫理的・社会的リスクを生み出す可能性を示唆しています。
今後の展望
SoraアプリがユーザーやOpenAIのミッションとどれだけ整合しているかを判断するのは時期尚早です。しかし、そのデビューはOpenAIの消費者向けビジネスの大幅な拡大を意味し、ソーシャルメディアアプリを長年悩ませてきたインセンティブの課題に同社を晒すことになります。OpenAIがSoraを成長させながら、その前身が犯した過ちを繰り返さないことができるかどうかが、今後の真の試練となるでしょう。
元記事: https://techcrunch.com/2025/10/01/openai-staff-grapples-with-the-companys-social-media-push/