AI活用リキャップ機能に誤情報、Amazon Prime Videoが一時停止

Amazon Prime Videoが試験的に導入していたAIを活用したビデオ要約（リキャップ）機能が、人気ドラマ「Fallout」の要約内容に誤りがあったとして、機能提供を一時停止したことが明らかになりました。視聴者からの指摘を受け、アマゾンはテスト運用中のこの機能を直ちにプラットフォームから削除しました。

「Fallout」リキャップにおける重大な誤り

今回の問題の核心は、ドラマ「Fallout」のシーズン1リキャップ動画にありました。AIナレーターは、劇中のキャラクター「ザ・グール」（ウォルトン・ゴギンズ演）の過去のシーンについて、「1950年代のアメリカ」が舞台であると誤って説明していました。しかし、ドラマの正確な設定では、このフラッシュバックは西暦2077年が舞台です。この大きな時代設定の誤りは、多くの視聴者によってすぐに指摘されました。

また、リキャップではルーシー・マクリーン（エラ・パーネル演）がザ・グールから「死ぬか、彼と一緒に出発するか」という二者択一を迫られたと説明されましたが、これも実際のストーリーラインとは異なり、より複雑な状況が描かれていました。ルーシーはザ・グールと行動を共にするか、その場に留まりブラザーフッド・オブ・スティールからの攻撃リスクに晒されるか、という選択肢に直面していました。

AIリキャップ機能の概要と今後の課題

Amazon Prime VideoのAIリキャップ機能は、先月から試験的に導入されており、「Fallout」のほか、「The Rig」、「Tom Clancy’s Jack Ryan」、「Upload」、「Bosch」などの作品でテストされていました。この機能は、AIが番組の主要なプロットポイントを分析し、AIによるナレーションとシリーズのクリップを組み合わせた短いビデオで要約することを目的としていました。アマゾンの説明によると、このリキャップは通常、サポート対象シリーズの次のシーズンに移動した際に、詳細ページに表示される予定でした。

しかし、今回の「Fallout」での誤情報発覚を受けて、現在これらのリキャップはすべてのテスト作品から完全に削除されたようです。米メディアThe VergeはAmazon Prime Videoに対しコメントを求めましたが、すぐには返答を得られなかったと報じています。

今回の件は、コンテンツ制作や情報提供にAIを活用する際の正確性の確保と事実確認の重要性を改めて浮き彫りにする出来事となりました。AI技術の進化が目覚ましい一方で、その出力の信頼性をいかに担保するかが、今後の大きな課題となるでしょう。

元記事: https://www.theverge.com/news/842978/amazon-prime-video-ai-fallout-recap