はじめに：AI技術の進展と保険リスク

急速に発展するAI技術が、私たちの社会に大きな変革をもたらす一方で、予期せぬリスクも露呈し始めています。特に、これまであらゆるリスクを評価し、保険を提供してきた保険業界が、AI関連のリスクに対して「保険をかけられない」と見解を示していることが明らかになりました。これは、AI技術の普及がもたらす新たな課題を浮き彫りにしています。

保険会社の懸念：「ブラックボックス」としてのAI

Financial Timesの報道によると、AIG、Great American、WR Berkleyといった主要な保険会社が、米国規制当局に対し、企業保険契約からAI関連の責任を除外する許可を求めています。ある引受担当者は、AIモデルの出力が「あまりにもブラックボックスすぎる」と表現しており、その予測不可能性が保険会社の懸念の核心にあることを示唆しています。

実際に発生したAI関連のトラブル事例

保険業界がAIのリスクに神経質になるのには、十分な理由があります。既にいくつかの著名な事例が発生しています：

• 昨年3月、GoogleのAI概要が太陽光発電会社に法的トラブルがあると誤って表示し、1億1000万ドルの訴訟を引き起こしました。
• 昨年、エア・カナダはチャットボットが勝手に考案した割引を履行せざるを得なくなりました。
• 詐欺師が昨年、倫敦のデザインエンジニアリング会社Arupから2500万ドルを盗むために、上級役員のデジタルクローンをビデオ通話で利用しました。この通話は完全に本物に見えたといいます。

システムリスクと大規模損失への恐れ

保険会社を真に恐れさせているのは、単一の大規模な支払いではありません。それは、広く使用されているAIモデルが問題を起こした際に、数千件の請求が同時に発生するシステム的なリスクです。Aonの幹部の一人は、「保険会社は1社に対する4億ドルの損失には対応できるが、1万件の損失を同時に引き起こすエージェントAIの不手際には対応できない」と述べています。この発言は、AIが社会インフラに深く組み込まれることで発生しうる、前例のない規模の損害賠償リスクに対する保険業界の強い危機感を物語っています。

まとめ：AI時代のリスク管理再考

AI技術の進化は止まりませんが、それに伴うリスクへの対応は喫緊の課題です。保険業界の動向は、企業がAIを導入する際に、その便益だけでなく、潜在的なリスクと責任についてもこれまで以上に慎重な検討が求められることを示唆しています。AIの透明性向上や、責任の所在を明確にするための新たな枠組み作りが、今後の重要な焦点となるでしょう。

元記事: https://techcrunch.com/2025/11/23/ai-is-too-risky-to-insure-say-people-whose-job-is-insuring-risk/