エージェントAIがもたらす新たなリスク
自律型システムとツールの普及は、金融サービス企業のリスク管理環境を変化させています。ニューヨークで開催されたEvident AIシンポジウムで、テクノロジーリーダーたちはこの課題について議論しました。
CiscoのクラウドおよびAIインフラ担当グローバル金融サービス業界リードであるアル・スラメカ氏は、ライブストリームパネルディスカッションで、「CISOに話を聞けば、今日のセキュリティ脆弱性を見つけることは、すでに干し草の山から針を見つけるようなものです」と述べ、「私たちは、何万もの干し草の山の中から針を見つける状況に移行しようとしています」と付け加えました。
企業リーダーは、AIエージェントがビジネスに大きな価値をもたらすと確信していますが、同時に運用上の混乱の脅威を無視できないことも認識しています。サイバーセキュリティ体制の弱体化から変更管理の課題まで、銀行は多くの問題を抱えています。
State Streetの国際リスク、ガバナンス、トランスフォーメーション担当EVP兼CIOであるピナー・キップ氏は、「ワークフローを作成し、他のエージェントと連携する形で実装されたエージェントAIは、基本的なリスク管理構造に存在するあらゆる脆弱性を露呈させます」と指摘しました。
高まるAIリスク管理への投資
企業は、AI導入の増加に対応して、すでにリスク管理の取り組みを強化し始めています。OneTrustが9月に発表したレポートによると、ITリーダーは今年、AIリスク管理に2024年よりも約37%多くの時間を費やしました。予算も拡大しており、ほぼすべてのITリーダーが来年、ガバナンスへの投資を平均24%増やす計画です。
金融業界におけるAI導入の現状
特に金融サービスビジネスは、職場でのAI導入を積極的に進めています。Evident Insightsが8月に発表したレポートによると、世界の主要金融企業50社が立ち上げた新しいAIユースケースは、2024年後半と比較して2倍に増加し、エージェントAIに取り組む技術者の数は10倍以上に増えました。
リスク管理と戦略的導入の重要性
ロンドンを拠点とする金融サービス企業HSBCの、新興テクノロジー、イノベーション、ベンチャー担当グループヘッドであるイアン・グラスナー氏は、「業界として、私たちはリスク管理に非常に長けています」と述べ、「これを複雑にしすぎる必要はありません。私たちはビジネスのユースケースとそれに関連する価値に焦点を当てる必要があります」と強調しました。
技術リーダーはAIエージェントを導入する際、すべてのワークフローに無理やり技術を押し込むことを避けたいと考えています。キップ氏は、「これは本当に素晴らしいハンマーだ。周りの釘をすべて見つけに行こう、という傾向がありますが、それはAIの本来の目的ではありません」と述べ、「従来の自動化でまだできることはたくさんあり、それにエージェントは必要ありません」と付け加えました。