AI導入の加速とリスク軽減予算の増加
企業におけるAI（人工知能）の導入が加速する中、それに伴うリスク軽減のための予算が大幅に増加していることが明らかになりました。OneTrustの調査によると、ほとんどの企業が来年度のガバナンス投資を増やす計画であり、AIの統治にはコストがかかるものの、その必要性が強く認識されています。
具体的には、調査対象となった1,250人のITリーダーのうち、98%もの企業が来年度にガバナンス予算を増額する予定であり、平均で24%の増加が見込まれています。これは、AIリスクがより明確になるにつれて、企業がガバナンスへのリソース配分を強化している現状を示しています。
特に「高度なAI導入」を進めるITリーダーの86%が、可視性、コラボレーション、ポリシー施行におけるギャップを認識していると回答しており、AIの潜在的な危険性に対する懸念が浮き彫りになっています。また、ITリーダーは今年、AIリスクの管理に昨年より約37%多くの時間を費やしており、5社中4社以上がAIリスクをガバナンス慣行の近代化を推進する主要因として挙げています。
AIガバナンスの重要性と多層的アプローチ
AIがもたらす恩恵は大きいものの、CIO（最高情報責任者）はリスクを無視するわけにはいきません。企業はガバナンスとガードレールを念頭に置いた戦略を練り上げています。
EY AmericasのAIおよびデータリーダーであるTraci Gusher氏は、「組織内の他の多くの業務と同様に、AIを保護する際には、第一線、第二線、第三線の防御が必要だ」と述べています。同氏は、「包括的なポリシー、価値観、技術プロセス、管理ポイント、そしてそのプロセスに統合された人々が、AIを責任を持って管理する上での堅牢性」を構成すると強調しています。
現在、企業はリスク軽減のために、人間による監視（ヒューマン・イン・ザ・ループ）、データアクセス制限、信頼できるテクノロジープロバイダーを介したAIアクセスなど、いくつかのメカニズムに依存しています。昨年発表された米国国立標準技術研究所（NIST）の推奨事項も、企業が初期段階で基盤を築くのに役立っています。
AIリスクがもたらす具体的な損失
アナリストは、AI技術が成熟し、企業が潜在的な危険性を分析するにつれて、ガバナンスの確立は反復的なプロセスであり続けると指摘しています。S&P Global Market Intelligence 451 ResearchのシニアアナリストであるGreg Macatee氏は、「もし全てを承認しているだけでは、成功の可能性ははるかに低くなるだろう」と述べ、CIOがAIプロジェクトの優先順位付けにより慎重なアプローチを取る必要性を示唆しています。
一部のAIプロジェクトが失敗に終わるのは避けられないとしても、リスク軽減を怠ることは大きな代償を伴います。Infosysの8月のレポートによると、ほぼ全てのシニアエグゼクティブが、企業でのAI利用により少なくとも1種類の「問題のあるインシデント」を経験しており、その主な原因は事業への直接的な経済的損失でした。平均的な企業は、2年間で80万ドルの損失を報告しています。
ガバナンスの課題と今後の展望
CIOには、この困難で未知の領域を企業が乗り切るのを助けるというプレッシャーがかかっています。AIの導入は、テクノロジーリーダーが何を、どのように統治するかをすでに変えていますが、さらなる調整が必要となるため、警戒が求められます。
OneTrustの最高イノベーション責任者であるBlake Brannon氏は、レポートに付随するリリースで、「AIプロジェクトが前例のないスピードで進む一方で、従来のガバナンスプロセスは昨日のペースで運用されている」と述べています。この発言は、AIの急速な進化に対応するためには、ガバナンスの仕組みも同様に進化させる必要があるという、現在の大きな課題を明確に示しています。
元記事: https://www.cybersecuritydive.com/news/AI-risk-mitigation-governance-oversight-data/802320/