NISTがAIエージェントのセキュリティ強化へ一般に協力を要請

米国標準技術研究所（NIST）は、AIエージェントのセキュリティリスク管理に関するアプローチについて、一般からの意見募集を開始しました。木曜日に連邦官報に掲載されるNISTのAI標準イノベーションセンター（CAISI）の公示では、「人工知能（AI）エージェントシステムの安全な開発と導入を測定し、改善するための実践と方法論に関する情報と洞察」を求めています。

高まるAIエージェントのセキュリティ懸念

この公募は、遍在するAIエージェントのセキュリティ脆弱性に対する根強い懸念を反映したものです。多くの企業は、これらのエージェントの欠陥を十分に理解したり、軽減計画を立てたりすることなく導入しており、ハッカーがコンピューターネットワークに侵入する新たな経路を不注意に作り出しています。特に、産業機械を制御する重要なインフラネットワークにおいて、不十分に保護されたAIエージェントに広範な権限が与えられることは、健康と安全にとって極めて危険です。

NISTは、「監視されないまま放置されれば、これらのセキュリティリスクは公共の安全に影響を与え、消費者の信頼を損ない、最新のAIイノベーションの採用を阻害する可能性があります」と述べています。

求められる具体的な提言とCAISIの役割

NISTは、テクノロジー企業、学術研究者、その他の一般市民に対し、AIエージェントシステムの開発と導入、およびそれらに伴うリスクの管理と予測に関する経験に基づいた「具体的な事例、ベストプラクティス、ケーススタディ、および実行可能な推奨事項」を60日間で提供するよう求めています。

CAISIは、バイデン政権下で設立され、2025年にトランプ大統領の下で刷新された組織であり、AIセキュリティ評価方法の開発、AIモデルの脆弱性テスト、業界との提携による自主的なセキュリティ標準の作成を担当しています。NISTは、この一般からのフィードバックが、CAISIがAIセキュリティリスクを評価し、「AIシステムのセキュリティを測定し、改善するための技術ガイドラインとベストプラクティス」を作成するのに役立つと述べています。

NISTが提示する主要な質問事項

公募では、一般に対し、以下のいくつかの具体的な質問に回答するよう求めています。

• AIエージェントに固有のセキュリティリスク
• エージェントを保護するために利用可能な技術的制御
• エージェントが関与するサイバーインシデントを検出する方法の現在の成熟度レベル
• エージェントの特定の機能と展開方法がセキュリティ制御の有効性にどのように影響するか
• 最も緊急の注意を払うべきエージェントセキュリティ研究分野

元記事: https://www.cybersecuritydive.com/news/nist-ai-agent-security-guidance-public-feedback/808966/