AI経済安全保障センター設立の背景

米国立標準技術研究所（NIST）は、非営利の研究機関であるMITREと提携し、人工知能（AI）が重要インフラのセキュリティをどのように強化できるかについて研究を開始しました。両者は「米国重要インフラをサイバー脅威から守るためのAI経済安全保障センター」を設立し、「AI駆動ツールの開発と採用を推進する」ことで、電力施設、病院などの重要インフラを標的とするハッカーから防衛する取り組みを支援します。

NISTの担当者は、「NISTはMITREと緊密に連携し、革新的な急速なペースで技術採用に大きな影響を与える可能性のある共同開発とパイロットテストの分野に焦点を当てます」と述べています。このAIアクセラレーターの目標は、米国産業がAIの実装に関して賢明な選択をするのを助けることです。

AIセンターの役割と目的

NISTは、経済安全保障センターと並行して製造業の生産性向上に焦点を当てた取り組みも行い、「AIイノベーションにおける米国の優位性を効果的に保護し、敵によるAIの使用からの脅威に対処し、安全でないAIへの依存によるリスクを軽減するために必要な技術評価と進歩を開発する」と発表しています。これらの新しいAIセンターは、トランプ政権が「AI研究と展開における米国の競争優位性を維持する」ための戦略の一部であり、ホワイトハウスのAI行動計画（特に重要インフラ保護に関するセキュリティコンポーネント）の実施を支援します。

NISTは、「AIセンターが応用科学と先端技術における画期的な進歩を可能にし、国家が直面する最も喫緊の課題に取り組むための画期的な革新的なソリューションを提供することを期待しています」と述べています。

信頼性の高い自動化への課題と展望

NISTは新しいAIセキュリティセンターが取り組む具体的なプロジェクトの例は示していませんが、専門家からはいくつかのアイデアが提供されています。

• AIストレス試験会社Optica Labsの最高執行責任者ニック・リース氏は、センターがAIモデルに依存するミッションクリティカルなシステムの信頼性を確保する方法を模索すべきだと提言しています。彼は、「私たちは意思決定をより速くするだけでなく、より正確にすることも重要です」と強調しました。
• リース氏はまた、AIの安全性と保証テスト、ベンチマークが現在不足していると指摘し、「NISTとMITREには、重要なサービスの提供のためにAI保証の分野を拡大する真の機会がある」と述べています。
• ジョージタウン大学安全保障・新興技術センターのシニアフェローであるアンドリュー・ローン氏も、特に重要インフラを強化することに焦点を当てたプロジェクトにおいて、信頼性の向上がAIセキュリティ研究の優先事項であるべきだという考えに同意しています。
• ローン氏は、AIが印象的なことをする一方で、「私たちがシステムやコンポーネントに要求する信頼性よりもはるかに低い」と指摘し、この信頼性の問題が重要インフラでのAIの使用を失格させるべきではないが、その問題を軽減するための研究を促すべきだと述べています。

重要インフラ施設では、他のビジネスよりもAIの不具合に対する許容度が低いため、センターはこれらの障害を軽減または緩和する技術の開発を支援する必要があります。ローン氏は、「この進歩なしには、AIシステムはデモンストレーションやプロトタイプでは印象的なことをするでしょうが、現実世界に移行することはめったにありません」と締めくくっています。

元記事: https://www.cybersecuritydive.com/news/nist-ai-security-critical-infrastructure-mitre-center/808652/