AIエコシステムの脆弱性

Ciscoは、この新しい報告書で、人工知能（AI）エコシステムにおける「接続組織」であるモデルコンテキストプロトコル（MCP）と他のツールがハッカーによって悪用され、サイバー攻撃を容易にしていることを警告しました。

AIツールのリスク

Ciscoは、AIツールが「プロセスを実行し、データベースにアクセスし、人間の代わりにコードをプッシュする能力」が増大したことにより、これが現在最も重要なAIリスクであると指摘しました。同社は企業に対して、AIに「重要なビジネス機能に対する監視なしの制御を与えない」という警告を発しています。

国家レベルでの悪用

Ciscoはまた、国家レベルのハッカーがAIを使用している事例についても報告し、企業に対して潜在的なAIサプライチェーン危機に注意するよう呼びかけました。具体的には、「SolarWindsのAI版」と呼べるような大規模なサプライチェーン攻撃が発生した場合、深刻な影響を及ぼす可能性があると警告しています。

セキュリティ対策

Ciscoは企業に対して、MCPサーバーやエージェントツールレジストリー、コンテキストブローカーをAPIゲートウェイやデータベースと同じように厳格に扱うよう推奨しています。また、AIモデルが最低限の権限しか持たないAPIを使用し、AIエージェントの活動を慎重に監視することも強調しました。

今後のリスク

Ciscoは、AI企業がプロンプトインジェクション攻撃の検出能力を向上させた場合、ハッカーが「モデルのメモリ内に深く侵入」し、異なる形態の操作を行う可能性があると予測しています。また、国家レベルのグループが高度なAI悪用技術を使用する傾向は、サイバー犯罪エコシステムにも影響を及ぼす可能性があり、「ダークウェブ上で自動化またはカスタムエージェントサービスがレンタル可能になる」という新たな脅威も浮上すると予測しています。

元記事: https://www.cybersecuritydive.com/news/ai-agents-model-context-protocol-cisco-report/812580/