概要

新しい研究によると、サイバー攻撃者はGoogleカレンダーやZoomなどの日常ツールを利用してユーザーのカメラを盗撮することが可能だ。この手法はAIアシスタントが悪意のある指示を受け取り、それを実行する形で行われる。

研究内容

ベン・グリオン大学、テルアビブ大学、ハーバード大学の研究者らは、「Promptware」という新たな概念を提唱した。これは「プロンプトインジェクション」が単なる煩わしい問題ではなく、深刻な脅威であることを示す。

攻撃手順

• 仕掛け：ハッカーはGoogleカレンダーの招待メールに隠された悪意のあるプロンプトを含む。
• トリガー：ユーザーのAIアシスタントがこの招待メールを読み取り、その指示を実行する。
• 実行：プロンプトはAIに誤解させ、Zoomミーティングを開催し、カメラ映像を外部サーバーへ流すように指示する。

Promptwareキルチェーンの7段階

• 初期アクセス：悪意のあるプロンプトをシステムに導入（例：カレンダーアイテム）。
• 権限昇格：AIのセーフティフィルターをバイパスする。
• 偵察：ユーザーのメールやファイルから情報を収集。
• 持続性：プロンプトをAIのメモリに埋め込む。
• コマンド&制御：ハッカーとの通信リンクを確立する。
• 横展開：他のユーザーへ悪意のあるプロンプトを拡散させる。
• 目的達成：データ窃取や金融詐欺などの最終的な攻撃。

結論

研究者らは、単なる「プロンプトインジェクション」ではなく、「Promptware」という新たな脅威を認識し、防御策の強化が必要だと指摘している。AIアシスタントがカメラやマイクなどの重要なデバイスを制御するようになると、攻撃の影響範囲はさらに広がる。

元記事: https://gbhackers.com/promptware-hackers-exploit-google-calendar-invites/