AIサイドバースプーフィング攻撃の概要
SquareXは、AIブラウザを標的とした新たな種類の攻撃「AIサイドバースプーフィング攻撃」に関する重要な調査結果を発表しました。この攻撃は、悪意のあるブラウザ拡張機能を利用して、信頼できるAIサイドバーインターフェースを偽装します。これにより、ユーザーは危険なコマンドを実行するように騙され、認証情報の窃盗、デバイスの乗っ取り、パスワードの漏洩につながる可能性があります。
この調査では、攻撃者がCometのようなAIブラウザや、Brave、EdgeなどのAI機能を備えたコンシューマーブラウザで、ユーザーがAIサイドバーに抱く信頼をどのように悪用するかが示されています。攻撃者は、正規のAIサイドバーと寸分違わぬレプリカを作成し、ユーザーに有害な指示を含むAI生成応答を返します。これにより、疑うことを知らないユーザーは、その指示に従ってしまうのです。
SquareX CEOによる解説
SquareXの創設者兼CEOであるヴィヴェック・ラマチャンドラン氏は次のように説明しています。「AIは、何百万人ものユーザーにとって新しいスキルを学び、タスクを完了するための不可欠なツールとなっています。残念ながら、これは人々がセキュリティリスクを特定する専門知識なしに、AIが生成した指示を盲目的に信じてしまう危険な状況を生み出しています。」
さらに、「視覚的にもワークフローにも違いがないため、AIサイドバースプーフィング攻撃は、ユーザーがこれらのAIインターフェースに抱く信頼を悪用し、ユーザーが完全に理解していない、あるいは認識していない悪意のあるタスクを実行するように騙します。」と述べています。
具体的な攻撃事例
SquareXは、AIサイドバースプーフィング攻撃の3つの主要な事例を挙げていますが、今後さらに多くの亜種が出現する可能性があると警告しています。
- 仮想通貨の窃盗：ユーザーがAIサイドバーに仮想通貨の引き出し方法を尋ねた際、偽のAIサイドバーは正規に見える指示を返しますが、BinanceのログインページURLをフィッシングリンクに置き換えていました。ユーザーはCometが生成した指示だと信じ、フィッシングサイトに認証情報を入力し、攻撃者はそれを利用して被害者のアカウントにログインし、仮想通貨にアクセスしました。
- パスワードの漏洩とデバイスの乗っ取り：他の事例では、ユーザーは悪意のあるコマンドを実行するよう誤った指示を受け、攻撃者はパスワードを漏洩させたり、デバイスを乗っ取ってリモートでランサムウェア攻撃を実行したりしました。
他のブラウザへの影響と検出の難しさ
研究者たちは、Edge、Firefox、Safariなど、AIサイドバーを実装している他のAIブラウザやコンシューマーブラウザも、AIサイドバースプーフィング攻撃に対して同様に脆弱であることを示しました。これは、組織がAIブラウザの使用を制限したとしても、AIサイドバーを備えたあらゆるブラウザで攻撃が実行される可能性があるため、ユーザーは依然としてこれらの攻撃の対象となることを意味します。
驚くべきことに、これらの攻撃は、Grammarlyやパスワードマネージャーのような人気のある拡張機能で一般的に見られる基本的なブラウザ拡張機能の権限のみを必要とします。そのため、権限分析だけでは検出が困難です。実際、AIサイドバースプーフィング拡張機能は、ユーザーのプロンプトに基づいて悪意のある行為をさせる機会を見つけるまで、正規の応答を提供し、休眠状態を保つことができます。
したがって、企業は、実行時に拡張機能の動作を動的に分析する能力と、悪意のある指示に従うユーザーに警告し、ブロックするためのきめ細かなブラウザネイティブのガードレールの両方を持つことが絶対に不可欠です。
SquareXについて
SquareXのブラウザ拡張機能は、あらゆるデバイス上のあらゆるブラウザを、AIブラウザを含むエンタープライズグレードのセキュアなブラウザに変えます。SquareXの業界初のBrowser Detection and Response (BDR)ソリューションは、不正なAIエージェント、ラストマイル再構築攻撃、悪意のある拡張機能、ID攻撃などのブラウザネイティブの脅威から組織を積極的に防御することを可能にします。専用のエンタープライズブラウザとは異なり、SquareXはユーザーの既存のコンシューマーブラウザとシームレスに統合し、ユーザーエクスペリエンスを損なうことなくセキュリティを提供します。SquareXの研究主導のイノベーションに関する詳細は、www.sqrx.comをご覧ください。