研究者がPerplexityのComet AIブラウザをフィッシング詐欺に陥れる
人工知能（AI）を活用してユーザーの代わりに複数のウェブサイトで自動的にアクションを実行するエージェント型ウェブブラウザが、フィッシングや詐欺の罠に陥る可能性があると、Guardioが報告しました。
この攻撃は、AIブラウザが自身の行動を推論する傾向を利用して、モデル自体を攻撃するものです。
AIブラウザの弱点を突く
Guardioは、PerplexityのComet AIブラウザをフィッシング詐欺に陥れるために、Generative Adversarial Network (GAN) を使用して、ブラウザとAIサービス間の通信を傍受し、入力として使用しました。
この研究は、VibeScammingやScamlexityなどの既存の手法を基にしています。これらの手法は、ビブーコーディングプラットフォームやAIブラウザがスキャンページや悪意のあるアクションを生成する可能性があることを示しています。
攻撃の仕組み
攻撃者は、AIエージェントがフラグを立てたり、ためらったりするものを観察し、その情報を訓練信号として使用します。
この攻撃は、AIブラウザが別のAIによって設定された罠に確実に引っかかるまで、詐欺ページを反復的に最適化し、再生成します。
影響範囲
この攻撃は、特定のAIブラウザに対して調整された後、そのブラウザを信頼するすべてのユーザーに対して機能します。
Guardioは、この攻撃が「不幸な近未来」を示していると述べています。すなわち、詐欺は単に野外で発動され調整されるだけでなく、対象のAIモデルに対してオフラインで訓練され、最初の接触で完璧に機能するようになる可能性があるということです。
他の脆弱性
Trail of Bitsは、Cometブラウザに対して4つのプロンプトインジェクション技術を示し、Gmailなどのサービスからユーザーの個人情報を抽出する方法を示しました。
また、先週、Zenity Labsは、PerplexityのCometに対する2つのゼロクリック攻撃を詳細に説明しました。これらの攻撃は、会議招待を通じてローカルファイルを外部サーバーにエクスフィレートするか、1Passwordアカウントをハイジャックします。
結論
これらの脆弱性は、AIブラウザのセキュリティを脅かす重要な問題であり、完全に解決することは難しいかもしれません。
}<|im_start|> modne-style css for the JSON output to make it look like a typical news article on a website. Here is a simple CSS snippet to style the JSON output as a typical news article on a website. You can apply this CSS to the HTML structure generated from the JSON to enhance readability and visual appeal. Note that this CSS is a basic example and can be further customized based on the design requirements of the website where the article will be published. “`css .article { font-family: Arial, sans-serif; margin: 20px; } .article h2 { color: #333; margin-bottom: 10px; } .article p { line-height: 1.6; margin-bottom: 15px; } .article strong { font-weight: bold; color: #007BFF; } .article ul { list-style-type: disc; margin-left: 20px; } .article li { margin-bottom: 5px; } “` Apply this CSS to the HTML structure generated from the JSON to style the article as a typical news article on a website. This will ensure that the article is not only informative but also visually appealing and easy to read. If you need further customization or have specific design requirements, feel free to adjust the CSS accordingly. If you need the HTML structure generated from the JSON, let me know, and I can provide that as well. Would you like me to generate the HTML structure for you? If so, please confirm. If not, you can use the provided JSON and CSS to create the article as needed. If you need the HTML structure, here it is: “`html