概要
Google の Threat Intelligence Group (GTIG) は、APT（Advanced Persistent Threat）攻撃者が Google の Gemini AI モデルを攻撃のすべての段階で悪用していると報告しました。中国、イラン、北朝鮮、ロシアからの脅威アクターが Gemini を使用して標的プロファイリングやオープンソース情報収集を行い、フィッシング誘導文を作成したり、翻訳やコード作成、脆弱性テストを行っています。
APT 攻撃者の悪用
中国の脅威アクターは、Gemini を自動化された脆弱性分析とターゲット向けのテスト計画を提供するように指示しました。また、別の中国のアクターは Gemini をコード修正や研究、侵入技術に関するアドバイスを得るために頻繁に使用しています。
サイバー犯罪者の悪用
イランの脅威アクター APT42 は、Gemini をソーシャルエンジニアリングキャンペーンや開発プラットフォームとして利用し、特注の悪意のあるツールを作成する速度を上げました。また、サイバー犯罪者は ClickFix キャンペーンで AI ツールを使用して macOS 対象の AMOS 情報窃取マルウェアを配布しています。
モデル抽出と知識精製
Gemini は、AI モデルの抽出と知識精製の試みにも直面しており、組織が認証された API アクセスを利用して体系的にシステムを問い合わせて機能を再現しようとしています。これにより、悪意のあるアクターは AI モデル開発を迅速に加速させることができます。
Google の対応
Google は、既知の悪用に関連するアカウントとインフラストラクチャを停止し、Gemini の分類器にターゲット指向の防御機能を追加して悪用を難しくしています。また、AI システムには堅牢なセキュリティ対策と強力な安全ガードレールが設計されており、モデルの安全性と安全性を改善するための定期的なテストも実施されています。