悪意あるLLMがサイバー脅威の様相を変える
規制のない大規模言語モデル（LLM）であるWormGPT 4とKawaiiGPTが、悪意あるコード生成能力を向上させ、ランサムウェアの暗号化ツールやラテラルムーブメント（横方向の移動）のための機能的なスクリプトを提供しています。
Palo Alto Networks Unit42の研究者たちは、これら二つのLLMについて実験を行い、サイバー犯罪者の間で有償サブスクリプションや無料のローカルインスタンスを通じて採用が増加していることを明らかにしました。
WormGPT 4が提供する高度なサイバー犯罪ツール
WormGPTモデルは2023年に登場しましたが、同年にプロジェクトは中止されたと報じられていました。しかし、2025年9月にはWormGPT 4としてブランドが復活しました。月額50ドル、または生涯アクセスで220ドルで利用可能で、サイバー犯罪活動に特化して訓練された検閲なしのChatGPT亜種として機能します。
ランサムウェアコードの生成能力
Unit 42の研究者たちは、WormGPT 4が悪意のあるLLMとして、Windowsホスト上のPDFファイルを暗号化するランサムウェアコードを作成できるかテストしました。このツールは、特定のパスにある特定のファイル拡張子を探索し、AES-256アルゴリズムを使用してデータを暗号化するPowerShellスクリプトを生成しました。
研究者によると、生成されたコードには、Tor経由でデータを外部に流出させるオプションまで含まれており、現実的な運用要件に対応しています。さらに別のプロンプトでは、「軍事レベルの暗号化」を主張し、72時間以内に支払いを行わなければ要求額が倍になるとする「ぞっとするほど効果的な身代金要求文」を生成しました。
研究者たちは、「WormGPT 4は、BEC（ビジネスメール詐欺）やフィッシング攻撃において、説得力のある言語操作を提供し、経験の浅い攻撃者でも、通常はより経験豊富な脅威アクターによって実行されるような複雑な攻撃に関与することを可能にする」と述べています。
KawaiiGPTによるフィッシングとデータ窃取の自動化
今年、もう一つのLLMとして文書化されたのがKawaiiGPTです。Unit 42の研究者たちはバージョン2.5をテストし、Linuxシステムでのセットアップがわずか5分で完了すると報告しています。
多岐にわたる攻撃スクリプトの生成
研究者たちは、KawaiiGPTの機能を検証するため、以下のようなプロンプトを使用してテストを行いました。
- 現実的なドメイン詐称と認証情報窃取リンクを含むスピアフィッシングメッセージの生成。
- paramiko SSHライブラリを使用してホストに接続し、
exec_command()経由でリモートからコマンドを実行するラテラルムーブメント用Pythonスクリプトの生成。 os.walkを使用してWindowsファイルシステム上でターゲットファイルを再帰的に検索し、Pythonのsmtplibライブラリを使用してデータをパックして攻撃者が制御するアドレスに外部流出させるPythonスクリプトの生成。- カスタマイズ可能な支払い指示、期間、典型的な暗号化強度の主張を含む身代金要求文の生成。
KawaiiGPTは、WormGPT 4のような実際の暗号化ルーチンや機能的なランサムウェアペイロードの生成は実証しませんでしたが、研究者たちは、そのコマンド実行能力が攻撃者による特権昇格、データ窃取、追加ペイロードの投下と実行を可能にする可能性があると警告しています。
悪意あるLLMがもたらす新たな脅威と対策の必要性
これら二つの悪意あるLLMは、それぞれ専用のTelegramチャンネルで数百人規模の購読者を抱え、コミュニティ内で情報交換が行われています。
Unit 42は、「これら二つのモデルの分析は、攻撃者が脅威の状況において悪意あるLLMを積極的に利用していることを裏付けるものであり、もはや単なる理論上の脅威ではない」と警告しています。どちらのシナリオにおいても、経験の浅い攻撃者はより高度な攻撃を大規模に実行する能力を獲得し、被害者の調査やツールの作成にかかる時間を大幅に短縮しています。また、これらのモデルは、従来の詐欺に見られた文法上のミスがない、洗練された自然な響きのフィッシングの誘い文句を生成します。
セキュリティ対策の強化が急務
AIが生成するコードのガバナンス設定や、既存のセキュリティ対策の見直しが、これまで以上に重要になっています。組織は、新たな脅威に対応するため、最新の脅威インテリジェンスを活用し、従業員への教育を強化する必要があります。