概要
OpenAIは最新の脅威レポート「Disrupting malicious uses of AI」で、中国関連のオペレーターがChatGPTをサイバー作戦やオンラインでの嫌がらせ、隠密的な影響力行使策に悪用したことを確認しました。
詳細
これらのモデルは直接的にエクスプロイトを作成したりネットワークに侵入するのではなく、反体制派や国外の政治家を標的とした作戦を計画し拡大するために悪用されました。特に深刻な事例として、OpenAIは中国の法執行機関に関連した個人が「サイバー特別作戦」プログラムを記録しているChatGPTアカウントを禁止しました。
具体的な事例
このユーザーはChatGPTを操作日誌として使用し、国外の反体制派に対する脅迫や虚偽の死亡報道、数百のソーシャルメディアプラットフォームでの大規模な嫌がらせとスラッシングキャンペーンを計画しました。
サイバー攻撃の手法
OpenAIは報告書で複数の名指し作戦について詳細を明らかにしています。これらの作戦では、プロ・北京やプロ・ロシアの叙述を支持する記事、ソーシャルポスト、メールが生成されました。
セキュリティへの影響
OpenAIは特定されたアカウントを禁止し、悪用検出システムを強化するとともに、政府やプラットフォームとインジケーターの共有を通じて防御者に対して関連ネットワークを追跡するための支援を行っています。
組織への対応
この発見は、組織が高度なメール、法的脅威、ソーシャルメッセージを慎重に扱う必要性を強調しています。特に言語的に完璧でローカライズされたものであっても。