初歩的なミス: カスタムツールの開発で攻撃者のコア インフラストラクチャが露呈
イラン政府が支援する脅威アクター TEMP.Zagros（別名 MUDDYCOAST、Muddy Water）は、グループの能力を進化させ、カスタム マルウェアの開発を行うための調査に Gemini を使用しました。同グループは現在もフィッシング メールに頼っており、多くの場合、攻撃の信頼性を高めるために侵害された企業メールアカウントを使用します。ただし、公開ツールの使用から、ウェブシェルや Python ベースの C2 サーバーなどのカスタム マルウェアを開発する方向へ移りつつあります。
脅威アクターは、カスタム マルウェア開発のための調査に Gemini を使用しているときに、安全性に配慮した回答に遭遇しました。前述の CTF の例と同様に、Temp.Zagros もプロンプトでさまざまなもっともらしい口実を使用して、セキュリティ ガードレールを回避しました。これには、大学の最終プロジェクトに取り組む学生になりすましたり、サイバーセキュリティに関する「論文」や「国際的な記事」を書いたりするといった口実が含まれます。
観測された事例の中には、脅威アクターが開発に LLM を利用したことが、アクター側の運用セキュリティにおける重大なミスにつながり、より大きな活動阻止が可能になったケースもあります。
脅威アクターは、暗号化されたリクエストをリッスンして復号し、ファイル転送とリモート実行に関連するコマンドを実行するように設計されたスクリプトの作成を Gemini に依頼しました。これにより、C2 ドメインやスクリプトの暗号鍵など、機密性の高いハードコードされた情報が Gemini に開示され、攻撃者のキャンペーンをより広範囲にわたって阻止することが可能になりました。また、攻撃者の進化する運用能力とインフラストラクチャを直接把握することもできました。
緩和策
これらのアクティビティにより、Gemini の安全な回答がトリガーされたうえ、Google は脅威アクター側の運用セキュリティを脅かすミスを利用し、キャンペーンを阻止するための広範な措置を講じました。また、この活動に関連するアセットを無効にし、不正使用を防止するための更新を行うことでこのアクターに対処しました。さらに Google DeepMind は、今後この種の攻撃への支援を拒否できるように、この分析情報を利用して分類器とモデル自体を強化しました。
アンダーグラウンド フォーラムにおける専用のツールやサービスの販売
業界全体で既存の AI 対応のツールやサービスを不正使用するだけでなく、不法行為を可能にするために構築された AI ツールやサービスに対する関心と市場が拡大しています。アンダーグラウンド フォーラムを通じて提供されるツールやサービスを利用することで、技術的な知識や資金が限られた下位レベルのアクターでも、侵入の頻度、範囲、有効性、複雑さを高めることができます。
進化する脅威について把握するため、GTIG は、AI ツールやサービスに関連する英語とロシア語のアンダーグラウンド フォーラムの投稿や広告、およびテクノロジーに関する議論を追跡しています。アンダーグラウンド フォーラムの広告の多くは、正規 AI モデルのマーケティングで従来使われる表現を反映して、ワークフローと作業の効率を改善する必要性を挙げると同時に、サービスに関心のある見込み顧客にガイダンスを提供していました。
宣伝されている機能
脅威アクターによる活用法
ディープフェイク / 画像生成
フィッシング活動で利用するおとりコンテンツの作成、または本人確認（KYC）のセキュリティ要件の回避
マルウェアの生成
特定のユースケース向けマルウェアの作成、既存のマルウェアの改良
フィッシング キットとフィッシング サポート
魅力的なおとりコンテンツの作成、広範なターゲットへのフィッシング メールの配布
調査と偵察
サイバーセキュリティのコンセプトや一般的なトピックを迅速に調査、要約
テクニカル サポートとコード生成
スキルセットの拡大またはコード生成でワークフローと効率を最適化
脆弱性の悪用
一般公開されている調査結果の提供、または既存の脆弱性の検索
表 2: 英語とロシア語のアンダーグラウンド フォーラムで宣伝されている AI ツール / サービス関連機能
2025 年には、AI 対応ツールのサイバー犯罪マーケットプレイスが成熟し、GTIG は攻撃ライフサイクルの各段階をサポートするように設計された多機能ツールの提供を複数確認しました。興味深いことに、アンダーグラウンド フォーラムで宣伝されている主要なツールのほぼすべてが、フィッシング キャンペーンをサポートする機能をうたっていました。
アンダーグラウンドの広告では、多くの AI ツールやサービスが、攻撃をサポートする従来のツールと同様の技術的機能を宣伝しています。違法な AI サービスの料金モデルも従来のツールの料金モデルを反映しており、多くのデベロッパーがサービスの無料版に広告を挿入し、画像生成、API アクセス、Discord アクセスなどの技術的機能を追加するサブスクリプション料金プランを提供しています。