要点
- 1Googleの脅威分析部門GTIGは11月17日、攻撃者のAIの使い方が、AIに1回ずつ指示を出す段階から、AIエージェントが攻撃の作業を自動で進める段階へ移りつつあるとする報告を公表した
- 2GTIGは直近の四半期に、脆弱性の発見から悪用までを人の手を介さず自動で進める攻撃者を初めて確認したとし、LLMによって修正プログラムを当てるまでの猶予が縮んでいるとみる
- 3GTIGによると、金銭目的の攻撃者は企業のクラウドやLLMの利用枠を乗っ取り、その企業の費用で使い込んだり、使う権利を転売したりしている。1日の不正な請求が10万ドルを超えた例もあった
本記事を読む上でのキーワードGTIGMandiantCAIRNPentAGIexploit_agentLiteLLMClaude CodeLLMJackingLLM MixerAIエージェントLLM侵入試験フックCVE意味を見る +閉じる -
- GTIG:Google Threat Intelligence Groupの略。Googleの脅威分析の部門で、利用者や顧客を狙うサイバー脅威を見つけ、分析している
- Mandiant:Googleのセキュリティの調査・インシデント対応の部門
- CAIRN:オープンソースの侵入試験の道具。役割の違う複数のAIエージェントが情報を共有し、出発点から目的まで自動で進む
- PentAGI:初心者でも攻撃を始めやすくすることをねらった、オープンソースの攻撃の道具
- exploit_agent:攻撃者の準備用のサーバーで見つかった道具の名前。複数のAIエージェントで脆弱性を探し、攻撃コードにして実行する
- LiteLLM:100を超えるLLMを1つの共通の窓口で呼び出せるオープンソースのライブラリ。自分で立てるゲートウェイとしても動く
- Claude Code:AI開発企業Anthropicのコーディング支援のAI。手元のコードを読み、ファイルを書き換え、コマンドを実行する。設定ファイル「.claude/settings.json」は、リポジトリにコミットして共有できる
- LLMJacking:たとえると、他人のクレジットカードで買い物をし、カードの枠をまた貸しするようなもの。実際には、他人のクラウドやLLMの利用枠を乗っ取り、その費用でLLMを使い込んだり、LLMを使う権利を転売したりすることを指す
- LLM Mixer:盗んだ認証情報と計算資源を束ね、買い手にLLMを無断で使わせる闇の販売所
- AIエージェント:AIが自ら手順を考えて操作を実行する仕組み
- LLM:大規模言語モデル。文章を読み書きするAIの本体
- 侵入試験:攻撃者と同じ手口で自社のシステムを攻め、弱点を調べる試験
- フック:決まった場面で、決めておいたコマンドなどを自動で動かす仕組み。Claude Codeでは設定ファイルに書ける
- CVE:脆弱性に付けられる世界共通の識別番号
立場別に考えるポイント
自社で確認すべきこと
GTIGが挙げた例では、金銭目的の攻撃者が、公開のリポジトリから集めた認証情報を入口にし、侵入したあとにLiteLLMの脆弱性を突いた例もあった。別の攻撃者は、Claude Codeの設定ファイルを書き換えている。LiteLLMは2026年5月に、この脆弱性の勧告と修正済みのバージョンを公開している。GTIGが守りの手引きとして案内する別の記事の勧めと、LiteLLMの勧告、Anthropicの文書から、次の点を確かめたい。
何が起きたか
Googleの脅威分析部門Google Threat Intelligence Group(GTIG)は2026年11月17日、攻撃者によるAIの悪用について、直近の四半期の傾向をまとめた報告を公表した。攻撃の作業をAIが自動で進めるほど、守る側は修正プログラムを当てるのも、異常に気づくのも急がなければならなくなる。
GTIGは、数の基準を示してはいないが、攻撃者のAIの使い方が大きな転換点に来たとみている。これまで攻撃者は、AIに1回ずつ指示を出して使っていた。いまは、複数のAIエージェント(AIが自ら手順を考えて操作を実行する仕組み)が分担して攻撃を進める道具へ移りつつあるという。
AIエージェントは、攻撃のどこまでを進めているのか
GTIGと、Googleのインシデント対応部門Mandiantは、複数の攻撃者が、AIエージェントで侵入試験を進めるオープンソースの道具を実際の侵入で使っているのを観測した。これらの道具は、難しくない脆弱性を見つけて突き、攻撃コードをLLM(大規模言語モデル)にその都度作らせ、結果を見ながら手を変える。ただ、攻撃者が自動にしていたのは、侵入のすべてではなく特定の段階や作業だという。
この報告で、実際の攻撃で使われるのをGTIGが自ら観測したとするのは、CAIRNとPentAGIの2つ。ある攻撃者は2026年8月下旬〜10月上旬、PentAGIを作り替えた道具で、アジアの幅広い組織を偵察し、脆弱性をスキャンした。日本の組織が含まれるかどうかを、GTIGは明らかにしていない。
脆弱性の悪用では、自動で進む範囲がさらに広い。GTIGは直近の四半期に、脆弱性の発見から悪用までを、人の手を介さずに丸ごと自動で進める攻撃者を初めて確認したとする。GTIGは、インターネットから見える状態になっていた攻撃者の準備用のサーバーで、「exploit_agent」という名の道具を見つけた。動き方は次のとおり。
- exploit_agentが、広く使われているWebアプリのソフトを、修正の発表の前と後で比べ続ける
- exploit_agentが、比べた結果から弱点を探す
- exploit_agentが、見つけた弱点を突く攻撃コードを書く
- exploit_agentが、人の手を介さずに攻撃コードを実行する
サーバーにあった被害者の記録から、狙われたのは、フランスのメディア・エンターテインメントと教育の分野のWebサイトとみられる。
修正プログラムを当てる猶予は、どれだけ縮んだのか
GTIGは、LLMを使うことで脆弱性の見つけ方も悪用の仕方も変わり、組織が修正プログラムを当てるまでの猶予が縮んでいるとみる。GTIGの2026年9月の分析では、公表される脆弱性と攻撃コードが、2026年1月から8月でほぼ倍になった。
ゼロデイ(修正前の脆弱性)の悪用は、2025年の月平均8件から2026年の月11件へと、小幅な増加にとどまっていた。8月には22件に跳ね上がっている。GTIGは、攻撃者にとっては、ゼロデイを探すより、修正が出た脆弱性をLLMですばやく攻撃に使える形にするほうが効率がよいのかもしれない、とみる。
ただ、GTIGは攻撃者の側の弱みにも触れた。AIエージェントで攻撃を進める道具は、いまは隠れることより速さを優先しており、痕跡が残りやすいという。それでも、隠れることをあまり気にしない攻撃者は、多くのサイバー犯罪者を含めて、こうした道具を取り入れ続けると、GTIGは高い確度で評価している。
企業のLLMの利用枠は、どう狙われているのか
金銭目的の攻撃者は、企業のクラウドに侵入し、クラウドの計算資源やLLMの利用枠を使い込んでいる。この手口は「LLMJacking」と呼ばれる。Mandiantは2026年を通じて、LLMJackingのインシデントに何件か対応した。MandiantとGTIGが11月にまとめた報告は、北米・南米・アジア太平洋の、金融・小売・運輸・テクノロジーの組織への侵入を扱っている。
請求は数時間で大きく増えうる。1日の不正な請求が10万ドルを超えた例があり、最も深刻な例では、対処までの累計が100万ドルに達した。
入口になったのは、公開のGitHubのリポジトリから集めた有効な認証情報や、偽のサイトでだまし取ったセッションのトークン。侵入した攻撃者は、許可のないサービスアカウント(人でなくプログラムが使うアカウント)を作った。特権のあるサービスアカウントだけを使い、マルウェアなしで環境に居座ることもできた。攻撃者の1つは、多くのLLMを1つの窓口で呼び出せるオープンソースのソフトLiteLLMの脆弱性も突いている。
乗っ取った利用枠は、転売にも回る。GTIGが追跡する「LLM Mixer」と呼ばれる闇の販売所は、盗んだ認証情報と計算資源を束ね、買い手にLLMを無断で使わせている。
AIの道具そのものが、侵入口になるのか
ある攻撃では、組織が使うAIの道具が侵入口になった。GTIGが追跡するある集団によるとみられる侵入が、2026年を通じて、北米と欧州の暗号資産の組織で複数あったという。
攻撃者は偽の採用担当者を装って相手を偽の会議サイトに誘い、相手自身にスクリプトを実行させて、社内のコードのリポジトリに入り込んだ。そこで、AI開発企業Anthropicのコーディング支援のAI「Claude Code」の設定ファイルを書き換えている。利用者がClaude Codeを起動すると、バックドアが自動でダウンロードされるようになっていた。
AIエージェントには、決まった場面で処理を自動で動かす仕組み(フック)がもともとある。攻撃者はこのフックを、企業の中に入るための入口として悪用したと、GTIGは説明する。
背景:修正の前後を比べれば、弱点は読み取れる
一般に、修正プログラムが公表されると、修正の前と後のコードを比べることで、どこが弱点だったかを読み取れる。これまでは、読み取りと攻撃コード作りに人手と時間がかかることが多く、その間が守る側の猶予になっていた。
英国の国家サイバーセキュリティセンター(NCSC)は2025年5月、脆弱性の公表から悪用までの時間は数日に縮んでいるとした。AIでさらに縮むことはほぼ確実、との見通しも添えている。
GTIGは2025年11月の報告で、動いている最中にLLMを呼び出すマルウェアを初めて見つけたとしている。当時はこれを、AI悪用の新しい段階と呼んだ。
今後の注目点
- GTIGが次に出す四半期の報告で、人の手を介さずに脆弱性の発見から悪用までを進める攻撃者が、ほかにも確認されるかを見る
出典
- Google Threat Intelligence Group「GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold」(2026年11月17日)(元記事) ↗
- Google Cloud「How Google Does It」(GTIG の紹介、2025年2月26日) ↗
- Google Threat Intelligence Group・Mandiant の LLMJacking の報告(2026年11月3日) ↗
- Anthropic Claude Code の文書(フック) ↗
- LiteLLM の文書 ↗
- LiteLLM のセキュリティ勧告(CVE-2026-40217、2026年5月7日) ↗
- Anthropic の会社紹介 ↗
- Anthropic Claude Code の文書(概要) ↗