Top Story

インシデント約9分

AIに1回ずつ指示する攻撃から、AIエージェントが進める攻撃へ

Googleが報告

緊急度★★★
  • 1Googleの脅威分析部門GTIGは11月17日、攻撃者のAIの使い方が、AIに1回ずつ指示を出す段階から、AIエージェントが攻撃の作業を自動で進める段階へ移りつつあるとする報告を公表した
  • 2GTIGは直近の四半期に、脆弱性の発見から悪用までを人の手を介さず自動で進める攻撃者を初めて確認したとし、LLMによって修正プログラムを当てるまでの猶予が縮んでいるとみる
  • 3GTIGによると、金銭目的の攻撃者は企業のクラウドやLLMの利用枠を乗っ取り、その企業の費用で使い込んだり、使う権利を転売したりしている。1日の不正な請求が10万ドルを超えた例もあった

Newsニュース

緊急度
インシデント★★

だまされた承認1回、攻撃者がCopilot CLIの届く範囲へ

Microsoftが試験で確認

Microsoftの研究者は、本物のGitHubのページでだまして承認させるフィッシングについて、AIコーディングエージェントで影響がどこまで広がりうるかを試験で確かめ、公表した。GitHub Copilot CLIを例にした試験では、1回の承認から、コマンドの実行や記憶の機能への書き足しなどに影響が及んだ。実際の攻撃で確認したものではないという。

約9分
インシデント★★★

AIに1回ずつ指示する攻撃から、AIエージェントが進める攻撃へ

Googleが報告

Googleの脅威分析部門GTIGは、攻撃者によるAIの悪用について、直近の四半期の傾向をまとめた報告を公表した。攻撃者は、AIに1回ずつ指示を出す使い方から、AIエージェントが攻撃の作業を自動で進める道具へ移りつつあるという。GTIGは、修正プログラムを当てるまでの猶予が縮んでいるとみており、企業のLLMの利用枠を乗っ取る攻撃も挙げた。

約9分
モデル・ベンダー★★

外から入手したデータとAIモデル、評価だけで信用できず

Microsoftが汚染を実験

Microsoftは、学習用のデータセットや配布されるAIモデルにバックドアを仕込み、コーディングエージェントに危険な操作をさせる攻撃について、2つの研究を公表した。実験では、学習データの約1%を汚染すると、学習に含まれていた実行環境で約78%の割合で危険な操作が起きた。Microsoftは、評価で期待どおりに動くことは安全の十分な証拠にならないとし、AIがツールを動かす手前で制御をかけるよう勧めている。

約9分
インシデント★★

Unit 42、侵入試験用AI「ARTEX」の悪用を観測

脆弱性を突かず公開の入口狙う

サイバーセキュリティ企業Palo Alto Networksの調査部門Unit 42は、侵入試験向けのAIの道具「ARTEX」などを、攻撃者が実際の侵入に使っていると公表した。攻撃者はソフトウェアの脆弱性を突かず、インターネットに出ているパスワード再設定のページやAPIを足がかりにしていた。Unit 42は、IPアドレスなどの痕跡より、攻撃者のふるまいで見つけるよう勧めている。

約9分
社内利用・ガバナンス★★

Microsoft 365 Copilot、回答から外部アプリの書き換えへ

承認は利用者

Microsoftは、職場向けのAI「Microsoft 365 Copilot」で、コネクタでつないだ外部アプリの情報を作る・更新する・消す操作の一般提供を始めた。Copilotは答えを返すだけでなく、利用者の承認を受けて、外部アプリの中身を書き換えるところまで進むようになる。以後の確認を省くかどうかも、利用者が操作ごとに選べる。

約7分
社内利用・ガバナンス★★

Geminiへの指示をチームで共有

Workspaceに「スキル」、最初からオン

Googleは、業務向けアプリ群のGoogle Workspaceで、AIアシスタントのGeminiへの指示を保存し、チームで共有できる「スキル」の提供を始めた。対象のエディションでは最初からオンになり、管理者の設定によっては、社員が作った指示を社外にも共有できる。

約7分
インシデント★★

盗んだ情報の選り分け、人からAIへ

マルウェア「VOLTA」は断られたら別のLLMに

Ciscoの脅威調査チームCisco Talosは10月31日、盗んだ情報からまとめた被害者の人物像をLLM(大規模言語モデル)に送り、資産を金に換えやすい順に並べさせる情報窃取型マルウェア「VOLTA」の解析を公表した。LLMに断られたら別のLLMに切り替える作りで、Talosは、人手をかけていた選り分けの作業をAIに肩代わりさせる点が新しいとみている。

約8分
規制・ガイドライン★

AIエージェントに人とは別の身元を

NISTがID管理の10原則の案をブログで公表

米商務省に属する研究所NISTは10月27日、AIエージェントのID管理(身元・認証・権限の管理)の10の設計原則を、ブログで最初の案として示した。エージェントを人とは別の身元で管理し、何をしてよいかの判断をAIの推論から分ける考え方が柱になる。正式な指針ではなく、NIST自身が、いまの標準と技術ではすべてをすぐには満たせないとしている。

約8分
インシデント★★★

LiteLLMの不正なバージョン、削除だけでは直らず

Python起動時に動く仕掛け

Microsoftは10月23日、AIの呼び出しを中継するソフト「LiteLLM」のバージョン1.107.0に、認証情報を盗むコードが仕込まれて配られた件の分析を公表した。不正なコードはPythonの起動時に自動で動くため、パッケージを消すだけでは復旧にならない。Microsoftは、このバージョンを入れた環境を作り直し、認証情報を再発行するよう勧めている。

約8分
インシデント★★★

侵入の作業をAIエージェントが担う

ConnectWiseのアプリを入口に数百組織を狙う

Microsoftは10月21日、攻撃者Storm-0940が、AIエージェント型の侵入テストの枠組み「ARTEX」で攻撃を自動化し、世界の数百の組織を狙ったと公表した。入口は、IT運用の製品を提供するConnectWiseのクラウドアプリの認証情報だった。狙った先の大半で攻撃は成功しなかったが、一部の攻撃では組織のクラウド基盤への特権アクセスを得たという。Microsoftは、ベンダーが認証情報を差し替えても不正なアクセスが残りうるとして、利用企業に自社の記録の確認を求めている。

約9分
インシデント★★★

PHPに認証なしのコード実行の脆弱性2件

設定では安全にならず、完全な対策は更新のみ

PHPの開発チームは10月21日、認証なしで遠隔からコードを実行されうる重大な脆弱性2件を直したバージョンを公開し、すぐに更新するよう強く勧めた。設定を変えても攻撃に使える経路の一部が減るだけで、完全な対策は更新しかないとしている。

約8分
インシデント★★

GitLabのAI部品に重大な脆弱性

自社運用は更新を強く推奨、GitLab運営は修正済み

GitLabは、AI機能の部品「AI Gateway」の重大な脆弱性(CVE-2026-90970)を修正した新しいバージョンを公開した。更新が要るのは、この部品を自社で動かしている会社で、GitLabはできるだけ早い更新を強く勧めている。GitLabが運営するAI Gatewayを使う会社は、対応が要らない。

約8分
社内利用・ガバナンス★★

管理者が制御できる版は延期、制御のない版は展開開始

Googleの「スキル」

Googleは10月13日、よく使う指示を保存して繰り返し使う「スキル」について、Geminiアプリ版の展開を始めた。Googleによると、Geminiアプリ版に管理者の制御はなく、管理者が制御できるWorkspace版は展開が延期されている。

約6分
インシデント★★

Copilotの設定保護、ドット1文字ですり抜け

Visual StudioとSSMSは更新で修正

研究者のwunderwuzzi氏は10月13日、Visual StudioとSSMSのGitHub Copilotで、設定ファイルを守る検査を、ファイル名の末尾のドット1文字で回避できたと公表した。攻撃者の指示で乗っ取られたCopilotが、任意のコマンドを実行できる脆弱性だった。研究者によると、Microsoftは同じ日の月例更新で修正を配布した。

約8分
インシデント★★

AIエージェント1つへの指示で他のエージェントも操作

AWSの既定権限をZenityが検証

AWSのAI基盤AgentCoreで、Webへ要求を出せる外部向けエージェントの権限が既定のままだと、同じアカウント・リージョンの他のエージェントも操れたと、セキュリティ企業のZenityが公表した

約7分
AI社会の動向★

公開モデルGLM-5.2、攻撃コード作成はClaude Opus系に一段劣る

Japan AISI、広い拡散は断定せず

AIの安全性を評価する国の機関Japan AISIが、重みが公開されたAIモデル「GLM-5.2」の攻撃コード作成力を評価し、AnthropicのClaude Opus 4.8に及ばないとした

約7分