要点
- 1米商務省に属する研究所NISTは10月27日、AIエージェントの身元・認証・権限を管理する仕組みの10の設計原則を、ブログで最初の案として示した。正式な指針ではない
- 2NISTの原則は、エージェントに人とは別の身元を持たせ、作業をしていない間は権限を持たせない。AIの推論と権限の判断は分け、アクセスを許すかどうかは同じ入力で同じ結果になる仕組みを主な決め手にする
- 3NISTは、いまの標準と技術では10の原則のすべてをすぐには満たせないとする。NIST内の拠点NCCoEがAIエージェントを実証するときの指針にするが、実証の時期は明らかにしていない
本記事を読む上でのキーワードNISTNCCoE(National Cybersecurity Center of Excellence)AIエージェントID管理プロンプトインジェクション意味を見る +閉じる -
- NIST:産業界が共通で使う「物差し」を整える役の研究所。実際には、1901年に設立された米商務省の研究所で、計測の科学・標準・技術を進めている。セキュリティの標準や指針も出しているが、今回は正式な刊行物でなくブログで原則を示した
- NCCoE(National Cybersecurity Center of Excellence):NISTの中のサイバーセキュリティの拠点。企業などと組んで実装例を作り、実践の手引きにまとめる
- AIエージェント:仕事を任された代理人のようなもの。実際には、AIが自ら手順を考えて操作を実行する仕組みを指す。人の代わりにシステムを操作するため、人と同じように身元と権限の管理が要る、というのが今回の出発点
- ID管理:会社でいえば、社員証を発行し、入れる部屋を決め、退職のときに回収する仕事にあたる。実際には、利用者やエージェントが誰かを決め、本人かを確かめ、何をしてよいかを決める仕組み。NISTは、エージェントの分を人と分けて管理するとしている
- プロンプトインジェクション:AIへの指示を外部から乗っ取る攻撃。原則7・8は、権限の判断をAIの推論から切り離して、この攻撃に備える考え方にあたる
立場別に考えるポイント
自社で確認すべきこと
NISTの原則は案の段階だが、いま動かしているAIエージェントの点検には使える。NISTはどれから手を付けるかを示していないため、リスクの大きい操作を任せているエージェントから見ていきたい。
何が起きたか
米商務省に属する研究所NISTは10月27日、AIエージェントのID管理(身元・認証・権限の管理)の10の設計原則を、自らのブログに載せた。企業にとっては、自社のエージェントに身元と権限をどう持たせているかを点検する物差しが、10項目の形で示されたことになる。
ただし、SP(Special Publication:NISTが番号を付けて出す刊行物)などの正式な指針ではない。ブログの執筆者は、出発点として最初の案を示したとしている。対象は、企業の中での利用と消費者向けの利用の両方。NISTは10の原則を一律には求めておらず、エージェントにさせる操作のリスクや動かす環境、扱うデータに応じて、組織が当てはめるものとしている。
エージェントは誰として、誰の頼みで動くのか
原則1は、エージェントに、人の利用者やサービスアカウントとは別の身元を持たせるとしている。身元は暗号の技術で確かめられるものにし、発行から廃止までの管理も人と分ける。利用者へのなりすましを防ぐためという。
原則2は、エージェントと、作業を頼んだ人や組織を、作業の間ずっとひも付けておくとした。権限が下位のエージェントや先のサービスへ渡るたびに、範囲を狭める。受け取った側が、渡した側より大きな権限を名乗れないようにする狙いがある。
原則6によると、作業を頼んだ側は、期待する結果と制約を書いた署名付きの指示を作れる。先のサービスは、この指示を許可の判断や監査に使える。
権限はいつ、どこまで持たせるのか
作業をしていない間は、エージェントに常時の権限を一切持たせない。作業中も、最小権限(必要な権限だけを与える原則)に沿って、要る範囲だけを与える(原則3)。許可は要るときにその場で出し、時間を区切り、使ってよい相手先を限る(原則4)。使い回せる固定のパスワードやキーは避けるとした。
人の確認をどこで挟むかも、原則に入っている。原則5は、組織がリスクの基準を決め、基準に達した操作は人が確かめるとする。確かめる人には、判断に足る情報を渡す。依頼が多すぎると、中身を見ずに習慣で承認する「承認疲れ」が起きるとして、NISTは注意を促している。
何をしてよいかは、誰が決めるのか
NISTは、エージェントが何をしようとするかを考える部分(AIの推論)と、何をしてよいかを決める部分(権限の判断)を、構成の段階で分けるとしている(原則7)。外から入ったデータで権限が広がるのを防ぐためという。ガードレール(AIの入出力を制限・監視する安全装置)だけでは足りないとも書いている。
アクセスを許すかどうかは、決められた規則など、同じ入力なら同じ結果になる仕組みを主な決め手にする(原則8)。AIの判断のように確率で変わる情報は、材料にはしてよい。NISTは原則7と原則8のどちらにも、防ごうとするリスクとしてプロンプトインジェクション(AIへの指示を外部から乗っ取る攻撃)を挙げている。
あとから確かめられるか
残る2つは、監視と記録の原則。原則9は、エージェント向けの指標やルールで絶えず監視し、いつもと違う動きや権限の昇格を見つけるとする。原則10は、身元、依頼された目的、実際の操作を途切れずに記録し、追記しかできず、書き換えれば分かる形で残すとした。記録の仕組みは、エージェントから独立させる。
いますぐ、すべてを満たせるのか
NIST自身が、いまの標準と技術では10の原則のすべてをすぐには満たせないと書いている。また、1つの攻撃を防ぐのに、いくつもの原則を同時に満たさなければならない場合もあるという。例に挙げたのは、プロンプトインジェクションで権限の広いエージェントをだまし、本来しない操作をさせる攻撃。
NISTによると、この攻撃を防ぐには、原則2のうち、頼んだ側とのひも付けと権限の受け渡しが要る。原則3の最小権限、原則7の推論と権限の判断の分離、原則8の同じ結果になる仕組みでの判断も、あわせて要るという。
そのうえでNISTは、原則を、組織がいまの備えを見直し、先の計画を立てるための出発点と位置づける。NIST内でサイバーセキュリティを扱う拠点NCCoEが、AIエージェントを実証するときの指針にもするという。NISTは、実証の時期を明らかにしていない。10の原則の優先順位や、どれから手を付けるかも示していない。
背景:なぜエージェントに、人とは別の身元が要るのか
一般に、エージェントが人のアカウントや認証情報を借りて動くと、記録の上では、人の操作とエージェントの操作を見分けにくい。エージェントがだまされたときに使われる権限も、借りた人の権限の全体になりうる。
今回のブログは、NISTが8月27日に載せた連載の1本目に続くもの。1本目は、こうした動かし方を問題に挙げていた。認証情報の共有、有効期限の長いAPIキー、利用者のローカルのアカウントでエージェントを動かすことなどだ。1本目の主張は、エージェントの身元や権限のリスクの多くは昔からあるID管理の問題で、今ある標準や良いやり方を当てはめれば備えられる、というもの。
連載は、NCCoEのプロジェクトの一部にあたる。NCCoEは2026年2月、プロジェクトの範囲を決める構想文書を出し、600件を超える意見を集めていた。最終的には、SPの1つである実践の手引き(SP 1800シリーズ)にまとめる予定という。
国内では、デジタル庁の先進的AI利活用アドバイザリーボードが9月29日、政府が生成AIを使うときの手引きについて、検討事項の案を議論した。案にはエージェントへのIDの付与も入っていたが、会議の事務局は、すべてのエージェントにIDの付与を求めることは考えていないと答えている。政府機関の利用の話で、民間向けの指針ではない。
今後の注目点
- NCCoEのプロジェクトの案内ページ(pages.nist.gov/nccoe-ai-identity)に、実証の計画やSP 1800シリーズの案が載るかを見る
- 政府が生成AIを使うときの手引きで、エージェントへのIDの付与がどう決まるかを、デジタル庁のアドバイザリーボードの資料で見る