レッスン7：国際フレームワーク——NIST AI RMFとISO/IEC 42001

このレッスンで学ぶこと

法律より先に規格や指針が動く仕組みを理解する
NIST AI RMFの4機能（Govern・Map・Measure・Manage）を説明できる
ISO/IEC 42001の位置づけと、ISO/IEC 27001との関係を理解する
AIセーフティとレッドチーミングという考え方を把握する

前回のレッスンでは、米国・中国・アジア主要国の規制地図を比較し、日本・EU・米国の3極を整理しました。ここまでは、いずれも国や地域が定める法律やガイドラインを扱ってきました。今回は、視点を少し変えて、国境を越えて参照される「国際フレームワーク」——NIST AI RMFとISO/IEC 42001を学びます。

法律より先に動く「規格」という仕組み

レッスン1で、「法律より先に、ガイドラインと規格が先に動く」という中核メッセージに触れました。ここでいう「規格」とは、特定の国の政府ではなく、標準化機関や専門機関が策定する、技術的・実務的な基準のことです。

規格が法律より先に動く理由は、策定のプロセスにあります。法律は、国会での審議や国際的な調整を経て制定されるため、どうしても時間がかかります。一方、標準化機関が策定する規格は、専門家や産業界の意見を集めながら、比較的機動的に整備できます。技術の変化が速いAIの分野では、この機動性の違いが特に大きな意味を持ちます。

規格には法的拘束力がないものが多く、その点ではレッスン3で学んだソフトローと似た性格を持ちます。しかし、規格は国境を越えて共通の基準として参照される点に特徴があります。日本のAI事業者ガイドラインが日本国内の事業者を主な対象にしているのに対し、NIST AI RMFやISO/IEC 42001は、世界中の企業が参照する共通言語としての役割を果たしています。

NIST AI RMFとは何か

NIST AI RMF(AI Risk Management Framework、AIリスクマネジメントフレームワーク)は、米国国立標準技術研究所（NIST）が策定した、AIのリスクを管理するための枠組みです。バージョン1.0が2023年1月に公表されました（出典：NIST公式サイト「AI Risk Management Framework」）。

NISTは米国の政府機関ですが、NIST AI RMFは米国内だけでなく、国際的に幅広く参照される枠組みになっています。法律のように「守らなければ罰せられる」性格のものではなく、自主的に活用する任意のフレームワークです。しかし、AIのリスク管理を体系的に進めたいと考える組織にとって、実務的な手引きとして高く評価されています。

NIST AI RMFの4機能

NIST AI RMFの中核は、「Govern（統治）」「Map（把握）」「Measure（測定）」「Manage（管理）」という4つの機能です。この4つの頭文字から、「GMMMフレームワーク」と呼ばれることもあります。

Govern（統治） は、組織としてAIリスクに向き合う体制や文化を整える機能です。責任者の明確化、方針の策定、リスク管理を組織全体に浸透させる仕組みづくりなどが含まれます。4機能の中でも土台となる機能で、ほかの3つの機能はこのGovernの上に成り立ちます。

Map（把握） は、対象となるAIシステムがどのような文脈で使われ、どのようなリスクを持ちうるかを把握する機能です。AIシステムの目的、利用される環境、影響を受ける可能性のある人々を具体的に洗い出す作業が該当します。

Measure（測定） は、把握したリスクを、定量的または定性的に評価する機能です。AIの性能、公平性、頑健性などを、可能な範囲で数値や指標を使って測定します。

Manage（管理） は、測定したリスクに対して、実際にどう対応するかを決定し、実行する機能です。リスクを低減する対策を講じたり、許容できるリスクとして受け入れたり、インシデントが起きた際の対応計画を整えたりする活動が含まれます。

flowchart LR
  A[Govern<br>組織の体制と文化] --> B[Map<br>文脈とリスクの把握]
  B --> C[Measure<br>リスクの測定]
  C --> D[Manage<br>リスクへの対応]
  D -.継続的な見直し.-> A

この図は、4つの機能がGovernを土台にしながら、Map・Measure・Manageの順に進み、その結果が再びGovernにフィードバックされる継続的なサイクルであることを表しています。4つの機能は、一度だけ順番にこなして終わるものではなく、組織のAI活用が変化するたびに繰り返し回していく性格のものです。

💡 ポイント 4機能の名称だけを覚えるのではなく、「まず組織の体制を整え、次に個別のAIシステムの状況を把握し、リスクを測定し、そのうえで対応を決める」という一連の流れとして理解すると、実務での使い方がイメージしやすくなります。

NIST AI RMFの自社での使い方

NIST AI RMFは、特定の業種や規模の組織に限定されたフレームワークではありません。AIを活用するあらゆる組織が、自社の状況に合わせて部分的にでも取り入れられるように設計されています。

実務での取り入れ方として、最初からすべての機能を完璧に整えようとするのではなく、自社にとって最も弱い機能から着手するという考え方があります。例えば、個々のAIシステムのリスク評価はある程度できているが、組織としての統治体制（Govern）が整っていない、という組織であれば、まずGovernの整備から着手するのが効果的です。逆に、方針は明確だが個々のシステムのリスクを具体的に把握できていない組織であれば、Mapの機能を強化することが優先されます。

NISTは、AI RMFを補足する実務的な手引きとして「プレイブック」も公開しており、より具体的な取り組み方の参考になります。

実際の業務にどう当てはめるかを、簡単な例で確認しておきます。ある企業が、顧客からの問い合わせに自動応答するAIチャットボットを新たに導入する場面を考えます。Governの段階では、チャットボットの誤った回答が顧客に損害を与えた場合の責任者や対応フローを、あらかじめ決めておきます。Mapの段階では、チャットボットがどのような質問に答え、どのような顧客層が利用し、誤答が起きた場合にどのような影響が及ぶかを具体的に洗い出します。Measureの段階では、想定される質問に対する回答の正確性や、不適切な回答が生成される頻度を、テストを通じて測定します。Manageの段階では、測定の結果を踏まえて、回答範囲を絞り込んだり、人間による確認を挟む仕組みを追加したりといった具体的な対応を決定します。

このように、4つの機能を1つの具体的なAI活用の場面に当てはめてみると、抽象的なフレームワークが、実務のチェックリストとして機能することが実感できます。

NIST AI RMFとISO/IEC 42001の違い

ここまで2つの国際フレームワークを見てきましたが、両者の性格には違いがあります。表で整理します。

比較の軸	NIST AI RMF	ISO/IEC 42001
策定主体	米国国立標準技術研究所（NIST）	国際標準化機構（ISO）・国際電気標準会議（IEC）
性格	任意で参照するフレームワーク	第三者認証を取得できるマネジメントシステム規格
認証の有無	認証制度はない（自己評価が中心）	認証機関による第三者認証を取得できる
主な用途	リスク管理の考え方を整理する手引き	組織のマネジメント体制を対外的に証明する手段

この違いを理解しておくと、使い分けのイメージがつかみやすくなります。NIST AI RMFは、自社のリスク管理の考え方を整理するための「地図」として、ISO/IEC 42001は、整えた体制を取引先や顧客に対外的に証明するための「証明書」として、それぞれ役割が異なります。両方を並行して活用し、NIST AI RMFで内部の考え方を整理しながら、ISO/IEC 42001の認証取得を将来的な目標に据える、という進め方を採る組織もあります。

ISO/IEC 42001とは何か

ISO/IEC 42001は、国際標準化機構（ISO）と国際電気標準会議（IEC）が共同で策定した、AIマネジメントシステムに関する国際規格です。2023年12月に発行された、世界初のAIマネジメントシステムの国際規格として位置づけられています（出典：ISO公式サイト「ISO/IEC 42001:2023」）。

「マネジメントシステム」とは、組織が特定の目的（この場合はAIの責任ある開発・提供・利用）を達成するために、方針を定め、体制を整え、継続的に改善していく仕組み全体を指します。ISO/IEC 42001は、AIに関するリスクと機会を組織的に管理するための要求事項を定めた規格です。

ISO/IEC 27001との関係

ISO/IEC 42001の性格を理解するうえで役立つのが、情報セキュリティマネジメントシステムの国際規格であるISO/IEC 27001との比較です。多くの企業がすでに取得しているISMS（情報セキュリティマネジメントシステム）認証は、このISO/IEC 27001に基づいています。

ISO/IEC 42001とISO/IEC 27001は、いずれもISOのマネジメントシステム規格に共通する構造（方針の策定、リスクアセスメント、内部監査、継続的改善のサイクルなど）を土台にしています。すでにISO/IEC 27001の認証を取得している組織にとっては、共通の構造を応用できるため、ISO/IEC 42001への取り組みを比較的スムーズに進めやすいという実務上の利点があります。

規格	対象領域	関係性
ISO/IEC 27001	情報セキュリティマネジメント	多くの企業が既に取得済み
ISO/IEC 42001	AIマネジメント	27001と共通の構造を持ち、既存の体制を応用しやすい

📝 補足 ISO/IEC 42001の認証を取得すること自体が、法律上の義務になっているわけではありません。しかし、取引先の審査や調達の要件として、認証の有無が確認される場面が増えてきています。次のセクションで、こうした実務での使われ方を詳しく見ていきます。

AIセーフティとレッドチーミング

国際フレームワークの文脈でよく登場する、もう2つの重要な考え方を紹介します。

AIセーフティ とは、AIシステムが意図しない有害な結果を引き起こさないようにするための、技術的・組織的な取り組み全体を指す言葉です。AIの性能を高めることとは別の観点として、「そのAIが安全に振る舞い続けるか」を継続的に検証し、確保する活動を指します。

レッドチーミング とは、意図的に攻撃者や悪用者の視点に立って、AIシステムの弱点や悪用可能な抜け穴を探し出す取り組みです。もともとはサイバーセキュリティの分野で発展してきた手法で、AIの分野にも応用されています。開発者自身がAIの弱点を評価するだけでなく、外部の専門家に依頼して、意図的に不適切な出力を引き出そうと試みてもらうことで、リリース前に問題を発見しようとする取り組みです。

これら2つの考え方は、NIST AI RMFの「Measure」や「Manage」の機能、あるいはISO/IEC 42001が求めるリスクアセスメントの実践と密接に関わっています。フレームワークが示す抽象的な要求事項を、AIセーフティやレッドチーミングといった具体的な活動に落とし込んでいくというイメージを持つと、両者のつながりが見えやすくなります。

🔰 初学者の方へ AIセーフティやレッドチーミングは、専門的なエンジニアやリサーチャーが行う高度な技術活動というイメージを持たれがちです。実際にその通りの側面もありますが、一般の業務担当者にとって大切なのは、「AIには安全性を検証する専門的な取り組みが存在する」ということを知っておくことです。AIベンダーを選定する際に、こうした取り組みをどの程度行っているかを確認する視点にもつながります。

レッドチーミングが実際にどのように行われるかを、もう少し具体的にイメージしておきます。例えば、生成AIサービスの開発者が、リリース前に外部の専門家チームへ依頼し、「差別的な発言を引き出せないか」「機密情報の取り扱いに関する誤った案内をさせられないか」「システムの指示を無視させる入力を作れないか」といった観点から、意図的に不適切な出力を引き出そうと試みてもらいます。こうした試みで見つかった弱点は、正式なリリース前に修正されたり、追加の対策が講じられたりします。利用者から見ると、こうした取り組みは普段は見えませんが、信頼できるAIサービスかどうかを判断する材料の1つとして、開発者がレッドチーミングにどの程度取り組んでいるかを確認する視点を持っておくと役立ちます。

調達要件や取引先審査に使われ始めている現実

ここまで紹介したNIST AI RMFやISO/IEC 42001は、法的な義務ではありません。しかし、実務の現場では、これらのフレームワークへの準拠状況が、調達要件や取引先審査の材料として使われ始めています。

大企業や官公庁がAI関連のサービスを調達する際、提供元の企業に対して、NIST AI RMFやISO/IEC 42001に沿った体制を整えているかを確認する動きが広がっています。特に、AIを使ったサービスを他社に提供する立場の企業にとっては、こうしたフレームワークへの対応状況が、新規の取引を獲得できるかどうかを左右する要素になりつつあります。

この状況は、レッスン3で学んだ「法的拘束力がないガイドラインを、なぜ実務で重視すべきか」という論点と、まったく同じ構図です。法律で義務づけられていなくても、市場や取引の実務がその基準を事実上の標準として扱い始めれば、対応しない企業は競争上不利になっていきます。

規格・フレームワークを社内で参照するときの入口

最後に、NIST AI RMFやISO/IEC 42001を社内で活用し始める際の、現実的な入口を整理します。

1つ目は、いきなり認証取得を目指すのではなく、まず自己評価から始めることです。NIST AI RMFの4機能に沿って、自社の現状を大まかに棚卸しするだけでも、弱点を把握する第一歩になります。

2つ目は、既存の管理体制との重複を確認することです。ISO/IEC 27001など、そのほかの既存のマネジメントシステムをすでに運用している組織であれば、その体制の一部を応用できる部分が多くあります。ゼロから新しい体制を作るのではなく、既存の仕組みに接続する発想を持つことが効率的です。

3つ目は、専門家や認証機関の情報を活用することです。認証取得を検討する段階になれば、ISO認証機関や専門コンサルタントに相談することで、自社の状況に応じた現実的な進め方を把握できます。

これらのフレームワークは、法律のように「守らなければならない」ものではありませんが、AIを安全に、そして信頼される形で活用し続けるための実務的な道具として、今後さらに存在感を増していくと考えられます。

まとめ

このレッスンでは、以下のことを学びました。

国際フレームワークは、国境を越えて共通の基準として参照される「規格」の一種で、法律より機動的に整備される
NIST AI RMFは、米国国立標準技術研究所が2023年1月に公表した任意のフレームワークで、Govern・Map・Measure・Manageの4機能から構成される
ISO/IEC 42001は、2023年12月に発行された世界初のAIマネジメントシステムの国際規格である
ISO/IEC 42001は、ISO/IEC 27001と共通の構造を持ち、既存のISMS体制を応用しやすい
AIセーフティは有害な結果を防ぐための取り組み、レッドチーミングは攻撃者視点でAIの弱点を探す取り組みである
これらのフレームワークは法的義務ではないが、調達要件や取引先審査で事実上の標準として使われ始めている

次のレッスンでは、これまで学んだ知識を踏まえ、全社員が明日から実践できることと、規制の今後の見通しを整理します。

確認クイズ

このレッスンの理解度をチェックしましょう。