レッスン7：運用を回す

このレッスンで学ぶこと

全社員向けと申請者向けの2層で、教育・研修を設計できる
違反が起きたときの対応フローを整理できる
AIインシデントを切り分け、報告・公表の判断基準を理解できる
ログの保存方針と、相談窓口の設計を理解できる

前回のレッスンでは、AIサービスを提供するベンダーとの関係を統制する審査シートの設計を扱いました。今回のレッスンでは、社内に目を戻し、規程と体制を日々の運用として回し続けるために欠かせない、教育・違反対応・インシデント対応・相談窓口という4つの要素を扱います。

運用は「作った後」から始まる

規程を起草し、申請フローを整え、台帳を用意し、体制を組んだとしても、それだけでは組織の中でAIガバナンスが機能したことにはなりません。規程の存在を誰も知らなければ申請は来ませんし、違反が起きたときの対応が決まっていなければ、いざというときに右往左往することになります。本レッスンで扱う4つの要素は、いずれも「作った仕組みを、日々の実務の中で動かし続ける」ための実装です。

教育・研修の設計——全社員向けと申請者向けの2層

AIの社内ルールに関する教育は、対象者によって必要な深さが異なります。すべての社員に同じ内容を同じ濃度で教えようとすると、実務でAIを頻繁に使う社員には物足りず、あまり使わない社員には負担が重い、という不一致が生じます。本コースでは、教育を2つの層に分けて設計することを推奨します。

全社員向けの教育——基礎的なリテラシーの底上げ

全社員向けの教育は、AIを直接業務で使うかどうかにかかわらず、すべての社員が知っておくべき最低限の内容を扱います。規程が存在すること、規程の目的、違反したときにどうなるか、困ったときにどこに相談すればよいか、といった内容が中心です。入社時の研修や、年に一度の全社研修に組み込む形で実施するのが一般的です。

申請者向けの教育——実務に即した深い内容

申請者向けの教育は、実際にAIサービスの利用を申請し、業務で使う社員を対象にします。申請様式の書き方、部門別の利用範囲マトリクスの読み方、想定リスクの記入例、審査で確認される観点などを、より実践的な内容として扱います。新しくAIサービスを申請するタイミングにあわせて、事務局が個別に案内する形や、定期的なワークショップ形式で実施する形があります。

層	対象	内容	実施タイミング
全社員向け	全社員	規程の存在・目的、違反時の扱い、相談窓口	入社時、年次の全社研修
申請者向け	AIを申請・利用する社員	申請様式の書き方、マトリクスの読み方、審査の観点	申請のタイミング、定期ワークショップ

💡 ポイント 2層に分ける狙いは、教育の効果を最大化しながら、教育を実施する事務局側の負担を現実的な範囲に収めることです。全社員向けの内容を薄く広く、申請者向けの内容を厚く深くすることで、それぞれの対象者に必要な情報を、過不足なく届けられます。

実施形式の選び方

教育をどのような形式で実施するかも、効果を左右する要素です。代表的な形式を整理します。

集合研修は、講師が対面またはオンライン会議で説明し、質疑応答の時間を設ける形式です。双方向のやり取りができる利点がある一方、開催日程を調整する負担があります。新規に規程を導入した直後や、大きな改定を行った直後など、まとまった周知が必要な場面に向いています。

eラーニングは、動画や資料をあらかじめ用意し、社員が都合のよいタイミングで学習する形式です。日程調整の負担がなく、入社時期の異なる社員にも一律に提供できる利点があります。全社員向けの基礎的な内容を、継続的に提供し続けるのに向いています。

ワークショップは、少人数のグループで、具体的な事例をもとに議論しながら学ぶ形式です。申請様式の記入練習や、部門別の利用範囲マトリクスの読み方を、実際の業務シーンに当てはめて確認するのに向いています。申請者向けの実践的な教育で、特に効果を発揮します。

形式	向いている対象	向いている場面
集合研修	全社員	規程導入時・大きな改定時のまとまった周知
eラーニング	全社員（特に新入社員）	継続的な基礎教育、入社時期の異なる社員への一律提供
ワークショップ	申請者	申請様式の記入練習、実務に即した理解の定着

3つの形式は、どれか1つを選ぶのではなく、対象と場面に応じて組み合わせて使うのが実務的です。

教育の効果を確認する

教育を実施しただけで終わらせず、内容が定着しているかを確認する仕組みも重要です。全社員向けの教育では、簡単な理解度チェックを研修の最後に組み込む方法が有効です。申請者向けの教育では、実際に提出された申請様式の記入品質を事務局が確認し、記入ミスが多い項目があれば、教育内容を見直す材料にする、という循環を作ることをおすすめします。

🔰 初学者の方へ 教育を一度実施すれば終わり、と考えるのは危険です。新入社員は毎年入社し、AIサービスや規程の内容も変わり続けます。教育は一過性のイベントではなく、レッスン8で扱う年次見直しのサイクルと連動させて、継続的に更新していく取り組みとして位置づけてください。

違反が起きたときの対応フロー

規程を整えても、違反が起きる可能性をゼロにはできません。違反が発覚したときに、あらかじめ定められた手順で対応できるかどうかが、その後の被害の広がりを大きく左右します。

違反対応のフローは、おおむね次の段階で構成します。

flowchart LR
  A[違反の発覚] --> B[事実確認]
  B --> C[影響範囲の特定]
  C --> D[応急対応]
  D --> E[原因分析と再発防止策]
  E --> F[違反時対応の記録・報告]

発覚の段階では、誰が違反に気づいたか（本人からの申告か、上長からの指摘か、事務局の確認によるものか）を記録します。事実確認の段階では、いつ、誰が、どのAIサービスで、どのような行為を行ったかを、憶測ではなく事実として整理します。影響範囲の特定の段階では、機密情報が漏えいした可能性の有無、対外的に発信された情報の有無を確認します。応急対応の段階では、被害の拡大を防ぐための即座の対応（該当するAIサービスの利用停止、関係者への周知など）を行います。原因分析と再発防止策の段階では、なぜ違反が起きたのかを分析し、規程や教育内容の見直しにつなげます。記録・報告の段階では、一連の対応を記録し、レッスン5で扱ったAI委員会に報告します。

⚠️ 注意 本レッスンが扱うのは、AI固有の違反への対応フローの設計であり、一般的な情報セキュリティインシデントの調査手法や、フォレンジック（証拠保全のための技術的調査）の具体的な手順そのものは、情報セキュリティ関連の入門コースが専門に扱う領域です。本コースでは、AI利用規程の違反という切り口から見た、対応フローの骨格を扱います。

具体例で見る——違反対応フローの流れ

違反対応のフローを、具体的な場面で確認しておきます。ある社員が、顧客の個人情報を含む問い合わせ内容を、法人契約ではない個人契約のAIサービスに入力して要約を作らせていたことが、上長との定期面談の中で判明したとします。

発覚の段階では、上長からの申告として、事務局に報告が上がります。事実確認の段階では、事務局が本人にヒアリングを行い、いつから、どのくらいの頻度で、どのような内容を入力していたかを整理します。影響範囲の特定の段階では、入力された個人情報の件数や種類を確認し、個人契約のサービスの学習利用に関する設定を確認します。応急対応の段階では、本人に個人契約サービスでの当該業務利用を直ちに停止してもらい、法人契約で利用できる代替手段を案内します。原因分析の段階では、なぜ個人契約のサービスを使ってしまったのかを確認したところ、法人契約サービスの申請方法が周知されておらず、本人が存在を知らなかったことが判明します。記録・報告の段階では、一連の経緯を記録し、AI委員会に報告するとともに、申請方法の周知不足という課題を、次の教育内容の改善に反映します。

この例が示すとおり、違反対応は「誰が悪いか」を突き止めて終わる作業ではありません。原因分析の段階で、規程や教育の不備が見つかることは珍しくなく、その気づきを次の運用改善につなげることこそが、違反対応フローの本質的な価値です。

💡 ポイント 違反対応の記録を、懲戒処分の証拠としてだけ扱うのではなく、レッスン8で扱う年次見直しの材料として活用する視点を持つと、違反対応そのものが、規程を成長させる仕組みの一部になります。

AIインシデントの切り分けと報告・公表判断

「AIインシデント」という言葉は、規程違反よりも広い範囲を指します。社員の意図的な違反だけでなく、AIサービス自体の不具合、想定外の出力による業務上の問題、外部からの攻撃を通じた被害なども含まれます。ここでは、AIインシデントをどう切り分け、報告や公表の判断をどう行うかを整理します。

AIインシデントの切り分け

AIインシデントは、原因の所在によって、おおむね次のように切り分けられます。

原因の所在	典型例
利用者側の過失	機密情報を誤って入力した、生成物を確認せずに対外発信した
利用者側の意図的な違反	禁止された用途と知りながら利用した
AIサービス側の不具合	ベンダー側のシステム障害、想定と異なる出力の継続的な発生
外部からの攻撃	プロンプトインジェクション（AIへの入力に悪意ある指示を紛れ込ませる攻撃）など、外部からの悪用

原因の所在によって、対応の主体と、レッスン6で扱ったベンダーへの連絡の要否が変わります。利用者側の過失や違反であれば社内での対応が中心になりますが、AIサービス側の不具合や外部からの攻撃であれば、ベンダーへの報告と連携が必要になります。

報告・公表の判断

インシデントが発生した際、社内でどこまで報告し、対外的に公表するかどうかの判断は、影響の大きさに応じて段階的に行う必要があります。事務局への報告は、原則としてすべてのインシデントで必須とします。AI委員会への報告は、影響が一部門にとどまらない場合や、再発防止のために全社的な対応が必要な場合に行います。経営層への報告は、レッスン5で扱った「経営層に上げる論点」の基準に沿って、重大なインシデントに限定します。対外的な公表の要否は、個人情報の漏えいなど法令上の通知義務が生じる場合や、取引先への影響が及ぶ場合に検討します。

📖 もっと詳しく 対外的な公表の判断や、実際の広報文の作成といった具体的な対応は、危機広報関連の実践コースが専門に扱う領域です。本コースでは、公表を検討すべきかどうかを判断するための、社内での報告フローの設計に焦点を絞ります。

ログの保存方針と保存期間

AIインシデントの調査や、違反対応の事実確認を行うためには、日頃からログを保存しておく必要があります。ここでは、ログの保存方針を整理します。

何を記録するかについては、誰が、いつ、どのAIサービスに、どのような目的でアクセスしたかという利用記録が基本になります。多くの法人向けAIサービスには、管理者向けのログ取得機能が備わっており、これを活用します。

どこまで詳細に記録するかについては、入力内容や生成された出力そのものまで記録するかどうかで、プライバシーへの配慮とのバランスを考える必要があります。入力内容まで詳細に記録すると、調査には役立ちますが、社員の側からは監視されているという心理的な負担につながる可能性があります。多くの企業では、いつ・誰が・どのサービスを使ったかという利用記録を基本とし、入力内容そのものの記録は、インシデント調査が必要になった場合に限定して確認する、という運用を採っています。

どれだけの期間保存するかについては、業種や適用される法令によって目安が異なりますが、社内の情報セキュリティ規程で定められている一般的なログの保存期間に合わせるのが、実務上の基本的な考え方です。AI固有の保存期間を独自に定める前に、既存の情報セキュリティ規程の定めを確認し、整合を取ることをおすすめします。

📝 補足 ログの保存方針を検討する際は、レッスン2で扱った既存規程との整合の考え方がここでも当てはまります。ログの保存期間や取得範囲について、AI利用規程だけで独自のルールを新設するのではなく、情報セキュリティ規程の定めを参照する形にしておくと、規程間の矛盾を避けられます。

ログの保存方針を、記録の種類ごとに整理すると、次のようになります。

記録の種類	記録する内容	参照する先
利用記録	誰が・いつ・どのAIサービスを使ったか	情報セキュリティ規程の定めるログ保存期間
入力内容・出力内容	実際にAIに入力した内容と生成された内容	原則として記録せず、インシデント調査時のみベンダー側の記録を確認
申請・審査の記録	申請様式、審査の結果、承認の記録	AI利用規程が定める保存期間（台帳の一部として管理）

このように記録の種類を分けて整理しておくと、「何を、どこまで、どれだけの期間保存するか」という問いに、一律の答えを出そうとせずに済みます。

相談窓口の設計

規程やマトリクスを読んでも判断がつかない場面や、違反かもしれないと不安に感じた場面で、社員が気軽に相談できる窓口を用意しておくことも、運用を回すうえで欠かせない要素です。

相談窓口の設計では、次の点を意識します。窓口を一本化することで、社員が「どこに相談すればよいかわからない」という状態を避けます。レッスン5で扱った事務局が、この窓口を兼ねることが多くの企業で採用されています。相談したことで不利益を受けないという原則を明示することで、社員が萎縮せずに早期に相談できる環境を作ります。特に、違反の疑いを自ら申告した場合に、隠していた場合よりも軽い扱いとする方針を示しておくと、早期の申告を促す効果が期待できます。相談内容を記録し、傾向を分析することで、よくある相談内容を教育内容の改善に反映できます。

🔰 初学者の方へ 相談窓口は、違反を取り締まるための窓口ではなく、判断に迷ったときに気軽に頼れる窓口として位置づけることが重要です。窓口の存在が「使うと不利になるかもしれない」という印象を与えてしまうと、かえって相談が来なくなり、レッスン1で触れた「見えていないAI」を増やす結果につながります。

まとめ

このレッスンでは、以下のことを学びました。

教育・研修は、全社員向けの基礎的なリテラシーと、申請者向けの実践的な内容という2層で設計する
違反対応のフローは、発覚・事実確認・影響範囲の特定・応急対応・原因分析・記録という段階で構成する
AIインシデントは、原因の所在（利用者の過失・意図的な違反・サービス側の不具合・外部からの攻撃）で切り分け、報告・公表は影響の大きさに応じて段階的に判断する
ログの保存方針は、既存の情報セキュリティ規程との整合を取りながら、記録範囲とプライバシーのバランスを考える
相談窓口は一本化し、相談したことで不利益を受けない原則を明示することで、早期の相談を促す

次のレッスンでは、ここまで整えてきた規程と体制を1年、2年と時間が経っても陳腐化させないための、年次見直しのサイクルとモニタリング指標を扱います。

確認クイズ

このレッスンの理解度をチェックしましょう。