レッスン6：生成 AI が攻撃側に与えたもの

このレッスンで学ぶこと

生成 AI が攻撃者にもたらした、量とコストの変化を説明できる
言語の壁が薄れたことで、防御側が失った手がかりを理解する
音声や映像のなりすましが、攻撃キャンペーンの中でどう位置づけられるかを理解する
「生成 AI は新しい攻撃を発明したのではなく、既存の攻撃を安くした」という結論に至る根拠を説明できる

前回のレッスンでは、サプライチェーンという経路を、攻撃者が着目する侵害面から見てきました。本レッスンでは、初期侵入の経路そのものではなく、攻撃者の「生産性」に着目します。生成 AI の普及は、攻撃者の側にとっても無関係ではありません。本レッスンは、生成 AI をどう防ぐかという話ではなく、生成 AI が攻撃者に何をもたらしたかという、攻撃者側の視点に絞って進めます。

攻撃の量産化とコスト低下

生成 AI が攻撃者にもたらした最も大きな変化は、新しい攻撃手法の発明ではありません。むしろ、既存の攻撃を、より少ない労力と時間で、より多く作れるようになったことです。

これまで、標的ごとに文面を練り上げたり、標的の組織に合わせた事情を調べ上げたりする作業には、それなりの時間と手間がかかっていました。この手間の大きさが、結果的に、手の込んだ攻撃を仕掛けられる標的の数を抑える一種の歯止めになっていました。生成 AI は、この手間の多くを圧縮します。文章の下書きを短時間で大量に作り、標的ごとに細部を調整する作業も、以前より短い時間でこなせるようになりました。

この変化を理解するうえで大切なのは、「攻撃の質が急に高度になった」という捉え方ではなく、「攻撃者1人あたりが対応できる標的の数が増えた」という、生産性の変化として捉えることです。少人数の攻撃者、あるいは技術力の高くない攻撃者であっても、以前は大規模な組織でなければ実現できなかった量の攻撃を、生成 AI の助けを借りて実行できるようになりました。これは、レッスン3で見たランサムウェアの分業構造とも通じます。分業によって役割ごとの専門性を必要としなくなったように、生成 AI は、文章作成という工程に必要だった技能そのものを、一部代替してしまいました。

💡 ポイント 「攻撃が高度化した」という表現をニュースで見かけたとき、それが「1件あたりの巧妙さが増した」ことを指しているのか、「巧妙な攻撃を仕掛けられる件数が増えた」ことを指しているのかを、区別して読む習慣を持つとよいでしょう。生成 AI がもたらした変化は、後者の意味合いが強いというのが、本コースの立場です。

偵察の段階にも及ぶ効率化

生成 AI による生産性の変化は、文面の作成だけにとどまりません。レッスン2で紹介したサイバーキルチェーンの最初の段階である偵察にも及んでいます。

偵察とは、標的について情報を集める段階でした。従来、標的となる組織の事業内容、組織構成、関係者の情報などを調べ上げる作業には、相応の時間がかかっていました。公開されている情報を1つずつ確認し、断片的な情報をつなぎ合わせて、標的の全体像を組み立てる作業です。生成 AI は、公開情報を要約したり、断片的な情報を整理したりする作業を高速化することで、この偵察にかかる時間を大きく圧縮します。

これは、攻撃者にとって、より多くの標的候補を、より短い時間で下調べできるようになったことを意味します。以前であれば、時間をかけて調べる価値があると判断した、ごく一部の標的にしか手が回らなかった下調べが、より多くの標的候補に対して、まんべんなく行えるようになりました。偵察の効率化は、その後に続く配送やエクスプロイトといった段階の説得力にも波及します。標的の事情に即した情報が手に入りやすくなればなるほど、標的ごとに事情を踏まえた、説得力のある攻撃を組み立てやすくなるからです。

多言語化で失われた手がかり

言語の壁が薄れたことも、大きな変化の1つです。これまで、日本語を母語としない攻撃者が日本語で文面を作る場合、機械翻訳に頼らざるを得ないことが多く、その結果、どこか不自然な言い回しが残ることが少なくありませんでした。この不自然さは、受け取った側が「何かおかしい」と気づく、数少ない手がかりの1つでした。

生成 AI は、この手がかりを薄れさせました。文章を生成する能力が向上したことで、機械翻訳特有の違和感が目立ちにくくなり、母語話者が書いたものと見分けがつきにくい文章を、短時間で作れるようになっています。これは、特定の見分け方のテクニックが1つ失効した、という以上の意味を持ちます。「言葉の不自然さ」という、文面そのものに頼った判断軸全体の効力が、構造的に弱まったということです。

この変化への向き合い方、つまり「では何を手がかりに判断すればよいのか」という実務的な対応は、情報セキュリティ関連の入門コースおよび今後の標的型攻撃対策関連のコースが扱う領域です。本コースが伝えたいのは、あくまで、攻撃者側から見て、言語という制約が1つ取り除かれたという構造の変化そのものです。

📝 補足 言語の壁が薄れたのは、日本語を狙う攻撃者に限った話ではありません。世界中のどの言語を母語とする攻撃者にとっても、標的とする地域の言語で自然な文章を作るコストが下がりました。これは、特定の地域だけが影響を受ける変化ではなく、世界的に共通する構造の変化です。

これまで、日本語という言語そのものが、ある種の防壁として機能してきた面がありました。海外を拠点とする攻撃者にとって、日本語で自然な文章を書くという工程が、参入の障壁になっていたためです。この障壁が薄れたことで、これまで日本語圏を主要な標的にしていなかった攻撃者にとっても、日本語圏が現実的な標的の選択肢に入りやすくなったと考えられます。地理的な距離や言語の違いが、これまでどおりの防壁として機能し続けるとは限らない、という前提を持っておくことが大切です。

音声と映像のなりすましを使った指示

生成 AI の能力が及ぶ範囲は、文章だけにとどまりません。音声や映像を合成する技術も急速に発展しており、これらが攻撃キャンペーンの一部として組み込まれる例が報告されるようになっています。

ここで押さえておきたいのは、音声や映像のなりすましが、単独で完結する攻撃ではなく、より大きな攻撃キャンペーンの一部として使われるという位置づけです。例えば、事前に文面でやり取りを重ねて信頼関係を装ったうえで、決定的な場面でだけ、音声や映像による指示を差し込むといった組み合わせ方です。文面だけでは説得力に欠ける場面、例えば緊急の意思決定を迫る場面において、声や姿という要素が加わることで、受け手の警戒心をさらに崩しにいく狙いがあります。

この技術がキャンペーン全体の中で果たす役割を、レッスン2の骨格に当てはめて考えると理解しやすくなります。初期侵入の段階で、受け手の警戒を解くための最後の一押しとして使われることもあれば、目的の実行の直前、つまり金銭や情報を実際に動かす決断を迫る場面で、念押しの手段として使われることもあります。いずれの場合も、なりすまし単体が攻撃の全工程を担っているわけではなく、それ以前に積み上げられた文脈があって初めて効果を発揮するという点が共通しています。攻撃者にとって、音声や映像は「攻撃の起点」というより「攻撃の仕上げ」に位置づけられる道具だといえます。

この技術がもたらす脅威の実務的な見分け方や、組織としての確認手順の設計は、情報セキュリティ関連の入門コースの領域です。本コースでは、この技術が、レッスン2で整理した6段階の骨格のうち、主に配送や初期侵入の段階で使われる、説得力を底上げする道具の1つとして位置づけられている、という構造の理解にとどめます。

⚠️ 注意 音声や映像による合成技術は、日々精度が向上しています。「今の技術水準ではまだ見分けがつく」という前提に立った判断基準は、技術の進歩とともに効力を失っていく可能性があります。本コースが繰り返し伝えているとおり、「最新動向」に基づく個別の判断基準ほど、賞味期限が短いことを意識しておく必要があります。

AI システム自体が標的になる構図

もう1つ、生成 AI に関連して押さえておきたいのが、攻撃者が生成 AI を「道具」として使うだけでなく、生成 AI を組み込んだシステムそのものを「標的」として狙う構図です。

企業が業務に生成 AI を組み込んだシステムを構築する例が増えるにつれて、そのシステムに対して、開発者が意図していない指示を紛れ込ませ、想定外の動作を引き出そうとする手口が報告されるようになりました。こうした手口は、一般にプロンプトインジェクションと呼ばれています。この分野は技術的な奥行きが深く、生成 AI を業務に組み込む際の設計上の対策まで含めると、それだけで1つのコースになる領域です。本コースでは深入りせず、AI システム自体が新しい攻撃対象として浮上しているという事実の指摘にとどめます。具体的な手口の分類や対策の設計については、AI 関連の入門コースを参照してください。

ここで本コースが強調したいのは、生成 AI が「攻撃者の道具」であると同時に「攻撃者の標的」でもあるという、二重の位置づけです。攻撃者にとって、生成 AI を組み込んだシステムは、これまでにはなかった新しい種類のアタックサーフェスとして立ち現れています。

この二重の位置づけは、レッスン5で扱ったサプライチェーンの発想とも重なります。企業が業務システムに生成 AI の機能を組み込むとき、その機能の多くは、外部の事業者が提供する基盤の上に成り立っています。生成 AI を組み込んだシステムを狙う攻撃は、その先にある基盤への侵害面としても捉えられます。攻撃者から見れば、生成 AI の普及は、道具としての利便性と、標的としての広がりという、2つの意味で新しい機会をもたらしたことになります。

量産化と自動化の組み合わせ

生成 AI による量産化は、それ単体で完結するものではなく、既存の自動化された仕組みと組み合わさることで、さらに規模を拡大します。レッスン4で見たパスワードリスト攻撃は、もともと大量の組み合わせを機械的に試すという、自動化と相性のよい手口でした。ここに、標的ごとに事情を踏まえた文面を短時間で用意できる生成 AI が組み合わさると、「数を打つ」攻撃と「1件ごとに手が込んでいる」攻撃という、これまで両立しにくかった2つの性質が、同時に実現しやすくなります。

以前であれば、攻撃者は、大量の標的に対して画一的な文面を送りつける方式と、少数の標的に対して手間をかけて練り上げた文面を送る方式のどちらかを選ばざるを得ませんでした。生成 AI と自動化の組み合わせは、この二者択一を崩しつつあります。大量の標的それぞれに対して、個別に調整された文面を、人手をほとんど介さずに用意できるようになったためです。防御側にとっては、「大量に送られてくる粗雑な攻撃」と「少数に絞られた巧妙な攻撃」という、これまでの区別を前提にした対応の仕方そのものが、見直しを迫られる変化だといえます。

新しい攻撃の発明ではなく、既存の攻撃を安くした

ここまで見てきた変化を、あらためて振り返ります。攻撃の量産化とコストの低下、言語の壁が薄れたことによる手がかりの喪失、音声や映像のなりすましを使った説得力の底上げ、そして AI システム自体への新しい攻撃対象の出現。これらはいずれも、まったく新しい攻撃の類型を作り出したわけではありません。

偵察・配送・エクスプロイトといった、レッスン2で整理したサイバーキルチェーンの骨格そのものは、生成 AI の登場によって変わっていません。変わったのは、それぞれの段階を実行するために必要だった、時間・技能・人手というコストです。以前は、手の込んだ攻撃を仕掛けるには、それに見合う技能や労力を持つ攻撃者でなければ難しいという、ある種の参入障壁がありました。生成 AI は、この参入障壁を押し下げました。

この結論は、レッスン1で提示した中核メッセージの1つ、「生成 AI は新しい攻撃を発明したのではなく、既存の攻撃を安くした」を裏付けるものです。「安くなった」という表現には、2つの意味が込められています。1つは、攻撃者が支払うコストが下がったという意味。もう1つは、その結果として、以前より多くの攻撃者が、以前より多くの標的に対して、攻撃を仕掛けられるようになったという意味です。防御側にとって重要なのは、個々の生成 AI の機能を1つずつ後追いすることではなく、この「コストが下がった」という構造そのものを前提に、量が増えることを見越した備えを考えることです。

この見方は、脅威動向を追ううえでの実用的な効能も持っています。「生成 AI を使った新しい攻撃手法が登場した」という見出しに接したとき、まずその中身を、まったく新しい脅威の類型として受け止めるのではなく、「これは、これまでのどの手口のコストを下げたものか」という問いに置き換えてみることです。この置き換えができれば、レッスン2で整理したサイバーキルチェーンや初期侵入から目的の実行までの骨格に照らして、その新しい話題がどの段階の話をしているのかを、すぐに位置づけられます。個々の新しい話題に振り回されず、骨格に照らして受け止める姿勢こそが、レッスン8で扱う「動向を追い続ける型」の中心にある考え方です。

まとめ

このレッスンでは、以下のことを学びました。

生成 AI は、攻撃者1人あたりが対応できる標的の数を増やす、生産性の変化をもたらした
言語の壁が薄れたことで、「不自然な言い回し」という、文面に頼った判断軸の効力が構造的に弱まった
音声や映像のなりすましは、単独の攻撃ではなく、より大きな攻撃キャンペーンの中で説得力を底上げする道具として使われる
生成 AI を組み込んだシステム自体が、新しいアタックサーフェスとして攻撃対象になっている
生成 AI は新しい攻撃を発明したのではなく、既存の攻撃のコストを下げた

次のレッスンでは、視点をふたたび被害の側に戻し、攻撃がどう事業停止へと広がり、その被害がどこまで及ぶかを見ていきます。

確認クイズ

このレッスンの理解度をチェックしましょう。