AI 攻撃にはなぜAIセキュリティが必要なのか
攻撃者が AI を活用する時代、防御も AI のスピードに追いつかなければならない
最近、 Claude Mythos のような次世代 AI が、脆弱性の探索や攻撃シナリオの生成など、サイバー攻撃に活用される可能性が注目されるにつれ、 AI が攻撃手法をどのように変化させるかについて関心が高まっている。
生成 AI の登場は業務のあり方に大きな変化をもたらし、今や自ら計画を立て、作業を実行するエージェント型 AI（Agentic AI）の時代へと急速に移行しつつある。こうした変化は、企業の生産性だけでなく、サイバー攻撃やセキュリティ運用方法にも大きな影響を及ぼしている。
かつてのサイバー攻撃は、攻撃者が自ら脆弱性を見つけ、攻撃コードを作成し、段階的に実行するという方式が一般的だった。しかし、AI の発展により、攻撃の準備や実行プロセスが自動化されるにつれ、攻撃はより迅速に、より多くの標的に向けられ、より繰り返し行われる環境へと変化しつつある。
これは防御側にも新たな課題を突きつける。AI を基盤とした攻撃に対し、従来の人間中心のセキュリティ運用だけでは、速度や規模の面で限界があるからだ。今や企業は、AI を単に保護や制御すべき対象として見るのではなく、セキュリティ運用の能力を高める中核技術として活用しなければならない。
結局のところ、AI 時代のセキュリティ競争力は、新たな脅威をどれだけ迅速に検知・分析し、対応できる かにかかっている。
AI ベースの攻撃は何が変化したのか
AI を活用したサイバー攻撃（AI-powered Cyber Attack）とは？
AI を活用したサイバー攻撃とは、人工知能を用いて脆弱性の探索、攻撃シナリオの生成、フィッシング、マルウェアの作成、攻撃の実行といったサイバー攻撃のプロセスを自動化する攻撃手法である。AI が新たな攻撃手法を生み出すのではなく、既存の攻撃をより迅速かつ反復的に実行できるようにする点が最大の特徴である。
生成型 AI からエージェント型 AI へ
生成型 AI は、質問に答えたり、テキスト、コード、画像を生成したりする役割を担う。一方、エージェント型 AI は、与えられた目標に基づいて自ら計画を立て、必要なツールを活用して、複数の段階にわたる作業を実行することができる。例えば、セキュリティ運用においては、単にログを要約するレベルにとどまらず、関連情報を収集し、脅威を分析した上で、対応策を提案するという一連のプロセスを、一つの流れとして実行することができる。つまり、AI は「答えを生成するツール」から「業務を遂行する主体」へと進化している。このような変化は、サイバー攻撃に対してもそのまま当てはまっている。
AI 攻撃の核心は自動化とスピードにある
AI が登場したからといって、サイバー攻撃の基本原理が変わったわけではない。脆弱性の悪用、マルウェアの実行、アカウントの乗っ取り、権限の昇格、内部への拡散といった攻撃手法は、依然として従来の攻撃手法の延長線上にある。変わったのは、攻撃を実行する方法である。AI は膨大な情報を迅速に分析し、反復的な作業を自動的に実行し、実行結果に基づいて次の行動を決定することができる。攻撃者はこれを活用して、脆弱性をより迅速に見つけ出し、多様な攻撃シナリオを生成し、同一の攻撃を大規模に繰り返し実行することができる。
結局のところ、AI を活用した攻撃の本質は、新たな攻撃手法ではなく、既存の攻撃の自動化と高速化にあると言える。
AI は攻撃をどのように高度化するのか
AI は攻撃の効率と規模を大幅に高めることができる。代表的な変化は以下の通りである。
① 脆弱性の探索と攻撃準備の自動化
AI は、公開された脆弱性情報や技術文書を分析し、攻撃に活用できる情報を迅速に整理する。攻撃準備に必要な時間が短縮されることで、新たな脆弱性が公開されてから実際の攻撃に至るまでの時間も短くなる可能性がある。
② 大規模な攻撃の繰り返し実行
AI は休むことなく同じ作業を繰り返すことができる。様々な攻撃戦略を同時に試み、失敗した結果に基づいて新しい方法を適用し、攻撃を継続的に実行することができる。
③ 標的型攻撃の高度化
AI は公開された情報を活用して、特定の組織やユーザーを狙ったフィッシングメッセージを生成したり、状況に応じた攻撃シナリオを構築したりすることができる。将来的には、攻撃対象の反応に応じて会話を続ける形へと発展する可能性もある。
AI は新たな攻撃対象となることもある
AI は攻撃を自動化するツールであると同時に、新たな攻撃対象にもなり得る。
企業が業務に AI エージェントを活用し始めると、AI がどのシステムにアクセスし、どのような権限を持ち、どのような作業を実行するかが、新たなセキュリティ管理の対象となる。
例えば、攻撃者は AI に誤った命令を入力して意図しない行動を誘導したり、AI エージェントの権限を奪って正規ユーザーのようにシステムにアクセスしたりすることが可能だ。
したがって、今後は AI を活用するだけでなく、AI 自体を安全に運用するためのセキュリティ体制も併せて整備する必要がある。
なぜ AI 攻撃には AI セキュリティが必要なのか
AI セキュリティ（AI Security）とは？
AI セキュリティとは、AI モデル、学習データ、入力値と出力値、および AI が接続されたシステムを、攻撃や悪用から保護するセキュリティ体制を意味する。従来のセキュリティがネットワーク、端末、サーバー、ユーザーアカウントの保護に焦点を当てていたのに対し、AI セキュリティはこれらに加え、モデルやデータ、さらには AI の意思決定プロセスまでを含める点が特徴である。
人間中心のセキュリティ運用の限界
従来のセキュリティ運用は、人がセキュリティイベントを確認し、脅威の有無を分析した上で対応するという方式で行われてきた。
しかし、AI を基盤とした攻撃により攻撃の速度と規模が大きくなるにつれ、人が処理しなければならないセキュリティイベントも同時に増加している。
セキュリティ担当者は、膨大なログを確認し、さまざまなセキュリティシステムから情報を収集し、攻撃の有無を判断して対応の優先順位を決定しなければならない。こうしたプロセスには高度な専門性が求められる一方で、多くの時間と労力も必要となる。
攻撃は AI によって自動化されている一方で、防御が人間のスピードにとどまっている限り、攻撃と防御の間の格差はますます拡大せざるを得ない。
AI セキュリティは、新たな運用手法である。
AI セキュリティとは、既存のセキュリティ製品に生成 AI 機能を追加することを意味するものではない。その核心は、AI を活用してセキュリティ運用全体のスピードと効率を高めることにある。AI は膨大なセキュリティデータを分析し、脅威インテリジェンスと連携して攻撃の文脈を把握し、対応の優先順位を提示することができる。反復的な分析や調査業務を AI が支援することで、セキュリティ専門家はより重要な判断や戦略の策定に集中することができる。
このように、AI セキュリティは個別の機能ではなく、セキュリティ運用体制そのものを変革する技術である。
検知から AI ベースのセキュリティ運用へ
今後のセキュリティにおいては、既知の脅威を検知するレベルを超え、新たな脅威をいかに迅速に特定し、対応できるかがますます重要になっていく。そのためには、エンドポイント、ネットワーク、クラウド、CPS など、さまざまな領域のデータを統合し、AI がこれを分析して攻撃の流れや影響範囲を迅速に把握できるようにしなければならない。また、AI が提示した分析結果や対応策をセキュリティ専門家が検証し、最終的な意思決定を行う仕組みも併せて整備される必要がある。
結局のところ、AI 時代のセキュリティは、人間と AI がそれぞれの強みを組み合わせ、運用効率と対応速度を高める方向へと発展している。攻撃者が AI を活用する時代には、防御側もまた AI を活用しなければならない。AI セキュリティはもはやオプション機能ではなく、新たなセキュリティ運用手法として定着しつつある。
AI セキュリティ運用はどのように変わるのか
AI ベースのセキュリティ運用は、単に分析速度を高めるだけのものではない。セキュリティ運用方式そのものを、人間中心から AI と専門家が協業する構造へと変革することに意義がある。
AI SOC（AI Security Operations Center）とは？
AI SOC は、AI を活用して検知、分析、調査、対応など、セキュリティ運用全般を支援する次世代のセキュリティ運用体制である。
反復的な分析業務は AI が担当し、セキュリティ専門家が最終的な判断と意思決定を担う「Human-in-the-Loop」構造を目指している。
Agentic AI はセキュリティ運用をどのように変えるのか
従来の AI は、セキュリティ担当者の質問に答えたり、ログを要約したりするなど、分析を支援する役割にとどまっていた。
一方、エージェント型 AI は、一つの目標を達成するために必要な作業を自ら計画し、実行することができる。セキュリティ運用においては、脅威を検知し、関連情報を収集・分析した上で、対応策を提示するという一連のプロセスを、一つの流れとして実行する形へと発展している。例えば、新たなセキュリティイベントが発生すると、AI は関連するログや脅威情報を収集し、攻撃の流れや影響範囲を分析した上で、対応の優先順位を提案することができる。 セキュリティ担当者は、AI が提供した分析結果を検討した上で、最終的な対応の可否を決定する。このように、AI が反復的な運用業務を 支援し、セキュリティ専門家は判断と意思決定に集中するという方向へ役割が変化している。
エージェント型 AI（Agentic AI）とは？
エージェント型 AI とは、ユーザーの指示に従って回答を生成するだけでなく、目標を達成するために自ら計画を立て、さまざまなツールを活用して作業を実行する AI を指す。セキュリティ分野では、検知、分析、調査、対応といったさまざまな業務を 1 つのフローとして実行する AI 技術へと発展している。
複数の AI エージェントが連携してセキュリティ運用を行う
今後のセキュリティ運用は、1 つの AI がすべての業務を遂行するのではなく、それぞれ異なる役割を担う複数の AI エージェントが連携する構造へと発展すると予想される。例えば、あるエージェントがセキュリティイベントを分析し、別のエージェントが脅威インテリジェンスを確認し、さらに別のエージェントが対応策を提案するという方式だ。各 AI エージェントの結果は 1 つの運用フローに統合され、より迅速かつ一貫性のあるセキュリティ対応を支援する。
このような仕組みは、人間の業務を代替するためのものではなく、反復的な業務を AI が行うことで、セキュリティ専門家がより重要な判断や戦略の策定に集中できるようにするためのものだ。
[図] 一目でわかる AI 攻撃と AI セキュリティ：攻撃が AI のスピードで進化するならば、防御も AI のスピードを備えなければならない。
AI と専門家の協業が鍵となる
AI は急速に発展しているが、セキュリティ運用の最終的な責任は依然として人間にある。
実際のセキュリティ対策においては、技術的なリスクだけでなく、業務への影響度、システムの重要度、規制やコンプライアンスなど、さまざまな要素を総合的に考慮する必要がある。こうした判断は、AI だけでは行うことが難しい。
したがって、今後の AI セキュリティにおいては、AI が分析と対応を支援し、セキュリティ専門家がこれを検証して最終的な意思決定を行う「Human-in-the-Loop」構造が鍵となるだろう。
AI の役割は、人間に取って代わるのではなく、人間がより迅速かつ正確に判断できるよう支援することにある。
アンラボは、AI 攻撃の時代にどのように備えているのか
アンラボは、AI を既存製品に追加される単なる機能ではなく、セキュリティ運用全体を結びつけ、高度化する中核技術と捉えている。このため、独自の AI プラットフォームである「AhnLab AI PLUS」を中心に、AI ベースのセキュリティ運用体制を発展させている。
AhnLab AI PLUS、セキュリティ運用に向けた AI プラットフォーム
「 AhnLab AI PLUS 」は、単一の独立したセキュリティ製品ではない。アンラボが保有するエンドポイント、ネットワーク、クラウド、CPS など、多様なセキュリティ製品やサービスを AI で連携させ、セキュリティ運用全般をインテリジェント化するための共通 AI プラットフォームである。
アンラボは、30 年以上にわたり蓄積してきたマルウェア分析情報、脅威インテリジェンス、セキュリティインシデント対応の経験を、AI が活用できるよう体系化している。これを基に、AI はセキュリティイベントを分析し、脅威の文脈を理解し、対応策を提案する役割を担う。つまり、AhnLab AI PLUS の核心は、最新の AI モデルを導入することだけでなく、アンラボが蓄積したセキュリティデータを AI が効果的に活用できるようにすることにある。
AI がセキュリティ運用を支援する仕組み
AhnLab AI PLUS では、1 つの AI がすべての業務を遂行するわけではない。
セキュリティイベントの分析、脅威インテリジェンスの活用、対応支援など、それぞれ異なる役割を担う AI が連携し、一つのセキュリティ運用フローを構成する。
例えば、新たなセキュリティイベントが発生した場合、AI は次のようなプロセスを支援することができる。
- イベントおよびログの分析
- 関連する脅威インテリジェンスの確認
- 攻撃の流れと影響範囲の分析
- リスク評価
- 対応の優先順位と対応策の提案
これらの分析結果に基づき、セキュリティ専門家はより迅速に対応すべきかどうかを判断できる。
AhnLab AI PLUS は製品全体へと拡大している
AhnLab AI PLUS は、単一の製品にのみ適用される AI ではなく、アンラボのさまざまなセキュリティ製品やサービスに AI 機能を連携させる共通の AI プラットフォームである。
現在は、AI ベースのセキュリティ運用に向けて、複数の製品で AI 機能を拡充しており、代表的な事例として、AhnLab XDR の AI セキュリティアシスタント「Annie」や、AhnLab EDR の「AI Insight」が挙げられる。
Annie は、セキュリティ担当者が自然言語で脅威情報を検索し、関連するイベントや分析情報を迅速に確認できるよう支援する対話型 AI セキュリティアシスタントです。反復的な情報検索や分析にかかる時間を短縮し、セキュリティ担当者が脅威の分析や対応により一層集中できるよう支援します。
AI Insight は、AhnLab EDR で検知されたイベントを AI が総合的に分析し、攻撃の意図や の脅威コンテキスト、MITRE ATT&CK に基づく TTP、脅威インテリジェンス、対応方針などを 1 つの分析レポートとして提供する AI ベースの分析機能である。これにより、セキュリティ担当者は複雑なイベントの意味を迅速に把握し、より効率的に対応の優先順位を判断することができる。
このように、アンラボは AI 機能を特定の製品に限定せず、「AhnLab AI PLUS」を中心に、さまざまなセキュリティ製品やサービスへと継続的に適用範囲を拡大し、AI ベースのセキュリティ運用体制を発展させている。
アンラボの AI 競争力の核心は、セキュリティドメインにおける専門性である。
AI セキュリティの性能は、AI モデルそのものだけで決まるものではない。実際のセキュリティ環境をどれほど深く理解しているか、すなわちドメイン特化データ（Domain-specific Data）と運用経験が、AI の精度と活用度を左右する。
アンラボは、30 年以上にわたり蓄積してきたセキュリティの専門性と脅威分析の経験をもとに、セキュリティドメインに特化した AI（Domain-specific AI）を発展させている。AI が実際のセキュリティ脅威の文脈（Context）を理解し、より正確な検知・分析・対応を行えるようにすることが、アンラボの AI 戦略の核心である。このような AI の競争力は、以下の 4 つの基盤の上に構築されている。
① セキュリティドメインの専門性：アンラボは、30 年以上にわたり蓄積してきたマルウェア分析情報やセキュリティインシデントへの対応経験、セキュリティ運用のノウハウを、AI の学習と分析の基盤として活用している。これにより、AI が単にデータを分析するレベルにとどまらず、実際のセキュリティ環境の文脈を理解し、より精緻な判断を下せるよう支援する。
ドメイン特化型 AI（Domain-specific AI）とセキュリティ分野の専門性とは？
ドメイン特化型 AI（Domain-specific AI）とは、特定の産業や業務分野に必要なデータや専門知識に基づいて学習された、あるいは最適化された AI を指す。このような AI は、当該分野の専門用語や業務ルール、データ構造、運用コンテキスト（Context）を理解することで、汎用 AI よりも正確かつ実用的な結果を提供することができる。
セキュリティドメインの専門知識（Security Domain Expertise）とは、マルウェア分析、脅威インテリジェンス、インシデント対応、セキュリティ運用経験など、サイバーセキュリティ分野で蓄積された専門知識とデータを指す。アンラボは、こうしたセキュリティドメインの専門知識を AI と組み合わせることで、実際の脅威の文脈を理解し、より正確な検知・分析・対応を支援する AI プラットフォームの開発を進めている。
② 脅威インテリジェンス：アンラボが継続的に蓄積してきた脅威インテリジェンスは、AI が攻撃手法や脅威の行動、危険度をより正確に分析し、対応の優先順位を判断できるよう支援する中核的な資産である。
③ 統合セキュリティプラットフォーム：エンドポイント、ネットワーク、クラウド、CPS など、さまざまなセキュリティ領域のデータを単一の運用フローに統合することで、AI が個別のイベントではなく、攻撃の全体的な流れと影響範囲を分析できる環境を提供する。
④ 信頼性の高い AI 運用：AI の活用範囲が広がるほど、正確性と信頼性はますます重要になる。アンラボは、AI の自律性を高めつつ、ガードレールや専門家による検証体制を適用し、信頼性の高い AI ベースのセキュリティ運用環境の構築に重点を置いている。
結局のところ、アンラボの AI 競争力の核心は、最新の AI モデルを適用することにあるのではない。セキュリティ分野における専門知識と脅威インテリジェンス、統合セキュリティプラットフォーム、そして信頼性の高い AI 運用体制を組み合わせ、AI が実際のセキュリティ環境を理解し活用できるようにした点こそが、アンラボの差別化された競争力である。
AI 時代、新たなセキュリティ競争力が生まれている
AI はサイバー攻撃の速度と規模を急速に変化させている。今後の攻撃はさらに自動化・知能化が進み、それに伴いセキュリティ運用も新たな形へと進化せざるを得ない。
今や企業は、AI を単に保護や管理すべき対象として捉えるのではなく、セキュリティ運用の能力を高める中核技術として活用すべきである。攻撃者が AI を活用する時代においては、防御側も AI を活用して検知・分析・対応のスピードを高める必要がある。
もちろん、AI がセキュリティ専門家に取って代わるわけではない。AI は膨大なデータを迅速に分析し、反復的な業務を支援することに強みがあり、最終的な判断や意思決定は依然としてセキュリティ専門家の役割である。今後のセキュリティ運用は、AI と人間がそれぞれの強みを組み合わせる「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」方式へと発展する可能性が高い。
アンラボは、こうした変化に対応し、AI を単なる個別機能ではなく、セキュリティ運用全体をつなぐプラットフォーム技術として発展させている。「AhnLab AI PLUS」を中心に、セキュリティ分野の専門知識と脅威インテリジェンス、統合セキュリティプラットフォームを組み合わせ、AI が実際のセキュリティ運用において実質的な価値を提供できるよう、研究開発を続けている。
結局のところ、AI 時代のセキュリティ競争力は、AI をいかに安全に管理するか、そして AI をいかに効果的に活用するかを同時に検討することにある。アンラボは、AI とセキュリティの専門性が融合した「Agentic AI」ベースのセキュリティ運用環境を通じて、企業がより迅速かつ正確に脅威に対応できるよう、AI セキュリティ能力を継続的に発展させていく。
アンラボの AI ベースのセキュリティをぜひご体験ください
AI 攻撃の時代においては、AI ベースのセキュリティがどのように機能するかを理解することも重要です。デモ動画を通じて、AhnLab AI PLUS やさまざまな AI ベースのセキュリティ機能をぜひご確認ください。
[ デモ ] AhnLab AI PLUS - AI エージェントが実行するイベントおよび影響度分析
FAQ：AI 攻撃と AI セキュリティに関する主な質問
Q1. 従来のサイバー攻撃と AI 攻撃の違いは何ですか？
最大の違いは、自動化と速度です。従来の攻撃では攻撃者が各段階を直接実行する必要がありましたが、AI ベースの攻撃では、複数の作業を自動化し、繰り返し実行することができます。これにより、同じ時間内に、より多くのシステムや脆弱性を標的として攻撃を試みることが可能になります。
Q2. 生成 AI とエージェント型 AI の違いは何ですか？
生成 AI は、ユーザーの質問や指示に応じて、テキスト、コード、画像などの成果物を生成する。エージェント型 AI は、ユーザーが目標を提示すると、必要な作業を計画し、外部ツールを活用して多段階の業務を遂行する。
つまり、生成型 AI が答えを生み出す AI であるのに対し、Agentic AI は目標を達成するために行動する AI だと言える。
Q3. AI 攻撃は、既存のセキュリティ製品では防げないのでしょうか？
従来のセキュリティ技術は依然として重要である。
AI 攻撃もまた、脆弱性の悪用、マルウェアの実行、アカウントの乗っ取りといった従来の攻撃手法に基づいているためだ。ただし、攻撃の速度や規模が大きくなると、個々のセキュリティ製品の検知機能だけでは不十分な場合がある。複数のセキュリティ領域のデータを統合し、AI を活用して脅威を迅速に分析・対応する運用体制も併せて必要となる。
Q4. AI セキュリティとは何か？
AI セキュリティとは、人工知能を活用してセキュリティデータや脅威を分析し、検知・調査・対応のプロセスを自動化または支援するセキュリティ体制を意味する。大量のイベント分析、脅威間の相関関係の把握、異常行動の検知、対応優先順位の決定、レポート作成などに活用できる。
Q5. AI 攻撃には、必ず AI で対応しなければならないのか？
AI だけであらゆる攻撃を防衛できるわけではない。既存のセキュリティ技術やセキュリティ専門家による判断も不可欠である。
しかし、攻撃者が AI を活用して攻撃の速度や規模を拡大させる環境においては、防御側も AI を活用して検知・分析・対応にかかる時間を短縮しなければならない。AI セキュリティは、従来のセキュリティや専門家に取って代わる技術ではなく、既存のセキュリティ体制や専門家の能力を強化する手段である。
Q6. Agentic SOC とは何ですか？
Agentic SOC は、検知、脅威インテリジェンス、フォレンジック、対応、報告など、それぞれ異なる役割を担う AI エージェントが連携してセキュリティ運用を行う仕組みである。
オーケストレーションエージェントが各エージェントの業務を調整することで、セキュリティ担当者が手作業で行っていた業務を削減し、分析と対応のスピードを向上させることができる。
Q7. AI はセキュリティ専門家に取って代わるのか？
AI がセキュリティ専門家を完全に代替することは難しい。
AI は反復的な分析や運用業務を迅速に実行できますが、事業への影響度、システムの重要度、規制や組織の状況などを考慮した最終的な判断には、専門家の経験と責任が不可欠です。
したがって、AI が業務を支援し、専門家が最終的な判断と統制を担う「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」の仕組みが重要です。
Q8. AhnLab AI PLUS とは何ですか？
AhnLab AI PLUS は、アンラボが蓄積したセキュリティデータと脅威分析の知見に基づき、アンラボの多様なセキュリティ製品やサービスに AI 機能を連携・高度化するエージェント型 AI セキュリティプラットフォームである。セキュリティに特化した LLM や知識データベース、AI エージェント、オーケストレーション、ガードレールを基盤として、セキュリティ運用全般の AI による知能化を支援する。
