[分析レポート] AI をめぐる脅威と攻撃動向
生成AIは、文章や画像を作成するツールから、メール、文書、コードリポジトリ、クラウドサービスなどと連携し、業務を実行するAIエージェントへと発展している。こうした変化に伴い、AIは攻撃者に悪用される手段であると同時に、攻撃の標的にもなっている。
アンラボは、AIをめぐる脅威を、AIへの信頼を悪用する攻撃、AIを活用した攻撃、AIシステム自体を狙う攻撃の三つに整理した。本レポートでは、公開された事例をもとに、AIエージェントの普及に伴うリスクの変化と企業に求められる対策を分析した。
AIへの信頼を悪用する攻撃では、著名なAIサービスを装った偽サイトやブラウザー拡張機能が、利用者を不正なソフトウェアのダウンロードに誘導したり、AIとの会話内容を窃取したりする事例が確認されている。正規のAIサービスの共有機能を悪用した事例もあり、URLが公式ドメインであっても、掲載内容やリンク先の確認が必要である。
AIを活用した攻撃では、生成AIがフィッシング文面の作成や、取引先とのやり取りを装ったビジネスメール詐欺に使われている。2024年に香港で発生した事例では、最高財務責任者(CFO)や幹部を装ったディープフェイクのビデオ会議により、従業員が2,500万米ドルを送金した。近年は、AIエージェントを悪用して攻撃の一部を自動化する事例も報告されている。
AIシステム自体を狙う攻撃では、AIが参照する文書やウェブページに悪意のある指示を紛れ込ませる「プロンプトインジェクション」に加え、外部ツールとの接続に使われるMCP(Model Context Protocol)サーバーやエージェントスキルを介したサプライチェーン攻撃も確認されている。エージェントに広い権限が付与されている場合、意図しない操作によって情報が外部に送信されるなど、連携先のシステムにも影響が及ぶおそれがある。
企業は、AIエージェントがどのデータにアクセスでき、どの操作を自動で実行できるかを導入時に明確にする必要がある。権限は業務に必要な範囲に絞り、送金や社外への情報送信など、影響の大きい操作には承認を設ける。外部ツールの配布元や更新内容を検証し、エージェントによるツールの呼び出しや機密情報へのアクセスを継続的に監視することも重要である。