智能体 AI 时代全面来临，安全负责人该如何转型？

什么是智能体 AI？

从宏观角度看，AI 的演进历程可分为以下三个阶段。

1. 预测型 AI（Predictive AI）：基于历史数据进行分类或预测
2. 生成式 AI（Generative AI）：根据提问创建答案，并能创建文本、代码及图像
3. 智能体 AI（Agentic AI）：超越单纯生成答案，能够接收目标并自主制定计划加以执行

简而言之，就是从“告知型 AI”向“执行型 AI”的转变。

而智能体 AI 的核心价值体现在以下四个方面：

1. 自主性（Autonomy）：不需持续等待人类指令，能够自主判断
2. 目标导向性（Goal-Driven）：为达成目标执行多阶段任务
3. 工具使用（Tool Use）：超越单纯的文本生成，主动与外部系统交互
4. 记忆与学习（Memory）：记住先前结果并将其反映在后续行动中

也就是说，智能体 AI 并非简单的自动化，而是一个以目标为中心的自主执行系统。

Agentic AI 有何不同？

现有生成式 AI 与智能体 AI 的最大区别在于其是反应型还是执行型。生成式 AI 通常是在我们提问时给出答案。到目前为止，这仍是以人为中心的。相反，智能体 AI 在人设定目标后，会自行安排顺序，并使用必要的工具来产出结果。

从安全角度来看，如果过去只是“请总结一下这些日志”的水平，那么现在正朝着“查找异常迹象、收集必要信息、进行隔离、创建工单，甚至撰写报告”这样的流程发展。安全领域过去也是以人为中心的控制环境，如今正逐渐转向以 AI 为中心。

近期对智能体 AI 的关注度显著提升，这主要归因于以下三个方面的成熟度提高。

1. LLM 的推理能力：已超越简单摘要，能够处理复杂多阶段的问题
2. Agent 框架/协议：连接并执行工具的基础设施得到改善
3. 企业环境向 API 中心化转型：安全解决方案、工单系统、云服务、认证均可互联的架构

换言之，技术与连接环境已然就绪，实际需求也随之产生。

市场对智能体 AI 的前景预测也极为乐观。市场研究机构 Gartner 预测，60% 的品牌将通过智能体 AI 提供一对一的个性化客户互动。关键在于，AI 将超越“辅助功能”的范畴，成为执行工作的“组织组成部分”。这也意味着，客户对组织的产品说明、运营方式等方面的期望水平本身很可能发生改变。

AI 时代下安全负责人的角色转变

从安全人员的角度来看，针对这些变化，有四大关键词值得关注。

1. 智能体 AI 监管（Agentic AI Oversight）：随着隐形 AI Agent 的增加，新的攻击面随之产生
2. AI 专用身份与访问管理（IAM for AI Agents）：不仅用户，AI Agent 也需作为行为主体进行管理
3. AI 驱动的 SOC（AI-Driven SOC）：重复性分析工作预计将更多由 AI 承担
4. 先发制人的安全（Preemptive Security）：在事前征兆阶段进行防御，而非事发后应对

关键在于，运营、权限、检测和响应体系都可能发生改变。而且，这已不再是遥远未来的故事。

那么，安全人员的角色将如何转变？

过去，主要角色是作为操作员（operator），由人直接操作安全工具并逐一处理警报（alert）；而未来，作为编排者（orchestrator）的角色将变得更为重要，其职责包括设计 AI Agent、制定策略、批准例外情况以及验证结果。

这并非 AI 完全取代人类，而是人类的角色将得到提升。可以理解为，相较于处理重复性工作，“监督、判断、制定标准及验证”所占的比重将更大。

现在，让我们来看看在实际接触的安全领域中，预计会出现哪些变化。

#1. 端点安全

在端点安全领域，AI Agent 的应用方案相当明确。

1. 自主威胁检测与隔离：一旦发现可疑勒索软件行为，立即进行隔离，并提取相关 IoC（指标），向其他端点部署阻断策略
2. 漏洞优先级自动调整：不再仅依据简单的 CVE 评分，而是基于实际暴露程度、资产重要性及攻击者利用可能性，进行实质性风险评估并调整补丁优先级
3. 取证数据采集与报告自动化：自动收集内存转储、进程树、网络连接历史记录等取证信息，并自动创建报告草稿

从实务角度来看，在端点区域，AI 与“缩短平均修复时间（MTTR）和优化威胁分析资源”直接相关。

#2. 网络安全

其次，在网络安全领域的应用要点如下。

1. 自主分段及策略优化：持续分析流量模式并优化策略
2. 动态零信任策略执行：基于上下文动态执行零信任策略，而非静态规则
3. DDoS & C2 自主阻断：对 DDoS 或 C&C 通信等需快速阻断的领域执行自主阻断
4. 配置错误的自主修正：自动发现并修正配置错误（例如：自动检测/修正云环境中的错误安全组、公开暴露的存储）

在网络安全领域，AI 在“策略运营自动化与响应速度提升”方面发挥着核心作用。

#3. 安全运营中心（SOC）

在实际的 SOC 运营中，并非由单一 AI 处理所有事务，而是正朝着多个 Agent 分工协作的结构发展。以下是 Agent 间协作结构的示例。

1. 检测 Agent：事件检测及异常迹象识别
2. 威胁情报 Agent：通过 IP/哈希信誉查询、攻击者画像分析等方式增强上下文信息
3. 取证 Agent：自动收集日志、内存转储等相关证据
4. 响应 Agent：执行隔离或阻断操作以最大限度降低内部影响
5. 报告 Agent：生成工单和报告

最近，这种基于 AI Agent 的安全运营模式正被定义为一个全新概念——“智能体 SOC（Agentic SOC）”。该架构的核心优势在于高效响应与精细化分工。特别是它能有效解决以往由人工按部就班处理各项流程时，极易出现的流程瓶颈问题。

或许，安全人员在实际工作中最先能切身感受到的领域，正是基于 AI Agent 的安全运营。过去，一旦触发警报，负责人必须亲自查询信誉评分、查找历史记录、核对类似案例，进而整理影响范围和应对方案。

然而，当智能体 AI 融入安全运营后，它会分析并汇总决策所需的信息，并以可执行的形式呈现出来。因此，安全人员可以减少用于信息查询和整理的时间，从而专注于更重要的决策。

AI 带来的风险与应对方案

智能体 AI 为企业及安全负责人提供了巨大的创新机遇。问题在于，攻击者同样拥有这些机遇。

AI Agent 对攻击者而言也是极具吸引力的工具。因为它能使攻击的速度、规模及复杂程度实现飞跃式提升。攻击者利用 AI Agent 的方法如下。

1. 基于 AI 的自主攻击活动：利用 AI Agent 自主执行从漏洞扫描、初始渗透、内部横向移动到数据泄露的整个攻击链（Kill Chain）
2. 鱼叉式网络钓鱼的升级：通过学习攻击目标的公开信息，批量创建定制化信息，并针对受害者的回复进行互动的“交互式钓鱼 Agent”行为
3. 漏洞武器化：AI Agent 即时分析已公开的 CVE 信息，自动创建利用代码——缩短补丁发布与攻击运行之间的“黄金时间”

不仅要考虑利用 AI 来提升攻击水平，还需警惕针对组织内部 AI Agent 发起的攻击所造成的损害。与此相关的具体威胁主要可归纳为以下五类。

1. 提示注入（Prompt Injection）：注入恶意提示，绕过 LLM 的原始指令，诱导其执行错误操作
2. 代理劫持（Agent Hijacking）：窃取令牌或凭证，伪装成 AI Agent 以夺取系统控制权
3. 工具中毒（Tool Poisoning）：污染 AI Agent 使用的外部工具或插件，从而操控其运行
4. 内存中毒（Memory Poisoning）：污染向量数据库等长期内存，破坏判断逻辑
5. 过度授权（Excessive Permission）：向 Agent 授予超出必要的权限，导致一次入侵即可扩大损害

面对智能体 AI 时代，组织最需要做的准备是“AI 安全与治理（AI security & governance）”。这是近期在全球市场也备受关注的概念。

1. 代理库存管理（Agent Inventory）：确保组织内所有运营中的 AI Agent （包括 SaaS）的可视性，并明确其所有者/管理员
2. 最小权限（Least Privilege）：设置只读默认值，限制 Agent 访问的网络分段，按任务单元分离权限
3. 建立“人机协同”标准（HITL Policy）：设定自动化与必须经批准的操作范围标准，并配备可在 Agent 发生故障时立即切断的“紧急关闭开关”
4. AI 专用认证体系（Machine Identity）：将 Agent 视为机器行为主体，并运营独立的凭证及审计日志体系

携手 AhnLab AI PLUS，开启智能体 AI 安全转型

AhnLab 正以自主构建的智能体 AI 安全平台 AhnLab AI PLUS 为核心，助力客户实现 AI 安全转型。AhnLab AI PLUS 基于 AhnLab 30 年来积累的威胁分析数据、入侵事件应对经验等海量安全信息，提供 AhnLab 独有的差异化 AI 安全能力。

AhnLab AI PLUS 旨在：▲强化基于 AI Agent 的智能安全检测与分析；▲通过应用于各类产品与服务，扩展 AI 驱动的运营体系；▲依托自主采集的数据构建学习体系，提供高度智能化的 AI 服务。借此，AhnLab 正全面实现旗下产品及服务的 AI 智能化转型。

从 AhnLab AI PLUS 的架构来看，其将海量安全信息集中到内部数据湖（Data Lake），经过数据加工及模型学习过程，构建了安全专用的大语言模型（LLM）和知识数据库。将 LLM 与知识检索功能作为 API 服务提供给应用层。此外，考虑到数据与模型的可靠性、风险管理及安全性，应用了安全防护机制（Guardrail），以最大限度地降低 AI 可能引发的风险。

此外，负责▲AI 检测与分析（AI Agent for Detection）▲威胁情报服务（AI Agent for Threat Intelligence）▲产品运营（AI Agent for Operation）等任务的 AI Agent 将协同合作解决问题。同时，编排代理（Orchestration Agent）负责协调各 Agent 的工作，承担统一的安全运营职责。

例如，当用户附上事件日志并委托 AI 进行分析及影响评估时，Orchestration Agent 会向各 AI Agent 分配任务，执行日志分析、摘要内容结构化、关键文件/URL 分析及风险评估，并综合结果向用户提供最终结论和应对方案。

目前，用户可在 AhnLab 的 AI 门户（AI Portal）中查看这一系列操作，未来计划通过自有产品及平台提供智能体 AI 安全服务。

AhnLab 不仅提供智能体 AI 安全，还同步提供 AI 安全与治理能力。AhnLab 旗下子公司 AhnLab CloudMate 提供的 SecureBridge 能够有针对性地检测并拦截提示词中包含的机密及敏感信息，防止其被 LLM 学习；同时将安全的提示词原样传输，让用户无需担心数据泄露，自由运用 AI。

常见问题：AhnLab AI PLUS

结论