본격화된 에이전틱 AI 시대, 보안 담당자의 역할은?

Agentic AI는 무엇인가?

AI가 진화해 온 흐름을 큰 틀에서 보면 다음 세 단계로 나뉜다.

1. 예측형 AI(Predictive AI): 과거 데이터를 보고 분류하거나 예측
2. 생성형 AI(Generative AI): 질문하면 답을 만들고 텍스트, 코드 및 이미지 생성
3. 에이전틱 AI(Agentic AI): 단순히 답을 만드는 것을 넘어, 목표를 받고 스스로 계획을 세워 실행

쉽게 말하면, ‘알려주는 AI’에서 ‘수행하는 AI’로 넘어가는 것이다.

그리고 에이전틱 AI의 핵심 가치는 다음 네 가지다.

1. 자율성(Autonomy): 사람의 지시를 계속 기다리지 않고 스스로 판단
2. 목표 지향성(Goal-Driven): 목표 달성을 위해 여러 단계의 작업 수행
3. 도구 사용(Tool Use): 단순 텍스트 생성을 넘어, 외부 시스템과 능동적으로 상호작용
4. 메모리 & 학습(Memory): 이전 결과를 기억하고 다음 행동에 반영

즉, Agentic AI는 단순 자동화가 아닌 목표 중심의 자율 실행 시스템이다.

Agentic AI는 무엇이 다른가?

기존 생성형 AI와 에이전틱 AI의 가장 큰 차이는 반응형인지 실행형인지 여부다. 생성형 AI는 보통 우리가 질문하면 답을 준다. 여기까지는 사람이 중심이다. 반면, 에이전틱 AI는 사람이 목표를 주면 스스로 순서를 정하고, 필요한 도구를 써서 결과를 만들어낸다.

보안 관점에서 보면, “이 로그 좀 요약해 줘” 수준이었다면, 이제는 “이상 징후를 찾고, 필요한 정보를 모으고, 격리하고, 티켓 만들고, 보고서까지 작성해 줘”라는 흐름으로 가는 것이다. 보안도 과거에 사람 중심의 제어 환경이 였다면, 이제는 AI가 중심이 되어가고 있는 것이다.

[그림 1] 생성형 AI vs 에이전틱 AI

최근 에이전틱 AI에 대한 관심도가 부쩍 높아졌는데, 그 이유는 다음 세 가지의 성숙도가 높아졌기 때문이다.

1. LLM의 추론 능력: 단순 요약을 넘어 복잡한 단계의 문제 처리 가능
2. 에이전트 프레임워크/프로토콜: 도구를 연결하고 실행하는 기반 개선
3. 기업 환경이 API 중심으로 전환: 보안 솔루션, 티켓 시스템, 클라우드, 인증이 모두 연결 가능한 구조

즉, 기술과 연결 환경이 준비되었고, 실제 수요도 생겨났기 때문이다.

에이전틱 AI에 대한 시장 전망도 굉장히 공격적이다. 시장조사기관 가트너(Gartner)는 전체 브랜드의 60%가 Agentic AI를 통해 1:1 맞춤형 고객 인터랙션을 제공할 것으로 전망했다. 중요한 것은 AI가 ‘보조 기능’을 넘어 업무를 수행하는 ‘조직의 구성 요소’가 된다는 점이다. 이는 조직들의 제품 설명, 운영 방식 등에 대한 고객 기대 수준 자체가 달라질 가능성이 높다는 의미이기도 하다.

AI와 함께하는 보안 담당자의 역할 변화

보안 담당자 입장에서 이러한 변화에 대해 주목해야 할 키워드는 크게 네 가지가 있다.

1. 에이전틱 AI 감독(Agentic AI Oversight): 보이지 않는 AI 에이전트가 늘어나면서 새로운 공격 표면 발생
2. AI 전용 인증 및 엑세스 관리(IAM for AI Agents): 사용자 뿐만 아니라 AI 에이전트도 하나의 행위 주체로 관리 필요
3. AI 주도 SOC(AI-Driven SOC): 반복적인 분석 업무는 AI가 더 많이 맡게 될 전망
4. 선제적 보안(Preemptive Security): 사고 이후가 아닌 사전 징후 단계 방어

핵심은 운영, 권한, 탐지, 대응 체계가 모두 바뀔 수 있다는 것이다. 그리고, 이는 더 이상 먼 미래의 이야기가 아니다.

그렇다면, 보안 담당자의 역할은 어떻게 바뀔까?

예전에는 사람이 보안 툴을 직접 다루고 알림(alert)을 하나씩 처리하는 운영자(operator) 역할이 메인이었다면, 앞으로는 AI 에이전트를 설계하고, 정책을 정하고, 예외를 승인하고, 결과를 검증하는 오케스트레이터(orchestrator)로서의 역할이 더 중요해질 것이다.

[그림 2] 에이전틱 AI 보안 모델

AI가 사람을 완전히 대체하는 것이 아니라, 사람의 역할이 상향되는 것이다. 반복적인 업무 처리보다 ‘감독, 판단, 기준 수립 및 검증’의 비중이 커지는 것으로 이해하면 된다.

이제 우리가 실제 접하는 보안 도메인에서 어떤 변화가 예상되는지 알아보자.

#1. 엔드포인트 보안

엔드포인트 보안에서 AI 에이전트 활용 방안은 꽤 명확하다.

1. 자율적인 위협 탐지 및 격리: 랜섬웨어 의심 행위가 발견되면 즉시 격리하고, 연관 IoC를 추출해 다른 엔드포인트에 차단 정책 배포
2. 취약점 우선순위 자동 조정: 단순 CVE 점수가 아니라 실제 노출도, 자산 중요도, 공격자 활용 가능성 바탕으로 실질적 위험도 평가 및 패치 우선순위 조정
3. 포렌식 데이터 수집 및 보고 자동화: 메모리 덤프, 프로세스 트리, 네트워크 연결 이력 등 포렌식 정보를 자동 수집하고 보고서 초안까지 자동 생성

실무적인 관점에서 보면, 엔드포인트 영역에서 AI는 ‘대응 시간(MTTR) 단축과 위협 분석 리소스 효율화’와 직결된다.

#2. 네트워크 보안

다음으로, 네트워크 보안에서의 활용 포인트는 다음과 같다.

1. 자율적인 세그멘테이션 및 정책 최적화: 트래픽 패턴을 지속 분석하고 정책 최적화
2. 동적 제로 트러스트 정책 집행: 제로 트러스트 정책을 정적인 룰이 아니라 맥락 기반으로 동적 집행
3. 디도스 & C2 자율 차단: 디도스나 C2(Command & Control) 통신처럼 빠르게 막아야 하는 영역 자율 차단 수행
4. 설정 오류 자율 교정: 설정 오류를 자동으로 발견하고 교정 (예: 클라우드 환경의 잘못된 보안 그룹, 퍼블릭 노출 스토리지 자동 탐지/교정)

네트워크 보안에서는 ‘AI가 정책 운영 자동화와 대응 속도 개선’에서 중추적인 역할을 한다.

#3. 보안 운영 (SOC)

실제 SOC 운영에서는 하나의 AI가 모든 것을 다 처리하는 것이 아니라, 여러 에이전트가 역할을 나눠서 협업하는 구조로 발전하고 있다. 다음은 에이전트 간 협업 구조의 예시이다.

1. 탐지 에이전트: 이벤트 탐지 및 이상 징후 식별
2. 위협 인텔리전스 에이전트: IP/hash 평판 조회, 공격자 프로파일링 등으로 맥락 보강
3. 포렌식 에이전트: 로그, 메모리 덤프 등 관련 증거 자동 수집
4. 대응 에이전트: 내부 영향 최소화를 위한 격리 혹은 차단 수행
5. 보고 에이전트: 티켓과 리포트 작성

최근에는 이러한 AI 에이전트 기반 보안 운영을 ‘에이전틱 SOC(Agentic SOC)’라는 개념으로 정립하고 있다. 이 구조의 장점은 속도와 분업이다. 특히, 사람이 모든 단계를 순서대로 처리할 때 생기는 병목을 줄일 수 있다.

[그림 3] 에이전틱 SOC 워크플로우

아마, 보안 담당자가 실무에서 가장 먼저 체감할 수 있는 영역도 바로 AI 에이전트 기반 보안 운영일 것이다. 과거에는 알림이 발생하면, 담당자가 직접 평판을 조회하고, 과거 이력 찾고, 유사 사례 확인해 영향도와 대응 방안을 정리해야 했다.

하지만, 에이전틱 AI가 보안 운영에 접목되면, 의사결정에 필요한 정보를 분석 및 취합하여 실행 가능한 형태로 제시해 주기 때문에, 보안 담당자는 정보 조회와 정리에 쓰던 시간을 줄이고, 더 중요한 의사결정에 집중할 수 있게 된다.

AI가 불러오는 리스크와 대처 방안

에이전틱 AI는 기업과 보안 담당자들에게 엄청난 혁신의 기회를 제공한다. 문제는 이러한 기회를 공격자들도 동일하게 갖는다는 것이다.

AI 에이전트는 공격자에게도 굉장히 매력적인 도구다. 공격의 속도, 규모 및 정교함의 수준을 비약적으로 올릴 수 있기 때문이다. 공격자들이 AI 에이전트를 활용할 수 있는 방법은 다음과 같다.

1. AI 기반 자율 공격 캠페인: AI 에이전트를 활용하여 취약점 스캐닝부터 초기 침투, 내부 측면 이동, 데이터 유출까지 공격 체인(Kill Chain)을 자율 수행
2. 스피어 피싱 고도화: 공격 대상의 공개 정보를 학습하여 맞춤화된 메시지를 대량 생성하고, 피해자의 회신에 대응하는 '대화형 피싱 에이전트' 동작
3. 취약점 무기화: 공개된 CVE 정보를 AI 에이전트가 즉시 분석하여 익스플로잇 코드를 자동 생성 - 패치 배포와 공격 실행 사이 '골든 타임' 단축

AI를 활용해 공격을 고도화하는 것 뿐만 아니라, 조직에서 사용하고 있는 AI 에이전트에 대한 공격을 감행해 피해를 입히는 것 역시 고려해야 한다. 이와 관련된 구체적인 위협은 크게 다섯 가지 정도로 정리할 수 있다.

1. 프롬프트 인젝션(Prompt Injection): 악의적인 프롬프트를 주입해 본래 LLM의 지침을 우회하여 잘못된 행동 유도
2. 에이전트 하이재킹(Agent Hijacking): 토큰이나 자격증명을 탈취해 AI 에이전트로 위장하여 시스템 제어권 탈취
3. 툴 포이즈닝(Tool Poisoning): AI 에이전트가 사용하는 외부 도구나 플러그인을 오염시켜 실행 조작
4. 메모리 포이즈닝(Memory Poisoning): Vector Database 등 장기 메모리를 오염시켜 판단 로직 훼손
5. 과도한 권한 부여(Excessive Permission): 에이전트에 필요 이상의 권한을 부여하여 한 번의 침해로 피해 확대

종합하면, AI 에이전트를 도입해 잘 활용하는 것도 중요하지만, 먼저 AI가 연결된 권한과 실행 경로를 통제할 수 있는 구조’를 만드는 것이 우선적인 과제다.

에이전틱 AI 시대를 맞아 조직들이 가장 먼저 준비해야 할 것은 ‘AI 보안 & 거버넌스(AI security & governance)다. 최근, 글로벌 시장에서도 주목 받고 있는 개념이다.

1. 에이전트 인벤토리 관리(Agent Inventory): 조직에서 운영 중인 모든 AI 에이전트(SaaS 포함) 가시성 확보 및 소유자/관리자 명시
2. 최소 권한(Least Privilege): 읽기 전용 기본값 설정, 에이전트 접근 네트워크 세그먼트 제한, 태스크 단위 권한 분리
3. Human-in-the-Loop 기준 정립(HITL Policy): 자동과 승인 필수 범위 기준 설정 및 에이전트 오작동 시 즉시 차단 가능한 ‘Kill Switch’ 마련
4. AI 전용 인증 체계(Machine Identity): 에이전트를 기계 행위자로 보고 별도 자격증명과 감사 로그 체계 운영

AhnLab AI PLUS와 함께하는 에이전틱 AI 보안 대전환

안랩은 자체 구축 에이전틱 AI 보안 플랫폼 AhnLab AI PLUS를 중심으로 고객들의 AI 보안 대전환에 함께하고 있다. AhnLab AI PLUS는 안랩이 30년간 축적한 위협 분석 데이터, 침해 사고 대응 경험 등 방대한 보안 정보를 기반으로 안랩만의 차별화된 AI 보안 역량을 제공한다.

AhnLab AI PLUS는 ▲AI 에이전트 기반 지능형 보안 탐지·분석 강화 ▲다양한 제품·서비스 적용으로 AI 기반 운영 확장 ▲자체 수집 데이터 기반 학습 체계로 고도화된 AI 서비스 제공 등을 목적으로 한다. 이를 통해, 자사 제품 및 서비스 전반의 AI 기반 지능화를 이뤄가고 있다.

AhnLab AI PLUS의 구조를 살펴보면, 방대한 보안 정보를 내부 데이터레이크(Data Lake)로 중앙화하고 데이터 가공 및 모델 학습 과정을 거쳐 보안 특화 LLM과 지식 데이터베이스를 구축했다. LLM과 지식 검색 기능을 API 서비스로 애플리케이션 계층에 공급한다. 또한, 데이터와 모델의 신뢰성, 리스크 관리, 보안을 고려하여 가드레일(Guardrail)을 적용해 AI로 인해 발생할 수 있는 리스크를 최소화한다.

[그림 4] AhnLab AI PLUS 구성도

그리고 ▲AI 기반 탐지 & 분석(AI Agent for Detection) ▲위협 인텔리전스 서비스(AI Agent for Threat Intelligence) ▲제품 운영(AI Agent for Operation) 등을 담당하는 AI 에이전트들이 협업해 문제를 해결한다. 그리고, Orchestration 에이전트는 각 에이전트들의 작업을 조율해 통합 보안 운영을 담당한다.

예를 들면, 사용자가 이벤트 로그를 첨부하고 AI에게 분석 및 영향도 평가를 의뢰하면, Orchestration 에이전트가 각 AI 에이전트들에게 작업을 할당해 로그 분석, 요약 내용 구조화, 주요 파일/URL 분석 및 위험도 평가를 진행하고, 결과를 종합해 사용자에게 최종 결과와 대응 방안을 제공한다. (영문 데모 영상 시청하기)

현재는 일련의 작업들을 안랩의 AI 포털(AI Portal)에서 확인할 수 있으며, 향후에는 자사 제품 및 플랫폼을 통해 에이전틱 AI 보안을 제공할 계획이다.

[그림 5] AI Portal 화면 – AI 에이전트 간 협업

안랩은 에이전틱 AI 보안 뿐만 아니라 AI 보안 & 거버넌스 역량도 함께 제공한다. 안랩의 자회사 안랩클라우드메이트가 제공하는 시큐어브리지(SecureBridge)는 프롬프트에 담긴 기밀·민감 정보를 선별적으로 탐지 및 차단하여 LLM에 학습되지 않도록 하고, 안전한 프롬프트는 그대로 전송하여 데이터 유출 걱정 없이 AI를 자유롭게 활용할 수 있도록 한다.

[그림 6] 안랩클라우드메이트 시큐어브리지(SecureBridge)

FAQ: AhnLab AI PLUS

결론