AI 에이전트가 바꾸는 사이버 보안, 탐지에서 자율 대응까지

AI로 확장되는 보안의 행위 주체

기존의 보안은 가시성을 넓히는 방향으로 발전해 왔다. 보안은 파일과 네트워크에서 시작해 계정, 접근 정보, 행위, 여러 보안 영역의 통합 정보까지 관찰 범위를 넓혀 왔다. 이렇게 수집한 신호를 규칙과 시나리오에 따라 분석해 위협을 탐지하고 대응하는 방식이 기본이었다. 보안 기술과 관찰 대상은 계속 확장됐지만, 사람이 행동하고 시스템이 이를 관찰한다는 기본 전제는 유지됐다.

AI 에이전트의 등장은 이 전제를 바꾸고 있다. 이제 사람은 목표 설정과 중요한 결정만 담당하고, 세부 계획은 AI가 직접 세우고 필요한 도구를 호출하고 실행한다. 즉, 단순한 보조 도구를 넘어 목표를 수행하는 행위 주체로 움직이기 시작한 것이다.

이러한 변화는 공격 방식에도 직접적인 영향을 준다. 사람이 단계별로 지시하지 않아도 AI가 여러 전술 작업을 연속적으로 수행할 수 있게 되면서, 공격의 속도와 규모는 커지고 수행 과정의 자율성도 높아질 수 있다. Anthropic의 2025년 분석에 따르면 GTG-1002로 명명된 중국 연계 공격자 집단의 특정 사이버 첩보 캠페인에서 AI가 정찰, 취약점 발견, 자격 증명 수집 등 전술 작업의 약 80~90%를 수행한 것으로 추정된다. 또한 Verizon은 2026년 DBIR에서 알려진 취약점이 실제 공격에 활용되기 전 패치나 완화 조치를 적용할 수 있는 여유가 수개월에서 수시간으로 줄고 있다고 설명했다.

행동을 보는 보안에서 목적과 맥락을 추론하는 보안으로

AI가 스스로 판단하고 행동하는 주체가 되면, 개별 행동만으로 위협 여부를 판단하기 어려워진다. 예를 들어 공격에 정상 계정과 권한, PowerShell 같은 허용된 도구를 사용해 파일을 검색하고 압축해 전송할 수 있다. 각 단계만 보면 정상적인 백업 작업으로 보이는 작업이 실제로는 데이터 탈취를 위한 과정일 수도 있다.

이 때문에 공격에 대응하려면 개별 행동만 볼 것이 아니라 행동 간의 관계와 주변 맥락을 함께 분석해야 한다. 동작의 순서, 계정의 평소 사용 패턴, 접근한 파일, 전송 대상, 인접 이벤트를 연결해 정상적인 작업인지 공격 과정인지 판단하고, 가능한 목적과 위험을 추정해야 한다. 필요한 경우 추가 정보를 수집해 판단을 보완하고 다음 조사로 이어갈 수 있어야 한다.

문제는 속도다. 공격 측 AI가 실행 결과를 기반으로 다음 행동을 스스로 고른다면, 방어 측도 관련 신호를 더 빠르게 찾고 대응해야 한다. 이를 위해서는 보안 맥락을 해석하는 추론과 허용된 범위에서 다음 단계를 실행하는 자율성이 함께 필요하다. 즉 AI 공격과 방어는 단순히 AI 모델끼리 맞붙는다는 뜻이 아니라, 양쪽에서 다음 행동을 판단하는 주체가 AI로 확장되면서 벌어지는 추론의 경쟁에 가깝다.

AI-native로 재설계하는 보안 운영

안랩은 AI 활용 방식을 기존 보안 기능과 운영 절차를 보완하는 AI-powered와, AI가 보안 운영 과정에 직접 참여하는 AI-native로 구분한다. AI-powered가 탐지 성능 개선이나 플레이북 생성처럼 기존 흐름의 일부를 고도화한다면, AI-native는 AI가 환경을 관찰하고 관련 신호를 연결해 다음 작업을 판단하고 대응까지 이어 갈 수 있도록 운영 체계 자체를 설계하는 접근이다.

AI-native Operations는 이 흐름을 Validate, Sense, Reason, Act의 네 단계로 정리한다. Validate는 허가된 범위에서 공격 경로와 악용 가능성을 미리 검증하고, Sense는 환경 변화를 관찰해 정상 패턴에서 벗어난 신호를 찾는다. Reason은 관련 신호와 보안 맥락을 연결해 조사 대상과 위험을 판단하고, Act는 그 결과를 바탕으로 대응 방안을 계획해 정책과 승인 조건에 따라 실행한다.

네 단계는 별도의 기능이 아니라 반복되는 하나의 운영 사이클이다. 대응이 끝난 뒤에도 다시 공격 가능성을 검증하고 환경 변화를 감지하며, 새로 확인된 신호를 조사한다. AI-native의 핵심은 개별 AI 기능의 수가 아니라 이 판단과 실행의 흐름을 끊기지 않게 연결하는 것이다.

AI-native Operations의 두 가지 적용 사례

앞서 살펴본 AI-native 운영은 실제 보안 업무에서는 서로 다른 형태로 구현될 수 있다. 안랩은 공격 가능성을 사전에 검증하는 영역과 탐지 이후 공격 흐름을 조사하는 영역에서 이러한 운영 방식을 적용하고 있다. AI PenTest는 실행 결과에 따라 다음 공격 경로를 탐색하고, AI Investigation은 탐지된 신호에서 출발해 관련 흔적을 추적하며 공격 흐름을 재구성한다.

실행 결과에 따라 계획을 수정하는 AI PenTest

안랩 AI PenTest는 허가된 범위에서 공격 가능성을 반복 검증하는 모의 침투 기능이다. 아래 예시에서 AI는 파일 업로드 기능을 발견한 뒤 JSP 파일 업로드를 시도하지만 확장자 제한으로 실패한다. 여기서 같은 시도를 반복하는 대신 서버 응답과 저장 방식을 확인하고, 허용되는 파일 형식을 이용하는 우회 가능성을 새로 계획해 다시 검증한다.

중요한 점은 성공 여부보다 반복 과정이다. AI는 실행 결과에 따라 공격 가설과 절차를 수정하며 다음 단계를 스스로 결정한다. 이러한 과정을 반복하면서 실제 공격에 악용될 수 있는 침투 경로를 사전에 검증하고 공격 표면을 줄이는 데 활용한다.

조사 결과에 따라 다음 단서를 추적하는 AI Investigation

방어 측에서는 탐지된 신호를 바탕으로 다음 조사 대상을 정하고 관련 이벤트를 추적하는 방식으로 AI의 자율적인 판단이 이어진다. 예를 들어 웹셸 업로드 이후 권한 상승, 자격 증명 탈취, 내부 이동, 악성코드 실행, 드라이브 암호화까지 공격이 이어질 수 있다. 기존 운영에서는 개별 이벤트를 탐지한 뒤 분석가가 전후 맥락을 추가로 조사해 공격 흐름과 영향도를 판단하고, 확인된 패턴을 기반으로 플레이북을 만들어 대응을 자동화해 왔다.

AI-native 흐름에서는 AI Sensor가 이상 신호를 수집하고, AI Triage가 먼저 확인할 이벤트를 선별한다. AI Investigation은 선택한 이벤트에서 출발해 관련 신호를 계속 탐색하면서 공격 흐름을 재구성하고, AI Insight는 추정한 목표와 위험, 영향을 사람이 검토할 수 있는 형태로 정리한다. AI Response는 분석 결과에 맞는 대응 방안을 계획하고, 필요한 경우 사람의 승인을 거쳐 실행한다.

AI PenTest와 방어 AI는 서로 다른 단계에서 작동하지만, 모두 상황에 따라 다음 행동을 스스로 결정한다. AI PenTest는 다음 공격 경로를 탐색하며 취약한 지점을 찾고, 방어 AI는 다음 조사 대상을 선택하며 공격 흔적을 연결한다. 한쪽은 공격 가능성을 앞에서 검증하고 다른 한쪽은 발생한 신호를 뒤에서 추적하지만, 모두 상황에 따라 다음 행동을 스스로 계획한다.

보안 맥락을 이해하는 AI와 통제된 자율성

AI-native 운영에는 보안 맥락을 이해하고 그에 맞는 판단을 내릴 수 있는 능력이 필요하다. 여기서 추론은 범용 언어 모델의 일반적인 추론 능력이 아니라, 위협 인텔리전스, IoC, 텔레메트리, 취약점 정보 등 여러 보안 정보를 연결해 위험을 판단하고 다음 조사나 대응을 결정하는 것을 의미한다. 안랩은 AI가 이러한 보안 맥락을 이해할 수 있도록 관련 정보를 관계 중심으로 구조화하고 있다.

이러한 판단이 실제 조사와 대응으로 이어지려면 AI가 필요한 도구를 호출하고 작업을 수행할 수 있는 자율성도 필요하다. 다만 자율성이 커질수록 AI가 어디까지 접근하고 무엇을 실행할 수 있는지 통제하는 장치도 함께 필요하다. 안랩은 이를 ‘통제된 자율성’으로 설명하며, 감사 및 추적, 권한 통제, 가드레일, 사람 승인의 네 요소를 제시한다.

감사 및 추적은 AI가 어떤 판단을 내리고 어떤 도구와 작업을 실행했는지 기록한다. 권한 통제는 AI가 사용할 수 있는 도구와 접근 가능한 자원, 실행 범위를 제한한다. 가드레일은 정책에 어긋나거나 위험한 행동을 점검하고 차단하며, 사람 승인은 중요하거나 위험도가 높은 조치를 실행하기 전에 담당자가 최종 판단하도록 한다. 결국 방어 AI는 모든 보안 업무를 제한 없이 자동화하는 것이 아니라 보안 맥락을 이해하고 필요한 조사와 대응을 빠르게 수행하되, 정해진 권한과 정책 안에서 행동하고 그 과정을 확인할 수 있어야 한다.

데이터, 지식, 도구를 연결하는 AhnLab AI PLUS

AhnLab AI PLUS는 앞서 설명한 AI-native 운영을 구현하기 위해 보안 데이터와 지식, 제품 기능, AI 모델과 도구를 하나의 구조로 연결하는 플랫폼이다. 하나의 범용 모델에 모든 역할을 맡기기보다, 보안 업무와 상황에 맞는 데이터와 전문 지식, 분석 로직, 워크플로, 도구를 조합해 AI가 실제 조사와 대응을 수행할 수 있도록 구성한다.

Security Data Fabric은 여러 제품과 외부 출처에서 생성되는 데이터를 연결하고, Unified Security, Exposure Management, Access Management는 엔드포인트와 네트워크, 공격 표면, 접근 관리 등 각 보안 영역의 데이터와 기능을 제공한다. 이를 바탕으로 AI-native Operations가 Validate, Sense, Reason, Act의 운영 사이클을 수행하며, AI Decision Intelligence는 보안 지식과 분석 로직, 워크플로, AI 에이전트를 활용해 조사와 의사결정을 지원한다.

이처럼 AI의 판단은 Security Data Fabric에 연결된 데이터를 기반으로 이뤄지고, 각 보안 영역과 도구를 활용해 실제 조사와 대응으로 이어진다. AI-native Operations가 이 과정을 지속적으로 수행하는 동안 통제된 자율성은 AI가 정해진 권한과 정책 안에서 행동하도록 제한한다. AhnLab AI PLUS는 이러한 데이터와 기능, AI 운영 체계를 하나의 보안 운영 흐름으로 연결하는 방향을 지향한다.

AI가 스스로 판단하고 행동하는 시대에는 더 많은 이벤트를 탐지하는 것만으로 충분하지 않다. 공격 AI가 상황에 따라 다음 행동을 결정한다면, 방어 AI도 보안 맥락을 이해하고 필요한 조사와 대응을 빠르게 이어 갈 수 있어야 한다. 결국 AI 시대의 사이버 보안은 누가 더 빠르고 정확하게 다음 행동을 판단하느냐의 경쟁이다. 동시에 AI에 부여한 자율성이 새로운 위험이 되지 않도록 그 행동과 권한을 안전하게 통제해야 한다.

▶ AhnLab AI PLUS 자세히 보기