AI에게 어디까지 맡길 것인가? AI 시대 보안이 던지는 새로운 질문

AI가 사이버 보안의 판도를 바꾸고 있다.

특히 AI 에이전트(Agent)의 등장으로 새로운 고민이 생겨난다. AI가 정보를 제공하거나 분석하는 수준을 넘어 시스템에 접속하고 데이터를 이동시키는 등 실제 행동을 수행할 수 있게 됐기 때문이다. 공격자 역시 AI 를 활용해 취약점을 더 빠르게 찾고 공격 경로를 조합해 반복적으로 실행할 수 있게 됐다.

그렇다면 AI가 공격과 방어 모두의 속도를 끌어올리는 시대에 보안은 어떻게 달라져야 할까.

ISEC 2026 토크콘서트에 참석한 이상국 안랩 전무는 AI 시대의 사이버 위협부터 AI를 활용하는 보안기업이 가져야 할 원칙, 국내 보안기업의 경쟁력과 앞으로의 성장 방향에 대해 이야기했다.

1. AI가 만드는 가장 큰 변화는 ‘새로운 공격’보다 ‘속도와 규모’

AI 기반 사이버 공격을 이야기하면 지금까지 존재하지 않았던 새로운 형태의 공격을 먼저 떠올리기 쉽다. 하지만 이상국 전무가 주목한 지점은 조금 다르다.

AI가 완전히 새로운 공격을 만들어내는 것보다 기존 위협의 규모와 속도를 사람이 감당하기 어려운 수준으로 높이고 있다는 점이 더 큰 문제라는 것이다.

취약점과 잘못된 권한 설정, 관리되지 않는 계정은 이전에도 존재했다. 달라진 것은 이를 찾아내고 활용하는 속도다. AI는 취약점을 빠르게 탐색하고 여러 공격 경로를 조합해 반복적으로 실행할 수 있다. 그만큼 방어자가 위협을 파악하고 판단해 대응할 수 있는 시간은 줄어든다.

토크콘서트에서 이 전무는 AI가 취약점을 더 빠르게 찾아낸다고 해서 그것만으로 공격이 성공하는 것은 아니라는 점을 짚었다. 실제 공격으로 이어지기 위해서는 취약점뿐 아니라 과도한 권한, 관리되지 않는 자산과 계정, 패치되지 않은 시스템, 내부정보에 대한 접근 등 기존의 여러 보안 취약 요소가 공격 과정에서 맞물릴 수 있기 때문이다 . AI 가 가져오는 더 큰 위협은 이러한 약점을 빠르게 찾아내고 공격 경로를 조합해 반복적으로 실행할 수 있다는 점이다.

결국 AI 시대에 주목해야 할 위협은 완전히 새로운 공격 기법의 등장만이 아니다. 기존에 존재하던 보안의 약점을 AI가 얼마나 빠르게 발견하고 공격 과정에 활용할 수 있는가 역시 중요한 문제다.

2. AI Assistant와 AI Agent, ‘잘못된 답변’과 ‘잘못된 행동’의 차이

AI 에이전트의 등장으로 기존 AI 활용과 다른 보안 문제가 제기된다.

잘못된 AI Assistant는 잘못된 정보를 제공하는 데 그칠 수 있다. 하지만 잘못된 AI Agent는 시스템에 접속해 데이터를 이동시키고 실제 행동을 실행할 수 있다.

차이는 명확하다.

AI의 판단이 정보 제공에 머무르는가, 아니면 실제 행동으로 이어지는가의 차이다.

따라서 AI Agent의 활용 자체가 새로운 공격 표면(Attack Surface)이 될 수 있다.

이러한 환경에서 CISO가 고민해야 할 질문 역시 달라진다.

AI의 활용 범위를 넓히는 것만큼 그 권한을 어떻게 관리하고 통제할 것인지가 중요해지는 이유다.

이를 위해 AI 자산 인벤토리를 구축하고 최소 권한 원칙을 적용해야 한다. AI가 어떤 행동을 했는지 기록하고 실시간으로 모니터링하는 체계도 필요하다. 중요한 행동에는 인간의 승인 절차를 두고, 문제가 발생했을 때 작동을 중단할 수 있는 긴급정지 기능 역시 기본적인 통제 수단으로 고려해야 한다.

3. AI를 ‘믿는 것’과 ‘신뢰할 수 있도록 관리하는 것’은 다르다

AI 경쟁이 빨라질수록 보안기업 역시 AI 기술을 제품과 서비스에 빠르게 적용해야 한다는 요구를 받는다.

하지만 보안 영역에서는 속도만으로 AI 혁신의 가치를 판단하기 어렵다.

이상국 전무는 빠른 혁신만큼 ‘책임 있는 혁신’이 중요하다고 강조했다.

AI의 판단 근거를 사람이 이해할 수 있어야 하고, 중요한 조치는 사람이 승인해야 한다. 오류가 발생하면 행동을 중단하고 원상복구할 수 있어야 한다.

이는 AI를 믿는 것과 AI를 신뢰할 수 있도록 관리하는 것은 다른 문제라는 관점과 연결된다.

AI 자산을 식별하고 누가 언제 무엇을 했는지 기록하며, 실시간으로 행위를 점검하고, 필요한 데이터에만 접근할 수 있도록 관리해야 한다.

공정성, 신뢰성과 안전성, 개인정보보호와 보안, 포용성, 투명성, 책임성과 같은 책임 있는 AI의 원칙도 제품 개발과 운영 과정에 내재화해야 한다.

결국 AI 는 보안 담당자를 대체하기보다 보안 담당자가 더 정확하고 빠르게 판단하도록 지원하는 방향으로 활용돼야 한다 .

4. AI 시대일수록 ‘보안의 기본’이 중요한 이유

AI 자율 공격이 등장했다고 해서 이에 대응하는 하나의 만능 솔루션이 존재하는 것은 아니다.

이상국 전무는 AI 가 취약점을 더 빨리 찾더라도 실제 공격이 성공하려면 과도한 권한, 관리되지 않는 자산, 패치되지 않은 시스템, 내부정보 접근과 같은 기존의 보안 취약 요소와 공격 요소들이 만나야 한다는 점을 강조했다.

따라서 AI 시대에도 기본적인 보안 활동은 여전히 가장 중요한 방어 수단이다.

자산을 정확하게 식별하고 최신 보안 업데이트를 적용해야 한다. 계정과 권한을 관리하고 네트워크를 분리하며 단말을 보호하고 데이터 접근을 통제해야 한다. 주기적인 점검과 대응 훈련도 필요하다.

여기에 한 가지가 더 필요하다.

정책을 준수하고 있는지를 O·X로 확인하는 데 그치는 것이 아니라, 실제 사고 시나리오에서 조직의 보안 태세가 제대로 작동하는지를 지속적으로 검증하는 것이다.

AI라는 이름 때문에 모든 것을 새롭게 바꿔야 한다고 생각하기 쉽지만 실제 사고는 여전히 관리되지 않는 자산, 과도한 권한, 늦은 업데이트, 잘못된 설정과 같은 기본적인 문제에서 시작될 수 있다.

AI 시대일수록 기본에 더 충실해야 하는 이유다.

5. AI를 위한 AI가 아닌, ‘고객의 문제’에서 출발해야 한다

보안기업은 AI를 제품과 서비스에 어떻게 적용해야 할까.

이상국 전무는 AI 기술을 사용하고 싶다는 생각에서 출발하기보다 고객이 해결하려는 문제가 무엇인지에서 출발해야 한다고 강조한다.

현장의 문제는 구체적이다.

탐지 이벤트가 너무 많아 중요한 위협을 놓칠 수 있고, 이를 분석할 인력이 부족할 수 있다. 여러 보안 제품에서 발생하는 정보를 서로 연결하기 어려운 문제도 있다.

AI는 이러한 문제를 해결하는 수단이 되어야 한다.

이벤트를 요약하고 위협의 우선순위를 제시하며 , 분석과 대응 시간을 단축해 보안 담당자의 판단과 대응을 지원한다 .

안랩도 엔드포인트, 네트워크, 클라우드, 위협 인텔리전스 등에서 생성되는 정보를 연결하고 AI를 활용해 고객의 탐지·분석·대응 운영의 연계·연동을 고도화하는 방향으로 솔루션과 서비스를 플랫폼 기반으로 발전시키고 있다.

결국 중요한 것은 AI를 얼마나 많이 적용했느냐가 아니라 AI를 통해 고객의 어떤 문제를 해결하느냐다.

6. ‘제품 중심’에서 ‘보안 운영체계 중심’으로

AI 시대의 변화는 보안 기업의 제품 전략에도 새로운 과제를 던진다.

이상국 전무가 강조한 변화는 ‘제품 중심 사고’에서 ‘고객의 보안 운영체계 중심 사고’로의 전환이다.

보안은 연결된 축이다.

탐지가 약하면 위험을 늦게 발견하고, 판단이 약하면 우선순위가 흔들리며, 대응이 약하면 피해가 확산된다.

따라서 엔드포인트, 네트워크, 클라우드, 위협 인텔리전스 등 각각의 제품이 따로 움직이는 것이 아니라 하나의 운영 흐름 안에서 연결돼야 한다.

이를 위해서는 공통 데이터 모델, 개방형 API, 통합 정책과 자산 관리, 일관된 위험 점수, 자동화된 대응 체계를 갖춰야 한다.

모든 제품을 한 기업이 직접 개발하는 것만이 방법은 아니다. 국내 전문기업 간 기술 제휴와 공동 서비스, 글로벌 파트너십도 적극적으로 활용할 수 있다.

판매 방식 역시 단품 라이선스 중심에서 고객의 보안 성과와 운영 효율을 제공하는 플랫폼형 서비스에 맞는 구독형·서비스형 모델로 발전해야 한다.

여기서 통합의 의미를 분명히 해야 한다.

통합 플랫폼은 여러 제품을 한 화면에 모아놓는 것이 아니라 고객이 위험을 발견하고, 판단하고, 대응하고, 학습하는 과정을 하나로 연결하는 것이어야 한다.

7. 글로벌 경쟁력의 출발점은 ‘운영 경험의 완성도’

글로벌 보안 시장에서는 대형 보안기업들이 통합 플랫폼과 방대한 위협 인텔리전스를 기반으로 경쟁하고 있다.

이러한 상황에서 국내 보안기업의 현재 위치를 과대평가해서도 안 된다.

이상국 전무는 국내 보안 기술이 모든 영역에서 퍼블릭 클라우드와 SaaS, AI 활용 환경에 수년간 적응해 온 글로벌 대형 벤더와 동일한 수준이라고 말하는 것은 현실적이지 않다고 진단했다.

하지만 국내 보안기업이 가진 경쟁력 역시 분명하다.

한국 고객의 실제 업무 환경과 문제를 가장 가까이에서 이해하고 해결할 수 있다는 점이다.

한국의 규제 환경과 폐쇄망·망분리, 공공·금융·제조 환경, 레거시 시스템, 국내 애플리케이션과 업무 프로세스를 깊이 이해하고 있다는 점은 국내 보안기업의 강점이다.

고객의 요구를 빠르게 제품과 서비스에 반영하고 기술지원과 사고대응 과정에서 긴밀하게 협력할 수 있다는 점도 있다. 국내 비즈니스 환경을 향하는 위협에 대해 오랜 기간 데이터와 대응 경험을 축적해 온 것 역시 경쟁력이다.

그러나 로컬 대응력만으로는 충분하지 않다.

국내에서 검증한 운영 경험을 표준화하고 이를 API와 클라우드 기반 서비스, 글로벌 파트너 생태계로 확장해야 한다.

결국 필요한 것은 ‘로컬의 깊이’와 ‘글로벌 확장성’을 동시에 갖추는 것이다.

기본적인 보안 역량 위에 AI 기반 분석, 자동화, 위협 인텔리전스, 클라우드 보안 역량을 결합하고, 국제 표준과 글로벌 검증 체계를 적극적으로 수용해 기술력을 객관적으로 증명해 나가는 노력도 필요하다.

8. 기능의 숫자가 아니라 ‘운영의 신뢰성’으로

국산 보안 솔루션이 외산 솔루션 수준의 신뢰를 확보하기 위해서는 무엇을 발전시켜야 할까.

이상국 전무는 개별 기능이나 성능 하나보다 제품을 도입하고 운영하는 전체 경험의 완성도를 우선적으로 발전시켜야 한다고 봤다.

첫 번째는 API와 데이터 연동성이다.

고객은 하나의 제품만 사용하지 않기 때문에 표준화된 API와 데이터 포맷을 통해 다른 보안 ·IT 시스템과 쉽게 연결할 수 있어야 한다 .

두 번째는 UI·UX와 운영 편의성이다.

단순히 많은 탐지 결과를 보여주는 것이 아니라 무엇이 중요한지, 왜 위험한지, 다음에 무엇을 해야 하는지를 직관적으로 제시할 필요가 있다.

세 번째는 글로벌 운영 역량이다.

다국어 지원뿐 아니라 해외 규제, 시간대별 기술 지원, 클라우드 리전, 글로벌 위협 인텔리전스까지 함께 준비해야 한다.

AI 기능 역시 단순히 답변 속도가 빠른 것만으로는 충분하지 않다.

판단 근거와 데이터 출처를 설명하고 오류를 통제할 수 있어야 한다.

결국 기능의 숫자보다 운영의 신뢰성이 더 중요하다.

AI 시대, 결국 보안이 만들어야 하는 것은 ‘신뢰’