AI 기본법 시행, AI 서비스 이용자를 위한 보안 가이드

우리나라가 오는 1월 22일 AI 기본법을 시행한다. 전 세계에서 AI 규제법을 전면적으로 시행하는 첫 사례다. AI 기술이 산업과 사회 전반에 빠르게 확산되면서, 그 영향력만큼이나 윤리적 문제와 보안 이슈에 대한 우려도 커지고 있다. 특히 개인정보와 사생활 침해 문제는 사회적 신뢰를 훼손하고 갈등을 증폭시킬 수 있는 핵심 쟁점으로 꼽힌다.

AI 기본법은 이런 위험을 최소화하고, AI 기술이 안전하고 책임 있는 방향으로 활용될 수 있도록 법적 기준을 마련하기 위해 제정됐다. 생성형 AI와 고영향 AI를 중심으로 AI 개발과 제공, 이용 전반을 규율하며 AI 서비스 이용자에게도 보안과 책임 있는 활동을 요구한다. 이번 글에서는. AI 기본법의 주요 내용을 살펴보고, AI 서비스 이용자가 반드시 알아야 할 보안 수칙도 함께 짚어본다.

 

AI 기본법 적용 대상은?

AI 기본법은 모든 AI 기술을 일괄적으로 규제하는 법은 아니다. 단순 분류나 예측 기능을 수행하는 AI 시스템은 원친적으로 규제 대상에 포함되지 않는다. 대신 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미치거나 그런 위험이 발생할 가능성이 있는 AI 시스템을 ‘고영향 AI’로 정의하고, 이를 주요 규제 대상으로 삼고 있다.

또한, 입력된 데이터를 기반으로 새로운 결과물을 만들어내는 ‘생성형 AI’ 역시 AI 기본법의 적용 대상에 포함된다. 이와 함께 AI 시스템을 개발하거나 제공하는 사업자뿐만 아니라 AI를 활용한 제품이나 서비스를 제공하는 사용자도 법 적용 대상에 포함돼 있다. 이를 통해 AI 기본법은 AI 기술 개발부터 서비스 제공과 활용 단계까지 전반을 규율하는 것을 목표로 한다.

AI 기본법은 어떤 내용을 담고 있을까?

1) 산업 기반 조성

AI 기본법의 첫번째 주요 내용은 국가 차원의 AI 산업 기반을 조성하기 위해 과학기술정보통신부 장관이 3년마다 AI 기본 계획을 수립하도록 하고, 국가인공지능위원회의 실효성을 강화하며 AI 안전연구소 설립 등의 제도적 기반을 마련하는 것이다.

2) 고영향 AI 개념 도입

이번 법의 핵심 중 하나는 ‘고영향 AI’ 개념을 도입한 점이다. 의료, 에너지, 채용, 대출 심사 등 국민의 생명과 안전, 기본권에 중대한 영향을 미칠 수 있는 분야의 AI 시스템을 고영향 AI로 규정하고, 이를 활용한 제품이나 서비스를 제공할 경우 이용자에게 사전에 고지하도록 했다. 또한, 고영향 AI에는 안전성 관리 의무가 부과되며, 의무 위반 시 과태료 부과 등 법적 규제 대상이 된다.

3) AI 투명성 확보

생성형 AI를 활용해 만들어진 결과물에는 이용자가 AI가 생성한 콘텐츠임을 인지할 수 있도록 가시적·비가시적 방식의 워터마크를 표시해야 한다.

4) 해외 빅테크 국내 대리인 지정

아울러 해외 빅테크 기업에 대한 관리 체계도 포함됐다. 전년도 기준 글로벌 매출 1조 원 이상이거나, 국내 AI 서비스 매출 100억 원 이상, 또는 국내 일평균 이용자 수 100만 명 이상 중 하나라도 충족할 경우 해외 빅테크의 국내 대리인을 지정해야 한다. 현재 기준으로는 오픈AI와 구글 등이 해당된다.

5) 과태료 부과

AI 기본법상 의무를 위반할 경우에는 최대 3천만 원의 과태료가 부과될 수 있으며, 일정 요건에 따라 1년 이상의 계도 기간이 운영된다.

AI 서비스 이용자를 위한 보안 수칙

1. 공식 사이트에서만 AI 서비스 이용

AI 서비스는 반드시 공식 웹사이트나 검증된 앱 스토어를 통해서만 접속해 다운로드해야 한다. 유사 도메인이나 검색 광고, 팝업을 통한 접속은 피싱이나 악성코드 유포로 이어질 수 있으므로 주의가 필요하다. 사이트 접속 시 HTTPS 적용 여부도 함께 확인해야 한다.

2. 계정 보안 강화

AI 서비스 계정에는 영문 대소문자·숫자·특수문자를 조합해 어느 정도 복잡한 비밀번호를 설정하고, 주기적으로 변경해야 한다. 여러 서비스에서 동일한 비밀번호를 재사용하지 말고, 가능하다면 이중 인증을 활성화해 계정 탈취 위험을 줄인다.

3. 공용 네트워크 사용 주의

공공 와이파이(Wi-Fi)나 보안이 취약한 네트워크 환경에서는 AI 서비스 로그인이나 정보 입력을 자제해야 한다. 불가피하게 이용할 경우 VPN을 활용하고, 이용 후에는 반드시 로그아웃해야 한다. 주변에서 화면을 볼 수 있는 환경도 주의가 필요하다.

4. 서비스 이용약관과 개인정보 처리방침 확인

AI 서비스 이용 전 이용약관과 개인정보 처리방침을 확인해 데이터 수집·저장·활용 방식과 책임 범위를 이해해야 한다. 서비스 정책이 변경될 경우에도 변경 내용을 확인하고, 동의 여부를 신중히 판단해야 한다.

5. 개인정보 및 중요 정보 입력 금지

AI 서비스에는 개인식별정보, 기업 기밀, 내부 자료 등 민감하거나 중요한 정보를 입력하지 않아야 한다. 입력된 정보는 학습 데이터나 서비스 기록으로 남을 수 있으며, 제3자에게도 노출될 위험이 있다.

6. AI 결과에 대한 검증 필수

AI가 생성한 정보나 콘텐츠는 사실 여부와 정확성을 반드시 별도로 확인해야 한다. 하나의 출처만 신뢰하지 않고 여러 자료를 교차 검증하며 최신 정보 반영 여부, 편향 가능성 등을 고려하고, 중요한 판단이나 의사결정에는 전문가 검토를 병행해야 한다.

7. 항상 의심하고 정보 출처 확인

AI를 활용해 생성된 이미지나 영상, 음성, 텍스트는 허위 정보나 조작된 콘텐츠일 가능성을 염두에 둬야 한다. 뉴스, 연구 자료, 통계 등은 출처의 신뢰성을 확인하고, 과도하게 자극적인 내용은 특히 주의한다.

8. AI 악용이 의심되는 콘텐츠 즉시 삭제

AI를 악용해 제작된 것으로 의심되는 콘텐츠, 프로그램, 파일은 즉시 삭제하고 실행하거나 클릭하지 않아야 한다. 출처가 불분명한 파일이나 링크는 악성코드 감염, 정보 탈취로 이어질 수 있다.

9. AI 악용 결과물 공유 금지

악성 코드, 허위 정보, 딥페이크 등 AI 악용이 의심되는 결과물을 소장하거나 다른 사람에게 공유해서는 안 된다. 이를 공유할 경우 불법 행위에 연루되거나 보안 사고 확산의 원인이 될 수 있다.

10. 허위 콘텐츠 생성·유통 금지

AI를 이용해 허위 정보, 딥페이크 영상·이미지·음성 등을 생성하거나 매매·유포해서는 안 된다. 이런 행위는 개인과 사회에 피해를 줄 수 있으며, 법적 책임으로 이어질 수 있다.

11. 사용 기록과 데이터 관리

AI 서비스 이용 후 불필요한 입력 기록이나 생성 결과는 삭제하고, 필요한 데이터는 별도로 안전하게 저장한다. 계정 해지 시 데이터 처리 방식도 확인해 정보가 불필요하게 남지 않도록 한다.

12. 최신 보안 업데이트 유지

AI 서비스와 연동된 운영체제, 브라우저, 앱, 보안 프로그램은 항상 최신 버전으로 유지해야 한다. 보안 패치를 적용하지 않은 상태에서는 취약점을 악용한 공격이나 데이터 유출 위험이 커질 수 있다.

결론

AI 기본법 시행은 AI 기술을 보다 안전하고 책임 있게 활용하기 위한 제도적 출발점이다. 법과 제도가 마련됐다고 해서 모든 위험이 자동으로 사라지는 것은 아니다. AI 서비스를 사용하는 이용자 역시 보안 수칙을 준수하고, 정보 활용에 대한 책임 있는 태도를 가져야 한다. AI 기본법과 이용자 보안 수칙을 함께 이해하고 실천할 때, AI는 사회에 긍정적인 가치로 자리 잡을 수 있을 것이다.