인증 없이 원격 코드 실행? Java4Shell의 취약점과 대응 방안
Java의 데이터 처리 기능에서 인증 없이 원격 코드를 실행할 수 있는 심각한 취약점이 발견됐다. ‘Java4Shell’로 불리는 CVE-2026-114938은 Base64 데이터의 디코딩 과정에서 메모리 손상을 유발하는 취약점으로, 특정 조건에서는 민감 정보 유출이나 원격 코드 실행으로 이어질 수 있다. 위험도는 CVSS 4.0 기준 9.2점으로 ‘심각’ 수준이며, Oracle은 이를 해결하기 위한 보안 패치를 공개했다. Java4Shell의 발생 원리와 공격에 사용되는 데이터의 특징, 영향을 받는 버전과 대응 방안을 살펴보자.

Base64 데이터 처리 과정에서 발생하는 Java4Shell 취약점
Oracle은 2026년 11월 17일 자바 보안 패치를 공개했다. 이번 패치에는 ‘Java4Shell’로 알려진 CVE-2026-114938 취약점에 대한 수정 사항이 포함됐다. 한국인터넷진흥원(KISA) 역시 11월 18일 보안 공지를 통해 영향을 받는 버전의 사용자에게 최신 버전으로 업데이트할 것을 권고했다.
Java4Shell은 OpenJDK의 Base64 디코딩 과정에서 발생하는 메모리 손상 취약점이다. Base64는 데이터를 영문자와 숫자 등으로 구성된 문자열로 변환하는 인코딩 방식으로, 이메일과 웹 애플리케이션 등에서 데이터를 주고받을 때 널리 사용된다. 인코딩된 데이터를 원래 형태로 복원하는 과정이 디코딩이다.
이번 취약점은 특정 환경에서 조작된 Base64 데이터를 처리할 때 메모리의 할당된 범위를 벗어나 데이터를 기록하면서 발생한다. 이러한 오류를 ‘힙 기반 버퍼 오버플로(Heap-based Buffer Overflow)’라고 한다. 이 같은 메모리 손상은 민감 정보 노출이나 원격 코드 실행을 유도하며, 특정 조건에서는 공격자가 인증 없이 원격으로 악성코드를 실행할 가능성도 있다.
악성 Base64 페이로드의 특징과 탐지 방법
공격자는 비정상적으로 구성된 Base64 데이터를 전달해 취약한 디코딩 기능에서 메모리 손상을 유발할 수 있다. 특히 외부에서 입력받은 Base64 데이터를 Java 애플리케이션이 처리하는 경우, 해당 데이터가 취약한 실행 경로에 도달하는지 점검해야 한다.
안랩은 악성 Base64 페이로드의 주요 특징을 제시했다. 메모리 손상을 유발하는 입력 데이터는 대문자 A가 연달아 반복된 뒤 Base64 패딩 문자 =로 끝나는 형태를 보인다.
대표적인 패턴은 다음과 같다.
- 최신 OpenJDK 환경: A 문자 64개가 반복된 후 패딩 문자 =로 끝나는 패턴 (A{64}=)
- OpenJDK 17(구버전) 환경: A 문자가 128개 반복된 후 패딩 문자 =로 끝나는 패턴 (A{128}=)
이 패턴은 웹 애플리케이션 방화벽(WAF)이나 침입방지시스템(IPS)에서 의심스러운 요청을 식별하는 데 활용될 수 있다. 안랩은 Authorization 헤더, JWT 토큰, 파일 업로드 파라미터 등 Base64 인코딩 데이터가 주로 전달되는 구간을 중점적으로 모니터링하는 방안을 제시했다.
또한 보안 장비에 정규표현식(Regex) 기반의 사용자 정의 룰을 적용하는 방법도 있다. 일정 길이의 Base64 문자열(예: [A-Za-z0-9\+V]{60,130}=)이나 동일 문자가 비정상적으로 반복되는 패턴을 탐지해 차단하거나 경고하는 방식을 임시 대응 방안으로 안내했다.
Java4Shell 영향 버전 및 보안 업데이트 방법
안랩은 CVE-2026-114938에 영향을 받는 버전과 패치 적용 방법을 안내했다. 이번 취약점은 Java 8 Performance Pack과 Java 17, 21, 25, 27의 특정 버전에 영향을 미친다.
|
메이저 버전 |
취약점 영향 버전 |
수정 버전 |
|---|---|---|
|
8 Performance Pack |
8u511b33-perf |
8u513 (1.8.0_513-perf-b04) |
|
17 |
17.0.21.0.3 |
17.0.21.1 |
|
21 |
21.0.13.0.3 |
21.0.13.1 |
|
25 |
25.0.5.0.3 |
25.0.5.1 |
|
27 |
27.0.1.0.3 |
27.0.1.1 |
[표 2] Java4Shell 영향 버전 및 수정 버전
취약점 대응을 위해서는 먼저 시스템에 설치된 Java 실행 파일의 경로와 버전을 확인해야 한다. Windows와 Linux에서는 다음 명령을 통해 Java 실행 파일의 위치를 확인할 수 있다.
Windows
where.exe java
Linux
which java
Java 설치 경로를 확인한 후에는 해당 실행 파일을 기준으로 다음 명령을 실행해 버전을 점검한다.
Windows / Linux
java -version
확인된 버전이 취약점 영향 대상에 해당한다면 사용 중인 Java 메이저 버전에 맞는 보안 업데이트를 적용해야 한다. 예를 들어 Java 17은 17.0.21.1, Java 21은 21.0.13.1로 업데이트한다.
이때 시스템의 기본 Java 버전과 실제 서비스를 구동하는 Java 버전이 다를 수 있다는 점에 유의해야 한다. 애플리케이션에 별도로 포함된 실행환경이나 컨테이너에서 사용하는 Java도 점검 대상이다. 다른 공급사의 OpenJDK 배포판을 사용한다면 해당 공급사의 보안 공지를 통해 수정 버전을 확인해야 한다.
업데이트 후에는 관련 서비스를 재시작하고, 실제 운영 중인 애플리케이션에 수정된 Java 버전이 적용됐는지 확인해야 한다.
패치 적용 전 점검 및 임시 대응 방안
보안 업데이트를 즉시 적용하기 어려운 환경에서는 인터넷에 공개된 Java 기반 서비스를 우선 점검하고, 불필요한 외부 접근을 제한해야 한다. 외부에서 전달된 데이터가 취약한 Base64 디코딩 기능으로 이어지는 서비스가 있는지 확인할 필요가 있다.
앞서 소개한 WAF/IPS 기반 탐지 및 차단 룰도 임시 대응에 활용할 수 있다. 다만 이러한 조치는 알려진 공격 패턴을 중심으로 한 보완책으로, 모든 공격을 방어할 수 있는 것은 아니다. 따라서 임시 조치를 적용했더라도 공식 수정 버전으로 업데이트해야 한다.
- AhnLab콘텐츠마케팅팀