CVE-2026-114938(Java4Shell) 정리: Base64 디코더 힙 오버플로와 대응 방법

Java4Shell이라고도 불리는 CVE-2026-114938은 2026년 11월 17일 공개된 Java 런타임 취약점이다. java.util.Base64로 외부 입력을 디코딩하는 Java 서버라면 영향받을 수 있다. 다만 같은 Java 버전을 쓰더라도 CPU 종류에 따라 영향 여부가 달라진다. 이 글에서는 취약점의 원인과 영향받는 범위, 심각도, 해결 방법, 내 환경을 확인하는 방법을 정리한다.
AI 사용 안내 이 글은 AI 를 이용해서 작성했다. 자료 조사(웹 검색)와 본문 작성은 AI 가 했다. 공개된 지 하루 정도 지난 취약점이라 자료마다 내용이 조금씩 다르다. 출처가 갈리는 부분은 본문에 따로 표시했다.
핵심 요약
- HotSpot JVM에서 AVX-512로 최적화된 Base64 디코더에 생기는 힙 버퍼 오버플로(CWE-122)이다.
- x86-64 CPU가 AVX-512(VBMI)를 지원하고, 외부에서 넣은 Base64 데이터가
java.util.Base64의 basic 또는 URL 디코더로 들어갈 때만 해당된다. - Oracle은 CVSS 3.1 기준 8.1(High)로 평가했다. 여러 보도에 나오는 CVSS 4.0 9.2(Critical)는 출처가 분명하지 않다.
- Oracle의 2026년 11월 Critical Security Patch Update(CSPU)에 수정이 들어갔다.
- 11월 17~18일 기준으로 실제 공격 사례나 공개된 PoC는 보고되지 않았고, CISA KEV 목록에도 없다.
무엇이 문제인가
java.util.Base64의 디코딩 루프는 자주 호출되면 JIT 컴파일러가 CPU에 맞춘 어셈블리 루틴(intrinsic)으로 바꿔서 실행한다. x86-64에서 AVX-512 VBMI를 지원하는 CPU라면 이 AVX-512 루틴이 쓰인다.
문제는 이 루틴이 마지막 남은 블록을 처리할 때 출력 길이를 잘못 계산한다는 점이다. 블록 크기를 기준으로 출력 길이를 구한 뒤 끝의 패딩 문자(=) 하나당 1바이트를 빼는데, 특정 조건에서는 이 값이 음수가 된다. 음수로 만든 저장 마스크는 전체 폭 마스크로 해석된다. 결국 대상 배열 끝을 넘어 62~63바이트를 더 쓰고, 힙에서 바로 뒤에 있는 객체를 덮어쓴다.
hot method -> JIT intrinsic(AVX-512) -> 길이 계산 음수 -> 전체 폭 마스크 -> 힙 배열 밖 쓰기
Oracle은 이 취약점의 컴포넌트를 Compiler로 분류했다. 즉, 클래스 라이브러리가 아니라 JIT이 만든 코드에 있는 버그이다.
영향을 두고는 의견이 갈린다. 처음 발견한 Calif는 테스트에서 Jira, Jenkins 같은 애플리케이션에서 인증 없이 코드를 실행할 수 있었다고 밝혔다. 반면 Equixly는 덮어쓰는 바이트를 공격자가 아니라 디코더가 정하기 때문에, 현실적인 결과는 JVM 크래시에 가깝다고 분석했다. Oracle 공지에 따르면 이 취약점이 악용되면 해당 제품이 장악될 수 있다(takeover).
심각도
| 출처 | 점수 |
|---|---|
| Oracle (CVSS 3.1) | 8.1 High, AV:N/AC:H/PR:N/UI:N/S:U/C:H/I:H/A:H |
| 여러 보도 (CVSS 4.0) | 9.2 Critical (한국 국가사이버안보센터 공지를 출처로 들지만 원문은 찾지 못했다) |
| NVD | 페이지 내용을 확인하지 못했다 |
CVE 레코드를 할당한 기관(CNA)은 Oracle이다. Oracle CSPU의 크레딧에는 Calif.io의 Quang Luong과 Albert Yang이 올라 있다.
영향받는 버전과 고쳐진 버전
| 구분 | 상태 |
|---|---|
| OpenJDK 17.0.6 ~ 17.0.21.1 이전 | 영향 |
| Java 21 (21.0.13.1 이전), 25 (25.0.5.1 이전), 27 (27.0.1.1 이전) | 영향 |
| OpenJDK 17.0.0 ~ 17.0.5 | 영향 없음 (x86 디코드 스텁이 없다) |
| OpenJDK 8, 11 | 영향 없음 (같은 이유) |
| AVX-512 VBMI 미지원 CPU (Skylake-SP, Cascade Lake, Zen 4 이전 AMD), ARM64 | 영향 없음 |
OpenJDK 버전 범위는 보안 업체들이 분석한 결과이다. OpenJDK Vulnerability Group의 공식 공지는 아직 찾지 못했다.
Oracle 쪽은 2026년 11월 CSPU에서 고친 빌드를 배포했다. Oracle이 영향 범위로 밝힌 제품은 아래와 같다.
- Oracle Java SE: 8u511b33-perf, 17.0.21.0.3, 21.0.13.0.3, 25.0.5.0.3, 27.0.1.0.3
- Oracle GraalVM for JDK: 17.0.21.0.3, 21.0.13.0.3
- Oracle GraalVM Enterprise Edition: 21.3.20.0.3
Eclipse Temurin, Amazon Corretto, Red Hat build of OpenJDK 같은 배포판은 각자 일정에 맞춰 릴리스한다. 이 배포판들이 어느 버전에서 고쳤는지는 아직 공식 정보를 찾지 못했다.
내 환경이 영향받는지 확인하기
세 가지를 확인하면 된다.
첫째, Java 버전을 확인한다.
java -version
컨테이너 이미지나 장비 펌웨어에 들어 있는 JRE도 따로 확인해야 한다.
docker run --rm <image> java -version
둘째, CPU가 AVX-512 VBMI를 지원하는지 확인한다(Linux 기준).
grep -o -m1 avx512vbmi /proc/cpuinfo
아무것도 출력되지 않으면 이 경로를 타지 않는다.
셋째, 실행 중인 JVM에서 Base64 intrinsic이 켜져 있는지 확인한다.
jcmd <PID> VM.flags -all | grep -i base64
해결 방법
- 업그레이드
- Oracle JDK는 2026년 11월 CSPU 빌드로 올린다.
- OpenJDK 계열은 17.0.21.1, 21.0.13.1, 25.0.5.1, 27.0.1.1 이후 빌드를 쓴다. 다만 이 버전 번호들은 보안 업체 분석에서 나온 것이므로, 쓰고 있는 배포판의 공지를 같이 확인하는 편이 좋다.
- 당장 업그레이드할 수 없을 때의 완화
- 취약한 intrinsic을 끄는 JVM 옵션을 준다. Base64 디코딩 성능은 떨어진다.
java -XX:-UseBASE64Intrinsics -jar app.jar
- x86-64에서는
-XX:UseAVX=2로 AVX-512 경로 자체를 피할 수도 있다. ARM64 JVM은 이 옵션을 주면 아예 시작하지 않는다. - 두 옵션 모두 Oracle이 공식 우회책으로 발표한 것이 아니고 근본 해결책도 아니다. Oracle은 이 취약점에 대한 우회책을 따로 공지하지 않았다.
인터넷에 노출되지 않은 서비스도 대상이다. 내부 서비스라도 신뢰할 수 없는 Base64를 디코딩하면 같은 코드 경로를 탄다.
정리
결국 확인할 것은 Java 17.0.6 이상인지, AVX-512 VBMI를 지원하는 x86-64 서버인지, 외부 입력을 Base64로 디코딩하는지이다. 세 조건이 모두 맞으면 패치 빌드로 올리는 것이 우선이고, 그 전까지는 -XX:-UseBASE64Intrinsics를 임시 조치로 생각하면 편하다.
참고 자료
- Oracle Critical Security Patch Update Advisory - November 2026
- CVE-2026-114938: Java4Shell Base64 Overflow - Horizon3
- Java4Shell (CVE-2026-114938): Frequently asked questions - Tenable
- Java4Shell (CVE-2026-114938): Pre-Auth Heap Overflow in OpenJDK - Endor Labs
- CVE-2026-114938: Pre-auth heap overflow in Java 17, 21, and 25 - Equixly
- CVE-2026-114938 RCE in OpenJDK - Wiz
- Security Advisory: CVE-2026-114938 - Astra Security