Hwan'Story › @kim-hwan

CVE-2026-114938(Java4Shell) 정리: Base64 디코더 힙 오버플로와 대응 방법

· (수정 ) · 조회 2

CVE-2026-114938(Java4Shell) 정리: Base64 디코더 힙 오버플로와 대응 방법

Java4Shell이라고도 불리는 CVE-2026-114938은 2026년 11월 17일 공개된 Java 런타임 취약점이다. java.util.Base64로 외부 입력을 디코딩하는 Java 서버라면 영향받을 수 있다. 다만 같은 Java 버전을 쓰더라도 CPU 종류에 따라 영향 여부가 달라진다. 이 글에서는 취약점의 원인과 영향받는 범위, 심각도, 해결 방법, 내 환경을 확인하는 방법을 정리한다.

AI 사용 안내 이 글은 AI 를 이용해서 작성했다. 자료 조사(웹 검색)와 본문 작성은 AI 가 했다. 공개된 지 하루 정도 지난 취약점이라 자료마다 내용이 조금씩 다르다. 출처가 갈리는 부분은 본문에 따로 표시했다.

핵심 요약

  • HotSpot JVM에서 AVX-512로 최적화된 Base64 디코더에 생기는 힙 버퍼 오버플로(CWE-122)이다.
  • x86-64 CPU가 AVX-512(VBMI)를 지원하고, 외부에서 넣은 Base64 데이터가 java.util.Base64의 basic 또는 URL 디코더로 들어갈 때만 해당된다.
  • Oracle은 CVSS 3.1 기준 8.1(High)로 평가했다. 여러 보도에 나오는 CVSS 4.0 9.2(Critical)는 출처가 분명하지 않다.
  • Oracle의 2026년 11월 Critical Security Patch Update(CSPU)에 수정이 들어갔다.
  • 11월 17~18일 기준으로 실제 공격 사례나 공개된 PoC는 보고되지 않았고, CISA KEV 목록에도 없다.

무엇이 문제인가

java.util.Base64의 디코딩 루프는 자주 호출되면 JIT 컴파일러가 CPU에 맞춘 어셈블리 루틴(intrinsic)으로 바꿔서 실행한다. x86-64에서 AVX-512 VBMI를 지원하는 CPU라면 이 AVX-512 루틴이 쓰인다.

문제는 이 루틴이 마지막 남은 블록을 처리할 때 출력 길이를 잘못 계산한다는 점이다. 블록 크기를 기준으로 출력 길이를 구한 뒤 끝의 패딩 문자(=) 하나당 1바이트를 빼는데, 특정 조건에서는 이 값이 음수가 된다. 음수로 만든 저장 마스크는 전체 폭 마스크로 해석된다. 결국 대상 배열 끝을 넘어 62~63바이트를 더 쓰고, 힙에서 바로 뒤에 있는 객체를 덮어쓴다.

hot method -> JIT intrinsic(AVX-512) -> 길이 계산 음수 -> 전체 폭 마스크 -> 힙 배열 밖 쓰기

Oracle은 이 취약점의 컴포넌트를 Compiler로 분류했다. 즉, 클래스 라이브러리가 아니라 JIT이 만든 코드에 있는 버그이다.

영향을 두고는 의견이 갈린다. 처음 발견한 Calif는 테스트에서 Jira, Jenkins 같은 애플리케이션에서 인증 없이 코드를 실행할 수 있었다고 밝혔다. 반면 Equixly는 덮어쓰는 바이트를 공격자가 아니라 디코더가 정하기 때문에, 현실적인 결과는 JVM 크래시에 가깝다고 분석했다. Oracle 공지에 따르면 이 취약점이 악용되면 해당 제품이 장악될 수 있다(takeover).

심각도

출처 점수
Oracle (CVSS 3.1) 8.1 High, AV:N/AC:H/PR:N/UI:N/S:U/C:H/I:H/A:H
여러 보도 (CVSS 4.0) 9.2 Critical (한국 국가사이버안보센터 공지를 출처로 들지만 원문은 찾지 못했다)
NVD 페이지 내용을 확인하지 못했다

CVE 레코드를 할당한 기관(CNA)은 Oracle이다. Oracle CSPU의 크레딧에는 Calif.io의 Quang Luong과 Albert Yang이 올라 있다.

영향받는 버전과 고쳐진 버전

구분 상태
OpenJDK 17.0.6 ~ 17.0.21.1 이전 영향
Java 21 (21.0.13.1 이전), 25 (25.0.5.1 이전), 27 (27.0.1.1 이전) 영향
OpenJDK 17.0.0 ~ 17.0.5 영향 없음 (x86 디코드 스텁이 없다)
OpenJDK 8, 11 영향 없음 (같은 이유)
AVX-512 VBMI 미지원 CPU (Skylake-SP, Cascade Lake, Zen 4 이전 AMD), ARM64 영향 없음

OpenJDK 버전 범위는 보안 업체들이 분석한 결과이다. OpenJDK Vulnerability Group의 공식 공지는 아직 찾지 못했다.

Oracle 쪽은 2026년 11월 CSPU에서 고친 빌드를 배포했다. Oracle이 영향 범위로 밝힌 제품은 아래와 같다.

  • Oracle Java SE: 8u511b33-perf, 17.0.21.0.3, 21.0.13.0.3, 25.0.5.0.3, 27.0.1.0.3
  • Oracle GraalVM for JDK: 17.0.21.0.3, 21.0.13.0.3
  • Oracle GraalVM Enterprise Edition: 21.3.20.0.3

Eclipse Temurin, Amazon Corretto, Red Hat build of OpenJDK 같은 배포판은 각자 일정에 맞춰 릴리스한다. 이 배포판들이 어느 버전에서 고쳤는지는 아직 공식 정보를 찾지 못했다.

내 환경이 영향받는지 확인하기

세 가지를 확인하면 된다.

첫째, Java 버전을 확인한다.

java -version

컨테이너 이미지나 장비 펌웨어에 들어 있는 JRE도 따로 확인해야 한다.

docker run --rm <image> java -version

둘째, CPU가 AVX-512 VBMI를 지원하는지 확인한다(Linux 기준).

grep -o -m1 avx512vbmi /proc/cpuinfo

아무것도 출력되지 않으면 이 경로를 타지 않는다.

셋째, 실행 중인 JVM에서 Base64 intrinsic이 켜져 있는지 확인한다.

jcmd <PID> VM.flags -all | grep -i base64

해결 방법

  1. 업그레이드
    • Oracle JDK는 2026년 11월 CSPU 빌드로 올린다.
    • OpenJDK 계열은 17.0.21.1, 21.0.13.1, 25.0.5.1, 27.0.1.1 이후 빌드를 쓴다. 다만 이 버전 번호들은 보안 업체 분석에서 나온 것이므로, 쓰고 있는 배포판의 공지를 같이 확인하는 편이 좋다.
  2. 당장 업그레이드할 수 없을 때의 완화
    • 취약한 intrinsic을 끄는 JVM 옵션을 준다. Base64 디코딩 성능은 떨어진다.
java -XX:-UseBASE64Intrinsics -jar app.jar
  • x86-64에서는 -XX:UseAVX=2로 AVX-512 경로 자체를 피할 수도 있다. ARM64 JVM은 이 옵션을 주면 아예 시작하지 않는다.
  • 두 옵션 모두 Oracle이 공식 우회책으로 발표한 것이 아니고 근본 해결책도 아니다. Oracle은 이 취약점에 대한 우회책을 따로 공지하지 않았다.

인터넷에 노출되지 않은 서비스도 대상이다. 내부 서비스라도 신뢰할 수 없는 Base64를 디코딩하면 같은 코드 경로를 탄다.

정리

결국 확인할 것은 Java 17.0.6 이상인지, AVX-512 VBMI를 지원하는 x86-64 서버인지, 외부 입력을 Base64로 디코딩하는지이다. 세 조건이 모두 맞으면 패치 빌드로 올리는 것이 우선이고, 그 전까지는 -XX:-UseBASE64Intrinsics를 임시 조치로 생각하면 편하다.

참고 자료

관련 게시글