AI가 발견한 Linux 커널의 치명적 취약점 『Fragnesia』(CVE-2026-46300) 심층 분석: Dirty Frag의 재림과 대책

2026년 5월, Linux 커널에서 매우 심각한 로컬 권한 상승 (LPE) 취약점인 **「Fragnesia」(CVE-2026-46300)**가 발견되었습니다. 이 취약점은 과거 세계를 뒤흔들었던 「Dirty COW」를 연상시키는 것으로, 읽기 전용(Read-only) 파일 시스템 캐시를 메모리 상에서 변조하는 것을 가능하게 합니다.

특기할 점은, 이 취약점이 AI 에이전트에 의한 자율적인 버그 헌팅 (Bug Hunting) 과정에서 특정되었다는 점입니다. 본 기사에서는 Fragnesia의 기술적 메커니즘과, 왜 AI가 이 복잡한 회귀 (Regression) 버그를 발견할 수 있었는지, 그리고 시스템 관리자가 취해야 할 대책에 대해 심층적으로 다룹니다.

Fragnesia의 정체: Dirty Frag의 「유산」

Fragnesia는 이전에 수정된 취약점인 **「Dirty Frag」(CVE-2026-43284)**의 수정 누락 (Variant)에서 기인합니다.

기술적 배경

Linux 커널의 네트워크 스택에서는 성능 향상을 위해 splice() 시스템 콜 등을 사용하여, 파일 캐시 (Page Cache) 데이터를 복사하지 않고 그대로 송신 버퍼 (skb: socket buffer)로 취급하는 「제로 카피 (Zero-copy)」 기구가 존재합니다.

Dirty Frag의 수정 과정에서, 이러한 「공유된 프래그먼트 (Shared Fragment)」를 식별하기 위해 skbuff 구조체에 SKBFL_SHARED_FRAG라는 플래그 (마커)가 도입되었습니다.

취약성의 핵심: 마커의 전파 누락

Fragnesia (CVE-2026-46300)의 근본 원인은 net/core/skbuff.c 내의 skb_try_coalesce() 함수에 있습니다.

이 함수가 여러 버퍼를 결합 (Coalesce)할 때, 소스 측 버퍼가 가지고 있던 SKBFL_SHARED_FRAG 마커를 결합 후의 버퍼로 올바르게 인계(전파)하지 않는 버그가 존재했습니다.

마커의 소실: skb_try_coalesce()에 의해 버퍼가 결합되면, 해당 데이터가 「Page Cache 유래의 공유 데이터이다」라는 정보가 상실됩니다.
보안 체크 우회: IPsec (ESP) 등의 수신 경로에서는 skb_has_shared_frag()를 체크하여, 공유 데이터라면 Copy-On-Write (CoW)를 강제하는 안전장치가 있습니다. 하지만 마커가 소실되었기 때문에 이 체크를 통과하게 됩니다.
인플레이스 (In-place) 복호화: 본래 CoW가 필요한 공유 페이지에 대해, 커널은 이를 「자신 전용 버퍼」로 오인하여, AES-GCM 복호화 처리를 메모리 상의 Page Cache에 대해 직접 (In-place) 실행해 버립니다.

공격 시나리오

공격자는 su 바이너리와 같은 중요한 실행 파일을 splice()를 통해 네트워크 소켓으로 흘려보내고, 특정 데이터를 패킷으로서 수신하게 합니다. 커널이 「복호화」라는 명목으로 Page Cache를 덮어씀으로써, 메모리 상의 su 바이너리를 루트 셸을 실행하는 코드로 바꿔 쓰는 것이 가능해집니다.

왜 AI가 이 버그를 찾아낼 수 있었는가

Fragnesia라는 명칭은 Fragment (단편)와 Amnesia (건망증: 마커를 잊어버리는 것)를 결합한 것이지만, 이를 AI가 발견했다는 것은 상징적입니다.

회귀 (Regression)에 대한 추종 능력: 인간 개발자는 「수정 패치를 적용했다」는 사실에 안심하기 쉽지만, AI는 패치에 의해 도입된 새로운 상태 전이와 플래그의 동작을 기존의 복잡한 경로 (이번 경우에는 버퍼 결합)와 망라적으로 대조하는 능력이 뛰어납니다.
결정론적 로직의 추구: Fragnesia는 레이스 컨디션 (Race Condition, 경합 상태)이 아니라, 특정 조건에서 반드시 발생하는 「논리 버그 (Logical Bug)」였습니다. AI 에이전트는 코드베이스의 모든 경로를 스캔하여, SKBFL_SHARED_FRAG가 어디서 설정되고 어디서 사라질 수 있는지를 정적·동적 분석을 조합하여 집요하게 추적했습니다.

시스템 관리자가 취해야 할 대책

커널 업데이트가 최우선이지만, 즉각적인 재부팅이 어려운 경우에는 다음과 같은 완화책이 유효합니다.

1. 취약한 모듈의 무효화

Fragnesia의 악용에는 IPsec (ESP)나 RXRPC와 같은 특정 프로토콜 스택 (Protocol Stack)이 필요합니다. 이러한 기능을 사용하지 않는 서버에서는 모듈을 블랙리스트 (Blacklist) 처리함으로써 공격 표면 (Attack Surface)을 차단할 수 있습니다.

# /etc/modprobe.d/disable-esp.conf 생성
echo "install esp4 /bin/true" > /etc/modprobe.d/disable-esp.conf
echo "install esp6 /bin/true" >> /etc/modprobe.d/disable-esp.conf
...

2. 비특권 사용자 (Unprivileged User)에 의한 User Namespace 제한

공격 셋업을 위해 네트워크 네임스페이스 (Network Namespace) 등의 생성이 필요한 경우가 많기 때문에, 다층 방어 (Defense in Depth)로서 유효합니다.

sysctl -w kernel.unprivileged_userns_clone=0

고찰 및 요약

Fragnesia가 주는 교훈은 **"한 번 수정되었다고 생각한 취약점 주변에는 유사한 변종이 잠복해 있다"**는 보편적인 사실입니다. 특히 성능과 보안이 트레이드오프 (Trade-off) 관계가 되기 쉬운 페이지 캐시 (Page Cache) 주변의 로직은 앞으로도 AI와 인간에 의한 치열한 조사 대상이 될 것입니다.

2026년 이후 우리 엔지니어들에게 요구되는 것은 단순히 패치 (Patch)를 적용하는 것뿐만 아니라, AI가 보고하는 "논리적 모순"을 올바르게 해석하고, 시스템 전체의 아키텍처 (Architecture)로서 "불필요한 기능 (공격 벡터, Attack Vector)을 최소화하는" 운영 설계의 중요성이 더욱 높아지고 있습니다.