Video: OpenAI가 리눅스를 해킹하는 데 120만 달러를 사용했는데... 그리고 그것은 값진 경험이었다.
Channel: Fireship
Duration: 6m 30s
Source: subtitle (auto, en)
Transcript:
지난 10월 말, Anthropic은 단일 커널 메모리 누수(kernel memory leak) 취약점부터 리눅스 서버의 원격 접근까지 불과 53분 만에 달성하는 무시무시한 미공개 claude 모델을 세상에 공개했습니다. OpenAI는 이를 보고 "내 맥주 좀 잡아봐."라고 말했죠. 왜냐하면 불과 며칠 전, 그들은 수천 개의 루트 경로를 줄이는 새로운 연구를 발표했는데, 이 연구에서는 에이전트(agents) 군집을 사용하여 최신 Linux 커널 마스터 브랜치를 파헤쳤고, 그 결과 948개의 고유한 root exploit가 발견되었습니다. 하지만 적어도 그들은 각각의 취약점에 대한 패치도 붙여주었습니다.
예전에는 제가 리눅스를 만든 사람인 Lionus Torvalds가 좋은 프로그래머라고 생각했지만, 이제는 확신이 서지 않습니다. OpenAI가 이 모든 취약점을 공개한 다음 날, 그들은 그 뒤에 있는 모델인 GPT6 Cyber를 공개했습니다. 이 모델은 이 영상을 보는 대부분의 기본 설정 인간들에게는 너무 강력합니다. 하지만 오늘 영상에서는 이렇게 미개방된 사이버 보안 모델들이 어떻게 방탄(bulletproof) 소프트웨어에서 수백 개의 알려지지 않은 취약점을 발견할 수 있는지, 그리고 이것이 소프트웨어 개발의 미래에 무엇을 의미하는지 살펴보겠습니다.
지금은 2026년 11월 9일이며, 여러분은 코드 리포트를 시청하고 있습니다. GPT6 Cyber의 전체적인 힘을 이해하려면, 먼저 LPE(local privilege escalation), 즉 로컬 권한 상승이 무엇인지 알아야 합니다. 리눅스 서버를 실행할 때, 일반적으로 사용자는 해당 기계에서 낮은 권한의 발판(low-privilege foothold)을 가지게 되는데, 이는 설계상 의도된 것이며, 여러분이 해야 할 일만 수행하도록 허용하고 서버 전체를 불태울 수 있는 root 디렉토리에서의 RM RF 같은 행동은 막기 위함입니다. 리눅스 권한과 Windows, 그리고 다른 모든 OS의 문제는 근본적으로 이들이 1과 0으로 이루어져 있다는 것입니다.
그리고 올바른 0을 1로 바꿀 수 있다면, 일반 사용자가 신(God) 사용자 수준으로 올라갑니다. 이 문제를 가지고 있지 않은 유일한 운영체제는 Temple OS인데, 그곳에서는 기본적으로 '신' 바로 옆인 ring zero에서 작동하기 때문입니다.
이제 이것을 알았으니, OpenAI가 Linux 커널에서 948개의 고유 취약점(unique route exploits)을 찾기 위해 사용하는 실제 파이프라인을 살펴보겠습니다. 그들의 에이전트 군단(agent swarm)의 첫 번째 병사는 스카우트(scout)이며, 임무는 특권 없는 사용자(unprivileged user)가 실제로 접근할 수 있는 코드로 커널을 분해하는 것입니다. 이 과정은 약 5,000개의 감사 대상(audit targets), 즉 전체 커널의 약 7%를 산출했습니다.
다음으로 두 번째 에이전트는 분석가(analyst)였는데, 이 에이전트가 해당 감사 대상을 스캔했고, 약 12시간의 작업 끝에 $316,000 상당의 토큰을 소모하며 2,38개의 후보 버그를 찾아냈습니다. 그리고 이것이 세 번째 단계인 트리아지 에이전트(triage agent)로 이어집니다. 이 에이전트의 임무는 이러한 버그 각각을 격리된 가상 머신(isolated VM)에서 재현하고 커널 메모리 검사기(kernel memory checker)를 통해 이것들이 실제인지 아닌지를 알아내는 것입니다.
이 에이전트가 추가로 30시간 동안 작동한 후, 버그 중 1,724개가 있었고 그 대부분은 실제임이 확인되었습니다. 그리고 마침내, 우리는 네이비실(Navy Seals) 또는 익스플로잇 에이전트(exploit agents)를 투입할 준비가 되었습니다.
이들의 임무는 이러한 취약점들을 아치(Arch) 같은 일반 데스크톱 배포판에 무기화(weaponize)하는 것입니다. 다만 커널 주소 공간 레이아웃 난수화(kernel address space layout randomization)와 감독자 모드 실행 보호(supervisor mode execution protection)가 활성화된 환경입니다. 이론적으로 이는 운영체제를 해킹하기 매우 어렵게 만들어야 합니다.
하지만 놀라운 점은 그들이 여전히 1,169개의 작동하는 root 취약점을 확보했다는 것입니다. 이는 로컬 권한을 가진 일반적인 Linux 사용자가 자신의 권한을 문자 그대로 '히틀러' 수준으로 상향 조정할 수 있게 할 수 있습니다. 히틀러는 나쁜 인물이지만, 밝은 면은 이것을 달성하는 데 OpenAI가 $1,213,000, 즉 취약점당 약 $1,280를 지출했다는 것입니다.
사실 잠깐만요. 이건 전혀 밝은 면이 아닙니다. Own to Own은 역사적으로 단 하나의 Linux LP에 대해 약 20,000달러를 지불해 왔습니다. 따라서 여기서 계산을 해보면, OpenAI의 이 작은 프로젝트는 바운티 시장에서 약 5천만 달러의 가치를 가진다는 의미입니다.
하지만 현재 사이버 보안(cyber security)에서 가장 무서운 것은 상황이 우리가 따라잡을 수 있는 속도보다 더 빠르게 변하고 있다는 격차(delta)입니다. 7월 말로 돌아가 보면, GPT 5.6 Soul을 사용한 초기 실행에서는 각각 약 3,100달러에 166개의 LPE를 발견했습니다. 당시에는 무시무시했지만, 지금은 패치와 커널 강화(kernel hardening) 작업이 많이 이루어진 지 3개월 만에 이 모델은 절반 가격으로 다섯 배나 많은 것을 찾아냈습니다.
그리고 외부 전문가들이 인식조차 못 하는 익스플로잇(exploitation) 기법을 사용하기 시작했습니다. 예를 들어, 모델이 커널 캐시(kernel cache)에 영구적인 탄성 객체(persistent elastic objects)를 분사한 경우입니다. 제가 이게 무슨 뜻인지는 모르겠지만, 끔찍하게 들립니다. 안전상의 이유로 그들은 어떠한 기술적 세부 사항도 공개하지 않았습니다. 그리고 OpenAI가 제공하는 유일한 실질적인 조언은 리눅스 시스템을 최신 상태로 유지하라는 것입니다. 왜냐하면 OpenAI는 인용하여 '최신 사용 가능한 패치에 업데이트되지 않은 운영체제의 낮은 권한 계정(low-privileged account)은 루트 접근(root access)과 기능적으로 동등하다고 간주되어야 합니다'라고 말했기 때문입니다.
하지만 이 모든 두려움의 배후에 있는 모델은 GPT6 Cyber이며, 이는 GPT6 Astra의 보안 조정 변형(security tuned variant)이고 사이버 보안에서 중요 등급을 받았기 때문에 접근할 수 없습니다.' 그 트러스트 미 브로(Trust Me Bro) 벤치마크를 살펴보면, Exploit Gem에서는 48.5%를 기록한 반면 GPT5.6 Cyber는 32.1%에 불과합니다.
하지만 OpenAI가 정말 자랑스러워하는 것은 표적 바로 옆에 쉽게 익스플로잇할 수 있는 서비스를 배치한 허니팟 테스트(honeypot test)입니다. 여기서 아이디어는 모델이 아무도 요청하지 않았음에도 불구하고, 그 미끼를 물고 재미 삼아 쉬운 목표물을 익스플로잇하기 시작하는지 알아내는 것입니다.
GPT6가 함정(honeypot)에 빠지는 빈도가 훨씬 줄었다는 것은 좋은 일입니다. 하지만 더 큰 질문이 있습니다. 이처럼 초능력적인 사이버 모델들이 소프트웨어 전반에 걸쳐 좋은 것일까요, 아니면 나쁜 것일까요? 음, 그것은 타이밍에 달려 있습니다. 그리고 지금 우리는 소프트웨어 역사상 가장 중요한 군비 경쟁 한가운데에 있습니다. 이와 같은 모델들은 선한 사람들에게는 세계적인 수준의 보안팀을 제공하지만, 동시에 악당들에게도 24시간 내내 새로운 버그를 발견하고 악용할 수 있는 능력을 줍니다. 문제는 선한 사람들이 모든 버그를 수정해야 하지만, 해커들은 서방 세계 전체를 무너뜨릴 단 하나의 좋은 버그만 있으면 된다는 것입니다.
말하기 싫지만, 저는 World Economic Forum의 Klaus Schwab가 옳다고 생각합니다. 전력 공급, 교통, 병원 서비스, 우리 사회 전체를 완전히 멈추게 할 포괄적인 사이버 공격이라는 무서운 시나리오입니다. >> 대규모 글로벌 사이버 공격은 발생하지 않을 확률보다 통계적으로 발생할 가능성이 더 높습니다. 하지만 소프트웨어 개발자로서 안전을 지키기 위해 할 수 있는 한 가지가 있으며, 그것은 오늘 영상의 스폰서인 Reptile을 사용하여 코드를 배포하기 전에 검토하는 것입니다.
이 도구는 10x 엔지니어부터 전설적인 분위기 코더까지 모두에게 사랑받고 있는데, 단지 읽는 것이 아니라 실제로 코드를 실행하는 유일한 AI 코드 리뷰 도구이기 때문입니다. T-Rex 모드는 사용자의 브랜치를 샌드박스(sandbox)에서 구동하고, 이를 실행하며, UI를 클릭하고, 풀 리퀘스트(pull request)에 로그와 스크린샷을 남깁니다. 또한 여기에 추가하는 모든 레포지토리(repo)마다 자체 업데이트되는 지식 기반(knowledge base)을 구축하여 아키텍처, 데이터 흐름 및 잠재적 위험 요소를 매핑합니다. 이는 더 복잡한 버그를 포착하는 데 도움을 주며, 또한 MCP를 통해 코딩 에이전트들을 연결할 수 있어 특정 프로젝트에 대해 더 나은 코드를 작성하기 위한 더 많은 컨텍스트(context)를 얻게 할 수 있습니다. 이는 두 마리 토끼를 한 번에 잡는 훌륭한 방법입니다.
GPile은 PyTorch, OpenClaw, Omari와 같은 오픈 소스 저장소(open-source repos)에서 실제 버그를 발견했습니다. 그리고 아래 링크를 사용하여 매달 50회의 무료 리뷰를 받을 수 있습니다. 지금까지는 코드 리포트(code report)였습니다. 시청해 주셔서 감사합니다. 다음 영상에서 뵙겠습니다.
