Anthropic, Google, Microsoft가 오픈 소스를 위한 공동 보안 팀을 구축한 이유: 바로 AI 때문입니다

이제 AI는 주요 오픈 소스 프로젝트를 스캔하여 단 한 번의 실행만으로 실제 악용 가능한 취약점 묶음을 찾아낼 수 있습니다. 이는 방어 측면에서는 승리이지만, 공격자들도 동일한 도구를 가지고 있다는 사실을 기억한다면 이야기가 달라집니다.

Anthropic, Google, Microsoft, OpenAI, AWS 및 15개 기타 조직은 이러한 경쟁이 악화되기를 기다리고 있지 않습니다. 지난 목요일, 이들은 Linux Foundation 산하에 Akrites를 출범시켰습니다. 이는 핵심 오픈 소스 소프트웨어의 AI 시대 취약점 발견, 해결(remediation) 및 공개(disclosure)를 위해 특별히 구축된 조정 기구입니다.

실제로 무엇이 바뀌었나

• 공동 보안 사고 대응 팀 (SIRT, Security Incident Response Team): 여러 조직이 독립적으로 동일한 라이브러리를 스캔하고, 중복된 CVE를 등록하며, 유지 관리자(maintainer)를 소음으로 괴롭히던 파편화된 모델을 대체합니다.
• 선 패치, 후 공개 (Patch first, publish second): 수정 사항이 준비되고 테스트될 때까지 발견된 내용은 엄격한 기밀 유지 하에 관리됩니다.
• 예비 유지 관리자 지원 (Fallback maintainer coverage): 프로젝트에 활발한 유지 관리자가 없는 경우, Akrites가 개입하여 수정 사항이 다운스트림(downstream) 사용자에게 전달될 수 있도록 합니다.
• Alpha-Omega의 지원: 동일한 창립 멤버들이 지원하는 연간 예산 700만 달러 이상의 OpenSSF 프로젝트인 Alpha-Omega로부터 자금을 지원받습니다.
• 세 가지 멤버십 등급: Premier (핵심 인프라 운영자), General (기여 조직), Associate (OSS 재단, 무료)

이 이름은 제국의 가장 바깥쪽 국경을 지켰던 비잔틴 병사인 Akritai에서 유래되었습니다. 가장 노출이 많이 되고, 가장 빈번하게 공격받으며, 방어하러 나타나는 누구에게나 가장 의존적인 장소들을 의미합니다.

실제로 해결하려는 문제

현재의 조정된 공개(coordinated disclosure) 모델은 취약점을 찾는 데 전문가의 작업이 몇 주씩 걸리던 세상을 기준으로 설계되었습니다. AI는 그 타임라인을 붕괴시켰습니다.

Endor Labs의 CEO Varun Badhwar는 이를 수치로 나타냈습니다. 최근 몇 달 동안 AI에 의해 확인된 수천 개의 오픈 소스 취약점이 드러났지만, 패치된 것은 5% 미만입니다. 그리고 기존 모델은 상황을 악화시킵니다. 패치되지 않은 결함에 대한 지식을 각 조직이 독립적으로 보유하고 있는 것은 수정 사항이 존재하기 전까지 또 다른 유출 위험이 됩니다.

"수년 동안 우리는 취약점을 찾는 것이 결코 어려운 부분이 아니라고 믿어왔습니다. 어려운 것은 그것을 수정하는 것이었습니다. AI는 그 격차를 무시할 수 없게 만들었습니다." — Varun Badhwar, Endor Labs

Anthropic의 부 CISO(Deputy CISO)인 Jason Clinton은 구조적인 문제를 다음과 같이 설명했습니다. 조율된 공개(coordinated disclosure)가 AI가 문제를 찾아내는 속도를 따라잡지 못하고 있다는 것입니다. 공개된 '후'가 아니라, 공개되기 '전'에 상류(upstream)에서 패치를 확보하는 것이 이 모든 전략의 핵심입니다.

배경: 왜 지금인가

Anthropic 자체의 사이버 보안 모델들이 이 이야기의 배경 중 일부입니다. 6월 초, Anthropic은 보안 방어(security defense)를 위해 특별히 구축된 최초의 범용 모델인 Fable 5와 Mythos 5를 출시했습니다. 그러나 사흘 뒤, 연구자들이 이 모델들이 사이버 공격을 도울 수 있음을 입증하자 미국 정부는 이 모델들의 사용을 중단시켰습니다.

그것이 바로 Akrites가 설계된 정확한 위협 모델(threat model)입니다. 방어자와 공격자는 동일한 AI 접근 권한을 가집니다. 해결책은 고립된 상태에서 더 나은 모델을 만드는 것이 아니라, 더 빠르고 조율된 패치(patching)를 제공하는 것입니다.

해야 할 일

• 운영 환경에서 오픈 소스 패키지를 사용 중인가요? 이는 여러분에게 중요한 문제입니다. Akrites가 확장됨에 따라 여러분이 의존하는 패키지들은 더 빠른 패치 주기(patching cycles)를 경험하게 될 것입니다.
• OSS(Open Source Software)를 기반으로 구축하는 기업의 보안 부서에서 근무 중인가요? 현재 멤버십이 열려 있습니다. General 티어는 대규모 엔지니어링 리소스를 투입하지 않고 기여하고자 하는 조직을 위한 것입니다.
• 중요한 오픈 소스 프로젝트를 유지 관리하고 있나요? Akrites는 AI가 발견한 취약점(vulnerability) 보고를 위한 단일 신뢰 인바운드 채널로서 자리매김하고 있습니다. 수십 개의 중복된 보고 대신 하나의 신호(signal)를 제공합니다.

출처: The New Stack · Linux Foundation announcement · Akrites

✏️ KewBot (AI)로 초안 작성, Drew가 편집 및 승인.