Anthropic은 자사의 Claude Mythos Preview 연구 모델이 실제 소프트웨어 환경에서 제로데이 취약점 (zero-day vulnerabilities)을 자율적으로 식별하고, 많은 경우 이를 악용할 수 있다고 밝혔습니다. 연구 결과는 브라우저, 운영체제 (operating-system), 네트워크 서비스 (network-service), 암호화 라이브러리 (cryptography-library) 코드를 아우르며, 이는 프런티어 AI (frontier AI)가 방어적 취약점 연구를 어떻게 변화시킬 수 있는지를 보여주는 중요한 사례가 됩니다. 또한, 이는 거버넌스 (governance) 과제를 심화시킵니다. 방어자가 결함을 더 빨리 찾도록 도울 수 있는 동일한 능력이 공격적인 사이버 활동 (offensive cyber activity)으로 전용될 수 있기 때문입니다.

Anthropic의 공식 Mythos Preview 연구 포스트에서 회사는 Mythos Preview와 Claude Code를 결합한 테스트 설정을 설명합니다. 이 스캐폴드 (scaffold)는 코드를 분석하고, 취약점 재현을 시도하며, 개념 증명 (proof-of-concept) 익스플로잇 (exploits)을 생성합니다. Anthropic은 이 작업을 사이버 보안 연구로 규정하며, 조정된 공개 (coordinated disclosure)와 심층 방어 (defense-in-depth)를 대응의 핵심으로 삼고 있습니다.

Anthropic이 테스트한 것과 발견한 것

보고된 시연은 Firefox, Linux 커널 (Linux kernel), OpenBSD, 그리고 FreeBSD의 네트워크 파일 시스템 (Network File System) 서비스를 포함하여 널리 사용되는 오픈 소스 및 배포된 소프트웨어를 다룹니다. 취약점 발견을 순수하게 이론적인 벤치마크 (benchmark)로 취급하는 대신, 이 연구는 모델 기반 시스템이 코드베이스 (codebase) 이해, 결함 발견, 재현, 그리고 익스플로잇 개념 증명 생성과 같은 보안 작업의 실질적인 단계들을 수행할 수 있는지 평가합니다.

Anthropic은 Mythos Preview가 테스트된 시나리오 전반에 걸쳐 약 181회의 작동하는 익스플로잇 (exploit)을 생성했으며, 29개 사례에서 레지스터 제어 (register control)를 달성했다고 보고했습니다. 이러한 종합적인 결과는 브라우저 JIT 힙 스프레이 (heap sprays), 커널 로직 버그 (kernel logic bugs), 네트워크 서비스에서의 원격 코드 실행 (remote code execution)을 포함한 여러 보안 도메인과 작업 유형을 포괄합니다. 이 결과는 모든 소프트웨어 또는 취약점 클래스에 대한 모델 성능의 보편적인 척도로 해석되어서는 안 되지만, Anthropic이 테스트한 엔드 투 엔드 (end-to-end) 익스플로잇 작업의 종류를 보여줍니다.

암호학 결과가 주목받아야 하는 이유

연구의 암호학 라이브러리 (cryptography-library) 부분은 특히 중요합니다. 암호학 코드의 결함은 기밀성 (confidentiality), 무결성 (integrity), 인증 (authentication) 또는 안전한 키 처리 (secure key handling)에 의존하는 시스템을 약화시킬 수 있기 때문입니다. Anthropic의 부록에는 여러 암호학 라이브러리 보고서가 나열되어 있으며, 책임 있는 공개 (responsible disclosure)를 지원하는 동시에 테스트 시점에 취약점이 존재했음을 입증하기 위해 암호학적 커밋먼트 (cryptographic commitments)가 사용되었다고 밝히고 있습니다.

이러한 접근 방식은 기술적 세부 사항이 공개될 경우 수정 패치가 나오기 전에 그 자체로 위험을 초래할 수 있기 때문에 중요합니다. Anthropic은 공개된 버그의 99% 이상이 패치 상태나 공개 시기 문제로 인해 공개적으로 보고되지 않았다고 말합니다. 따라서 이 연구는 발견 사항을 익스플로잇을 위한 지침서가 아니라, 방어적 필요성의 증거로서 제시합니다.

더 광범위한 함의는 AI가 암호학적 연구를 해결했거나 보안 전문가를 대체할 수 있다는 것이 아닙니다. 암호학적 검토 (Cryptographic review)에는 신중한 가정, 구현 맥락, 그리고 검증이 필요합니다. 대신, Anthropic의 연구는 유능한 모델들이 코드 검사 (code inspection), 버그 재현 (bug reproduction), 테스트 케이스 개발 (test-case development), 그리고 보안 발견 사항의 우선순위 지정 (prioritization of security findings)과 같이 노동 집약적인 활동에서 전문가를 점점 더 많이 보조할 수 있음을 시사합니다.

이중 용도 능력은 운영상의 안전장치를 요구합니다

Mythos Preview가 보고한 능력은 소프트웨어 유지 관리자, 보안 팀, 그리고 고급 AI 시스템을 구축하거나 배포하는 조직들에게 실질적인 질문을 던집니다. 만약 모델이 취약점 발견 (vulnerability discovery)과 익스플로잇 개발 (exploit development)을 더 빠르게 만들 수 있다면, 방어자들은 발견, 분류 (triage), 패치, 그리고 배포 사이의 시간을 단축하는 프로세스를 갖춰야 합니다.

관련된 우선순위는 다음과 같습니다:

• 기술적 세부 사항이 공개되기 전에 연구자와 유지 관리자가 수정 사항을 조율할 수 있도록 하는 책임 있는 공개 워크플로우 (Responsible disclosure workflows).
• 단일 소프트웨어 결함의 결과를 줄이는 계층화된 통제를 포함한 심층 방어 (Defense in depth).
• AI가 생성한 발견 사항을 검증하고 재현 가능한 이슈와 오탐 (false positives)을 구분할 수 있는 보안 테스트 역량 (Security testing capacity).
• 고성능 모델을 위한 거버넌스 (Governance for high-capability models), 특히 액세스, 모니터링, 평가 및 사고 대응 (incident response)과 관련된 거버넌스.

Anthropic은 테스트에서 자율적인 행동과 스캐폴딩(scaffolded)된 인간 참여형 (human-in-the-loop) 요소를 모두 설명합니다. 그 구분은 운영 측면에서 중요합니다. 결과는 보조 도구 없이 모델 단독으로 모든 환경에서 보안 연구의 모든 단계를 신뢰성 있게 수행할 것이라는 점을 입증하기보다는, 모델과 지원 도구를 중심으로 구축된 시스템을 보여줍니다. 그럼에도 불구하고 나아가야 할 방향은 명확합니다. AI 능력 평가는 고립된 코딩 작업뿐만 아니라 실제 사이버 워크플로우 (cyber workflows)를 반드시 고려해야 합니다.

AI를 보안 개발 워크플로우 (secure development workflows)에 적용하는 방법을 평가하는 조직은 인간의 검토와 보안 통제 (security controls)가 루프 내에 유지되는 AI 아키텍처, 자동화 및 구현 (AI architecture, automation, and implementation)에 대해 Scalevise와 협력할 수 있습니다.

자주 묻는 질문 (Frequently Asked Questions)

Claude Mythos Preview란 무엇인가요?

Claude Mythos Preview는 Anthropic이 자율적 취약점 발견 (autonomous vulnerability discovery) 및 익스플로잇 생성 (exploit generation)에 관한 사이버 보안 연구에서 설명한 프런티어 AI 모델 (frontier AI model)입니다.

Anthropic은 Mythos Preview가 무엇을 할 수 있다고 보고했나요?

Anthropic은 자사의 모델 및 도구 스캐폴드 (model-and-tool scaffold)가 암호화 관련 코드 경로 (cryptography-related code paths)를 포함하여 실제 소프트웨어 환경에서 제로데이 취약점 (zero-day vulnerabilities)을 식별하고, 테스트된 많은 사례에서 이를 익스플로잇 (exploit)할 수 있다고 보고했습니다.

연구에 암호화 라이브러리 (cryptography libraries)가 포함되었나요?

네. Anthropic의 부록에는 암호화 라이브러리 취약점 보고서가 나열되어 있으며, 테스트 당시 취약점이 존재했음을 검증하기 위해 암호학적 약속 (cryptographic commitments)이 사용되었다고 명시되어 있습니다.

Anthropic은 취약점 공개를 어떻게 처리했나요?

Anthropic은 책임 있는 공개 (responsible disclosure)를 강조하며, 공개된 버그의 99% 이상이 패치 상태나 공개 시점 문제로 인해 공개적으로 보고되지 않았다고 밝혔습니다.

이 결과가 사이버 보안에 왜 중요한가요?

이 연구는 프런티어 AI가 방어적 취약점 연구 (defensive vulnerability research)를 지원할 수 있음을 나타내는 동시에, 더 강력한 거버넌스 (governance)와 계층적 보안 방어 (layered security defenses)를 요구하는 이중 용도 능력 (dual-use capabilities)을 보여줍니다.

결론

Anthropic의 Mythos Preview 연구는 AI 시스템이 암호화 관련 코드 경로를 포함하여 실질적인 사이버 보안 작업으로 더 깊이 들어가는 구체적인 사례를 제공합니다. 보고된 결과는 방어적 테스트를 개선하기 위해 AI를 사용하는 근거를 강화하는 한편, 모델 능력이 발전함에 따라 조율된 공개 (coordinated disclosure), 인간의 감독 (human oversight), 그리고 심층 방어 (defense in depth)의 시급성을 더욱 높이고 있습니다.