Anthropic의 Claude Mythos Preview는 양자 내성 서명 방식(post-quantum signature scheme)인 HAWK와 AES의 약화된 버전에서 수학적 결함을 60시간 동안 연속 작동하여 발견했습니다. Anthropic이 2026년 7월 28일 공개한 연구 블로그에 따르면, 이 실험에는 API 비용으로 대략 $100,000가 들었으며, 이는 인간 전문가들이 2년 이상 검토했음에도 불구하고 찾지 못했던 결과입니다.

주요 사실 요약

• Claude Mythos 연속 작동 시간: 60시간
• 추정 API 비용: 약 $100,000
• CryptanalysisBench 벤치마크 항목 수: 191개
• 벤치마크 테스트 모델 수: 5개의 최첨단(frontier) 모델
• 새로운 SpoC AEAD 및 KINDI 공격 발견

Anthropic 연구원들은 Claude Mythos Preview를 사용하여, 인간 암호 분석가들이 2년 이상 검토했던 양자 내성 서명 방식인 HAWK와 AES의 약화된 변종에서 암호학적 취약점을 찾아냈습니다. 이 모델은 추정 API 비용 $100,000로 60시간 동안 자율적으로 작동했습니다 Anthropic 연구 블로그 참조. Anthropic은 두 발견 모두 현재의 프로덕션 시스템에 실질적인 영향을 미치지는 않는다고 밝혔습니다.

실험에서 가장 흥미로운 부분은 프롬프팅 전략이었습니다. 연구원들은 철자 오류까지 포함하여 실제 사용한 프롬프트들을 공유했는데, 이는 모델이 '불가능'한 문제에 도전하는 것을 기본적으로 꺼리는 경향을 반복적으로 극복하도록 유도했음을 보여줍니다. 사용된 프롬프트에는

GPT-5.5 matches Claude Mythos in cyber attack tests, UK AI Security ...

이 연구는 arXiv 프리프린트 CryptanalysisBench: Can LLMs do Cryptanalysis? (arXiv:2607.18538)에 기술된 CryptanalysisBench를 산출했습니다. 이 벤치마크(Benchmark)는 주로 4개의 NIST 표준화 경연 대회에서 가져온 6가지 암호학적 프리미티브 (Cryptographic primitives) 계열에 걸친 191개의 태스크를 포함합니다. 이는 세 가지 티어 (Tier)로 구성됩니다: 실질적인 파훼법이 알려진 스킴 (Schemes), 파훼법이 알려지지 않은 완전한 강도의 스킴 및 축소된 변형 모델, 그리고 최전선에 있는 상용 프리미티브 (Primitives)로 구성된 챌린지 세트입니다.

5개의 최전선 모델인 Claude Opus 4.8, Sonnet 5, Mythos 5, GPT 5.5, 그리고 오픈 웨이트 (Open-weights) 모델인 GLM 5.2는 티어 1 스킴의 65%-86%를 파훼했습니다. 티어 2의 경우, 모델들은 완전한 강도의 스킴에서 6-12개를 파훼했으며, 축소된 변형 모델에서는 24-61개를 파훼했습니다. 결정적으로, 모델들은 연구진이 알고 있는 범위 내에서는 이전에 알려지지 않았던 SpoC AEAD의 설계 결함을 악용하는 키 복구 공격 (Key-recovery attack)과 KINDI의 공개된 CCA-보안 증명 (CCA-security proof)에서의 오류를 포함하여 새로운 암호 분석 (Cryptanalysis) 결과를 만들어냈습니다.

과학적 방법론으로서의 프롬프트 엔지니어링 (Prompt Engineering)

이 실험에서 가장 흥미로운 발견은 암호학적 결과가 아니라, 종종 비과학적이라고 치부되는 프롬프트 엔지니어링 (Prompt engineering)이 연구 수준의 결과물을 얻는 데 필수적이라는 사실이 증명되었다는 점입니다. 모델은 '불가능한' 문제에 도전하기 위한 명시적인 허가가 필요했으며, 쉬운 문제(Low-hanging fruit)보다는 출판 가능한 수준의 결과를 추구하도록 반복적인 격려가 필요했습니다. 이는 인간 박사 과정 지도교수가 주니어 연구원을 훈련시키는 방식, 즉 어려운 문제는 해결할 수 없다는 믿음을 극복하게 하는 과정과 유사합니다.

이러한 패턴은 암호학 이상의 의미를 갖습니다. LLM이 점점 더 자율적인 연구 에이전트 (Research agents)로서 기능함에 따라, 모델 아키텍처 (Model architecture)보다 '감독자' 프롬프트의 품질이 더 중요해질 수 있습니다. Anthropic의 연구진은 단순히 암호 분석 도구를 만든 것이 아니라, 본질적으로 프롬프트 기반의 연구 관리 시스템을 구축한 것입니다.

주목해야 할 점

다른 연구소들이 GLM 5.2와 같은 오픈 웨이트 (open-weight) 모델을 사용하여 이러한 결과를 재현할 수 있는지, 그리고 NIST가 CryptanalysisBench를 양자 내성 암호 (post-quantum) 표준화 프로세스에 포함시킬지 지켜봐야 합니다. 핵심 지표는 다음과 같습니다: 오픈 모델이 유사한 컴퓨팅 예산 (compute budget) 내에서 Mythos의 새로운 공격 발견율을 따라잡을 수 있는가?

출처: simonwillison.net

원문 게시처: gentic.news