• Anthropic은 Claude Mythos Preview가 HAWK-256 양자 내성 서명 스킴 (post-quantum signature scheme)에 대한 실제 키 복구 공격 (key-recovery attack)을 도출하는 데 기여했다고 밝혔습니다. 이로 인해 예상 공격 비용이 약 $2^{64}$ 연산에서 $2^{38}$ 연산으로 줄어들었습니다.

• Mythos는 이와 별개로 7라운드 AES-128에 대한 기존 공격 속도를 200배에서 800배까지 가속화하는 'Mobius Bridge'라고 명명한 기술을 발견했습니다.

• HAWK는 Mythos가 약점을 발견하기 전까지 이미 2년 동안 전문가들의 암호 분석 (cryptanalytic) 검토를 견뎌냈습니다.

• Anthropic은 두 결과 모두 실제 운영 시스템 (production systems)에는 영향을 미치지 않으며, 각 결과에 약 6자릿수(십만 단위)의 API 사용 비용이 발생했고, 직원들이 이를 발표하기 전 AES 관련 작업을 독립적으로 검증하는 데 수백 시간을 소비했다고 밝혔습니다.

Mythos가 실제로 발견한 것 (쉬운 설명)

이번 주 Anthropic의 연구를 통해 두 가지 결과가 나왔으며, 이들은 성격이 충분히 다르기 때문에 각각을 살펴보기 전에 분리하여 설명할 가치가 있습니다. 첫 번째는 미래의 양자 컴퓨터 (quantum computer) 공격에 저항하도록 설계된 서명 스킴인 HAWK와 관련이 있습니다. 표준화 기구들이 양자 내성 암호 (post-quantum cryptography)를 신중하게 검토하는 이유는, 지금 잘못 설계하면 아무도 알아차리기 전까지 수년 동안 시스템 내에 취약점이 조용히 잠복하게 되기 때문입니다. Anthropic이 보안 및 암호 분석 (cryptanalysis) 작업을 위해 특별히 사용해 온 내부 연구용 변형 모델인 Claude Mythos Preview는, 2년간의 전담 전문가 검토에서도 나타나지 않았던 HAWK의 기본 격자 구조 (lattice structure) 내 수학적 대칭성을 식별했습니다. 그 대칭성 덕분에 연구자들은 개선된 키 복구 공격 (key-recovery attack)을 구축할 수 있었으며, 이는 단순히 이론적으로 스킴을 약화시키는 것이 아니라 실제 서명용 개인키 (private signing key)를 재구성할 수 있는 공격입니다. 실질적인 효과는 가장 작은 HAWK-256 파라미터 세트의 유효 강도가 예상치인 $2^{64}$ 연산에서 $2^{38}$ 연산으로 감소하는 것이며, 이는 원래의 강도 추정치를 믿고 있던 이들에게 매우 중요한 수준의 감소입니다.

여기서 "양자 내성 (post-quantum)"이 실제로 무엇을 의미하는지 구체적으로 짚고 넘어가는 것이 도움이 될 것입니다. 왜냐하면 이 용어가 느슨하게 사용되는 경우가 많기 때문입니다. 오늘날 전송 중인 데이터를 보호하는 대부분의 암호화는 큰 숫자의 인수분해와 같은 수학적 문제에 의존하며, 이는 충분히 강력한 양자 컴퓨터가 결국 암호를 깨뜨릴 수 있을 만큼 빠르게 해결할 것으로 예상되는 문제입니다. HAWK와 같은 양자 내성 (post-quantum) 스킴은 양자 컴퓨터에게도 여전히 어렵게 유지될 것으로 믿어지는 다른 수학적 토대 위에 구축되었습니다. 또한 표준화 기구들은 이러한 스킴들이 대규모 실제 인프라에 구축되기 전에 약점을 포착하기 위해, 바로 이번 결과와 같은 방식의 적대적 검토 (adversarial review)를 수행하며 수년을 보냈습니다. 평가 과정 중에 실제 결함을 포착하여 배포 후에 발견되는 상황을 방지하는, 즉 검토 프로세스가 의도한 대로 작동했다는 점이 이번 결과가 속한 실제 맥락입니다.

두 번째 결과는 범위는 더 좁지만 방법론 면에서 진정으로 영리합니다. 전 세계 실제 데이터 보호의 엄청난 비중을 차지하는 암호화 표준인 AES는 10라운드 전체 설계 상태에서 보안을 유지하며, 이번 결과는 이를 바꾸지 않습니다. Mythos가 연구한 것은 AES-128의 축소된 7라운드 버전으로, 이는 연구자들이 실제 시스템을 위협하지 않으면서 공격 기술을 조사하기 위해 의도적으로 약화시킨 변형 모델입니다. 기존의 중간 만남 공격 (meet-in-the-middle attack) 방법을 바탕으로, Mythos는 Anthropic이 Mobius Bridge라고 부르는 새로운 핑거프린팅 (fingerprinting) 기술을 발명했습니다. 이 기술은 이전에는 256개의 별도 값을 확인해야 했던 공격 과정 중 추측 단계를 제거합니다. 이 단계를 제거함으로써 결과적으로 발생한 공격은 동일한 축소 라운드 대상을 상대로 이전에 알려진 최선의 기술보다 200배에서 800배 더 빨라졌습니다.

HAWK 결과가 깊이 있게 다뤄질 가치가 있는 이유

AES 결과는 바로 그러한 종류의 탐색을 위해 구축된 대상을 상대로 한 깔끔한 방법론적 진보이며, 공격 기술을 연구하는 사람들에게는 흥미롭지만 실제 운영 중인 암호화(encryption)를 실행하는 누구에게도 경각심을 주지는 않습니다. HAWK 결과는 다른 무게감을 가집니다. 왜냐하면 HAWK는 의도적으로 약화된 테스트 대상이 아니라, 이 특정 취약점이 드러나지 않은 채 2년 동안 두 차례의 완전한 전문가 암호 분석(cryptanalytic) 검토를 이미 거친 실제 양자 내성 서명(post-quantum signature) 스킴 후보이기 때문입니다. 이것이 여기서 무엇보다 먼저 주목해야 할 세부 사항입니다. 암호학적 검토(Cryptographic review)는 가벼운 과정이 아닙니다. 이는 전문가들이 스킴이 대규모로 신뢰받기 전에 이와 같은 결함이 발견될 수 있도록, 장기간에 걸쳐 생각할 수 있는 모든 각도에서 스킴을 의도적으로 깨뜨리려고 시도하는 과정을 포함합니다. 그러한 과정을 견뎌낸 취약점이 동일한 종류의 구조적 분석을 수행하는 AI 시스템에 의해 발견되었다는 것은, 이미 알려진 취약한 대상을 상대로 한 더 빠른 무차별 대입(brute-force) 기술과는 진정으로 차원이 다른 결과입니다.

오늘날 양자 내성 암호(post-quantum cryptography)를 사용하는 사람들에게 이것이 무엇을 의미하고 무엇을 의미하지 않는지 정확히 짚고 넘어갈 가치가 있습니다. Anthropic의 자체 성명은 이 점에 대해 명확하며, 두 결과 모두 현재 사용 중인 어떤 운영 시스템에도 영향을 미치지 않습니다. HAWK는 여전히 활발한 표준화 단계에 있으며, 현재 귀하의 데이터를 보호하기 위해 즉시 배포된 것이 아닙니다. 또한 영향을 받은 특정 매개변수 세트(parameter set)는 가장 작은 규모이며, 양자 내성 보호를 진지하게 고려하는 사람이 실제로 대규모로 배포할 강도 수준이 아닙니다. 이것은 평가 중인 스킴에 대한 연구 결과이며, 평가 과정 중에 드러난 것이며, 바로 이때와 같은 발견이 일어나기를 바라는 시점입니다. 반대로, 이와 동일한 취약점이 광범위한 배포 이후까지 발견되지 않고 남아 있는 것이야말로 이러한 검토 프로세스가 존재하는 실제 나쁜 결과이며, 이번 결과는 프로세스가 그런 일이 발생하기 전에 실제 무언가를 잡아냈다는 증거입니다.

AI가 이를 찾아내는 데 드는 비용, 그리고 검증이 발견보다 오래 걸린 이유

Anthropic이 공개한 비용 및 검증에 관한 수치는 암호학 자체만큼이나 주목할 만합니다. 왜냐하면 이 수치들은 역량에 대한 막연한 주장을 넘어, AI 보조 연구 (AI-assisted research)가 현재 실제로 어느 단계에 와 있는지에 대해 구체적인 사실을 말해주기 때문입니다. Anthropic의 설명에 따르면, 두 가지 결과 각각을 도출하는 데 API 사용료로 약 6자릿수(십만 달러 단위)의 비용이 소요되었습니다. 이는 정답이 알려진 벤치마크 (benchmark)가 아니라, 진정으로 개방적인 연구 질문에 투입된 실제 연산 (compute) 비용입니다. 단 하나의 연구 결과에 대해 이는 결코 사소한 금액이 아니며, 동시에 동일한 문제를 2년 동안 다루는 전문 인간 암호 분석가 (cryptanalysts) 팀의 비용과 비교했을 때 상대적으로 적은 금액이기도 합니다. 이것이 이번 사례가 단순한 흥미 위주의 사건이 아니라 역량의 신호 (capability signal)로 해석되는 이유 중 하나입니다.

또한 그 지출이 실제로 무엇을 얻어냈는지 주목할 가치가 있습니다. 이는 우연히 작동하는 공격을 반환한 단 한 번의 깔끔한 쿼리 (query)가 아니었습니다. 모든 기록에 따르면, 이는 후보 구조적 관찰 (candidate structural observations)을 생성하고, 이를 테스트하고, 아무런 성과가 없는 것은 버리고, 성과가 있는 것은 추적하는 확장된 반복적 연구 프로세스 (iterative research process)를 포함했습니다. 이는 대부분의 사람들이 단일 AI 프롬프트 (prompt)가 답을 만들어내는 방식에 대해 상상하는 모습보다는, 인간 연구 팀이 실제로 개방형 문제를 해결해 나가는 방식에 더 가깝습니다. 또한 이러한 종류의 AI 보조 연구 지출이 실제로 무엇을 위해 지불되는지에 대한 더 유용한 사고 모델 (mental model)을 제공합니다.

검증(verification)의 세부 사항은 비용만큼이나 중요합니다. Anthropic은 이 결과를 발표하기 전, AES 결과가 진정으로 정확한지 독립적으로 확인하는 데 직원들이 수백 시간을 소비했다고 밝혔습니다. 이는 발견(discovery) 단계 자체에 소요되었을 시간보다 유의미하게 더 긴 인간의 노력이었습니다. 기계가 후보 결과를 빠르게 찾아내고, 인간이 그것이 유효한지 확인하는 데 훨씬 더 많은 시간을 소비하는 이러한 순서는, 암호학보다 더 까다로운 분야 전반에서 AI 보조 연구(AI-assisted research)가 처한 현 위치를 가장 정직하게 설명하는 방식일 것입니다. 흥미로운 점은 AI 시스템이 전문가의 판단(expert judgment)을 대체했다는 것이 아니라(대체하지 않았습니다), 전문가의 판단이 무엇을 살펴볼지 처음부터 막연히 탐색하는 대신, 그 결과를 검증하는 데 직접적으로 투입될 수 있을 만큼 구체적이고 구조화된 후보 발견(candidate finding)을 생성해냈다는 점입니다. 저는 이전에 Anthropic의 Project Glasswing이 사이버 보안을 위해 Claude Mythos에 거는 베팅이 연구 방향으로 처음 발표되었을 때 이에 대해 썼는데, 이번 결과는 그 베팅이 전문가가 즉시 무시해버리는 것이 아니라 실제로 몇 시간 동안 확인해야만 하는 무언가를 만들어냈다는 첫 번째 구체적인 증거처럼 읽힙니다.

이 두 가지 특정 암호 체계 그 이상의 신호

잠시 구체적인 숫자들은 제쳐두더라도, 더 큰 신호는 암호 분석 (cryptanalysis)에서의 구조적 패턴 찾기 (structural pattern-finding)가 어디로 향하고 있는지에 관한 것입니다. 두 결과 모두 동일한 근본적 기술, 즉 설계자가 고려하지 못한 수학적 구조나 대칭성을 포착한 뒤, 그 구조적 관찰을 단순한 이론적 메모가 아닌 실제 작동하는 공격 기법 (attack technique)으로 전환하는 기술에서 비롯되었습니다. 이는 암호 분석가들이 수작업으로 수행하는 핵심 업무에 매우 근접해 있으며, 방대한 양의 구조적 세부 사항을 한눈에 파악하고 변형을 빠르게 테스트할 수 있는 AI 시스템으로부터 이득을 얻을 수 있는 바로 그 '패턴 매칭 및 구축 (pattern-matching-plus-construction)' 작업의 전형입니다. 그렇다고 해서 암호 분석이 해결된 문제라는 뜻은 아닙니다. 이 두 결과 중 단 하나에 대해서만 수백 시간의 인간 검증 단계가 필요했다는 사실은 전문가의 판단이 여전히 필수적인 역할을 수행하고 있다는 충분한 증거입니다. 하지만 이는 암호 분석가들이 AI의 도움을 받아 이제 훨씬 더 넓어진 탐색 공간 (search space)을 다룰 수 있음을 시사합니다. 저는 이를 Claude Security의 공개 베타 취약점 스캐닝 진출을 바라보는 것과 같은 방식으로 보고 있습니다. 이는 유사한 구조적 패턴 찾기의 다른 응용 사례일 뿐, 동일한 근본적 추세, 즉 AI 시스템이 어디를 살펴봐야 할지 찾아내는 1차 작업을 점점 더 많이 수행하고, 인간은 발견된 것이 실제로 존재하는지 확인하는 더 어렵고 느린 작업을 수행하는 추세입니다.

결론 (Bottom Line)

Claude Mythos Preview는 전문가들의 2년간의 검토 과정에서도 놓쳤던 HAWK-256의 실제적이고 이전에 발견되지 않았던 취약점을 드러냈으며, 이와 별개로 Anthropic이 Mobius Bridge라고 부르는 새로운 방법을 사용하여 라운드 수가 줄어든 AES-128에 대한 더 빠른 공격 기술을 구축했습니다. 두 결과 모두 현재 귀하가 사용하는 시스템에는 영향을 미치지 않습니다. HAWK는 여전히 평가 중이며, AES 대상은 연구 목적으로 의도적으로 약화된 상태였습니다. 하지만 특히 HAWK의 발견은 AI 보조 암호 분석 (AI-assisted cryptanalysis)이 전문적인 인간 검토가 이미 찾아보았으나 놓쳤던 구조적 결함을 이제는 포착할 수 있다는 구체적인 데이터 포인트입니다. Anthropic이 공개한 비용 및 검증 수치, 즉 결과당 약 6자릿수(six figures)의 컴퓨팅 비용과 그 외 추가로 수백 시간의 인간 확인 작업은 이 기술이 현재 실제로 어느 위치에 있는지 현실적으로 파악하고자 할 때 가장 유용한 부분입니다. 즉, 조사할 가치가 있는 후보를 찾는 데 진정으로 유용하지만, 그 후보들이 신뢰받기 전까지는 이를 확인하기 위해 여전히 전문가인 인간에게 전적으로 의존하고 있습니다.