• 미공개 고급 모델
  Claude Mythos가 HAWK 키 복구 공격과 7라운드 AES 공격 개선안을 만들어, 기존 암호분석 기법을 이해·결합·확장하는 AI의 능력을 보여줌
  HAWK 공격은 배포된 체계를 즉시 깨지는 않지만 보안 비트 수를 대략 절반으로 낮춤. 키 크기를 두 배로 늘릴 수 있으나 효율성이 떨어져 표준화 가능성도 매우 낮아짐
  AES 결과는 전체 10·12·14라운드가 아닌 7라운드 변형을 대상으로 하며, 2013년 연구를 상수 배수 수준으로 개선한 비실용적 공격이어서 실제 AES 보안에는 직접적인 변화가 없음
• 모델이 그럴듯하지만 잘못된 결과도 쉽게 만들기 때문에
  검증 가능성이 병목이 됨. 실행 코드나 단순 반례는 확인하기 쉽지만 이론적 속도 개선은 전문가 검토가 필요하며, Lean 증명도 정리의 구성 방식까지 사람이 확인해야 함
• 구조적 난제의 수가 제한된
  공개키·양자내성 암호는 AI가 기존 도구를 폭넓게 적용하기 좋은 영역임. 고급 연구에서 갑자기 무능해지는 경계가 아직 남아 있지만 빠르게 바깥으로 이동하고 있음

Claude Mythos가 만든 두 암호분석 결과

• Anthropic은 미공개 고급 모델
  Claude Mythos가 만든 HAWK 키 복구 공격과 축소 라운드 AES 공격을 공개함

• 두 결과는 대상과 파급력이 크게 다름

• HAWK 결과는 표준화 가능성이 있던 서명 방식에 실질적인 영향을 줌

• AES 결과는 기존 연구를 소폭 개선한 이론적 진전에 가까움

• Anthropic은 별도의 연구 과정 소개도 공개함

HAWK의 보안 수준을 낮춘 키 복구 공격

• HAWK는 모듈 격자 동형 문제(module-LIP)에 기반한
  양자내성 서명 방식 후보로, 아직 배포되거나 표준으로 채택되지는 않았음

• 표준화 중인 Falcon과 관련돼 있지만 서로 다른 난제에 기반하므로 이번 공격은 Falcon에 적용되지 않음

• HAWK는 향후 표준 후보로 상당한 평가가 진행된 상태였음

• 실제 배포 매개변수의 HAWK를 즉시 깨는 공격은 아니며 여전히
  지수 시간이 필요하지만, 보안 비트 수를 대략 절반으로 낮춤

• 이론적으로는 키 크기를 두 배로 늘려 보완할 수 있음

• 키가 커지면 효율성이 떨어지고, 대안보다 효율적이라는 HAWK의 존재 이유도 약해짐

• 제공된 공격 코드는 약화된
  도전용 인스턴스에서 몇 시간 안에 키를 복구함

• 실제 배포 제안 매개변수는 아니지만 암호학적 약점을 입증하기에는 충분함

• 새로운 수학을 발명하기보다 이미 알려진 여러 도구를 확장하고 철저하게 적용해 결과를 얻음

• 사용된 재료에는 특별히 이색적인 요소가 없음

• 알려진 공격 도구를 폭넓고 집요하게 조합하는 작업은 공격용 AI가 잘하는 유형임

• 이 결과로 HAWK가 실제 표준이 될 가능성은 매우 낮아짐

• 자세한 기술적 맥락은 HAWK 공격 요약에서 확인할 수 있음

7라운드 AES 공격의 제한된 파급력

• AES는 2001년부터 표준으로 사용된 블록 암호이며 키 크기에 따라
  10·12·14라운드를 수행함

• 실제 배포 AES는 NSA의 비공개 검증을 포함한 중요한 분석을 견뎌왔음

• 전체 암호를 공격하기 어렵기 때문에 암호분석에서는 약화된
  축소 라운드 버전을 연구하는 것이 일반적이며, Anthropic의 결과는 7라운드 AES를 대상으로 함

• 7라운드 AES 공격 자체는 새롭지 않으며, 이번 결과는 2013년 선행 연구와 관련 논문을 상수 배수 수준으로 개선함

• 현실적으로 실행하기 어려운 막대한 암호 연산이 필요하며, 실제 암호화 장치가 비밀 키로 매우 많은
  선택 평문을 암호화하도록 먼저 만들어야 함

• 전체 공격을 실제로 실행할 수 없어 개선 폭은 종이 위 분석에 기반함

• 모든 세부 사항을 구현했을 때 실제 실행 시간이 줄어드는지는 명확하지 않음

• 기법 면에서는 흥미로운 암호분석 진전이지만, 전체 AES에 대한 실용적 공격이나 획기적인 새 수학은 아님

최소한의 인간 개입으로 공격을 합성한 과정

• Anthropic 연구진은 대규모 암호학 전문가 팀이 모델을 세밀하게 조정하기보다, 결과를 찾도록 요청한 뒤 장시간 반복 작업을 수행하게 한 것으로 보임

• 모델은
  상세한 인간 개입 없이 다음 작업을 수행할 수 있는 수준에 도달함

• 기존 암호분석 결과 이해

• 여러 기법의 종합

• 실제 새로운 공격 구성

• 기존 공격의 확장

• 아직 초지능적 암호분석은 아니지만, 알려진 연구를 바탕으로 실제 진전을 만드는 능력은 상당함

결과 생성보다 어려워진 검증

• 새로운 결과처럼 보이는 출력이 항상 실제로 옳은 것은 아님

• 모델은 진짜 결과뿐 아니라
  그럴듯하고 오해를 부르는 결과도 더 쉽게 생성할 수 있어 사람의 검토 부담이 커짐

• HAWK처럼 약화된 체계에서 몇 시간 안에 실행되는 완전한 공격은 검증하기 쉬움

• 코드를 전달받아 키 복구와 선택한 메시지의 실제 서명이 가능한지 확인하면 됨

• AES처럼 미묘한 이론적 속도 개선은 유효성을 확인하기 어려움

• Lean으로 기계 검증 가능한 증명을 만들 수 있음

• 증명이 맞더라도
  정리 문장 자체의 구성 방식에 민감하므로 전문가 확인이 필요함

• 최근 주목받은 수학 결과는 대체로 다음 유형에 속함

• 잘 이해된 정리에 대한 기계 검증 가능 증명을 포함함

• Jacobian 추측 반례처럼 직접 계산할 수 있는 단순 반례를 제공함

• 다수 전문가가 오랜 시간 검토한 뒤 타당성을 인정함

• 인간 검증의 필요성이 연구 속도를 제한하며, 치명적이지 않은 암호분석에서는 당분간 이런 상태가 이어질 가능성이 있음

대칭키와 공개키 암호에 미치는 영향

대칭키 암호

• 대칭키 암호는 빠르게 적용할 수 있지만 역으로 풀기 어렵도록
  복잡하고 견고한 구조를 의도적으로 사용함

• AI 연산 시간을 더 투입한다고 곧바로 이 구조를 풀 수 있는 것은 아니며, 현재 모델은 이를 깨는 데 필요한 획기적 직관을 보여주지 못함

• AI가 새로운 기법으로 진전을 내더라도 암호 자체를 더 강하게 개선하는 데 활용할 수 있음

공개키·양자내성 암호

• 공개키 암호에는 한 방향 계산은 빠르고 역방향은 어려우면서, 특정 당사자만 역산할 수 있는
  트랩도어를 지닌 수학적 구조가 필요함

• 사람이 발견한 편리한 구조는 많지 않으며 주요 기반은 다음과 같음

• (EC)DLP

• RSA

• 격자 문제

• 부호 이론의 여러 문제

• RSA처럼 오래된 문제조차 충분한 인력이 분석했다고 확신하기 어려우며, 부호 기반·격자 기반 암호처럼 새로운 분야는 특히 공격 연구의 여지가 큼

• 기존 도구를 대규모로 적용하는 AI가 실질적인 진전을 만들 수 있는
  비옥한 연구 대상임

양자내성 표준 전환기에 열린 기회

• 현재 공개키 암호는 EC 기반 암호와 RSA에서 새로운 난제에 기반한
  양자내성 알고리듬으로 전환 중임
• HAWK를 포함해 많은 후보를 검토하는 지금은 대규모 공개 암호분석 역량이 등장하기에 적절한 시점임
• AI가 모든 기반 난제를 무너뜨리거나 Impagliazzo의 Minicrypt 상황에 이르지 않는다면, 강력한 AI 암호분석은 다음 효과를 낼 수 있음
• 살아남은 난제에 대한 신뢰를 높임
• 암호분석 문헌을 더 견고하게 만듦
• 표준 채택 전에 취약한 후보를 탈락시킴

과학자와 연구 생태계의 변화

• 과학자는 모델과 가장 어려운 문제를 논의할 수 있지만, 모델이 아직 모든 문제를 독립적으로 해결하지 못하므로 인간의 역할도 남아 있음

• 새로운 발견의 속도가 빨라지는 현상은 활동적인 연구자에게 대체로 긍정적임

• 해결되지 않은 문제도 남아 있음

• AI가 만든 결과의 공로를 누구에게 부여할지

• 급증하는 결과를 누가 검토할지

• 고급 미공개 모델을 사용한 경험에서는 지난 몇 달 사이에도 성능이 뚜렷하게 향상됐고, 수년간 관심을 가졌던 질문에서 놀라운 결과 후보가 나오기도 함

• Claude Mythos와
  10만 달러 규모의 자원이 없어도 일부 새로운 고급 모델에서 이런 변화를 관찰할 수 있음

현재 모델 능력의 경계

• 모델을 단순한
  고급 자동완성으로 보거나 발전이 둔화됐다고 판단하는 것은 실제 고급 모델의 능력과 맞지 않음

• 최근 5개월 동안 특정 문제 유형에서 측정 가능한 큰 진전이 있었으며, 현재까지 뚜렷한 성능 상한의 증거는 없음

• 무료 AI 검색 결과만 사용하면 고급 모델의 능력을 접하기 어려우며, 고성능 서비스도 약
  20달러에 접근할 수 있음

• 그렇다고 모델이 이미 초지능이거나 AGI가 완성됐다고 볼 수도 없음

• 고급 연구에서는 어느 지점까지 매우 유용하다가 특정 경계를 넘으면 갑자기 무능해짐

• 사람은 아직 그 경계를 쉽게 찾을 수 있지만, 경계 자체는 계속 바깥으로 이동하고 있음

• 모델의 지원을 받는 영역과 인간이 스스로 해결해야 하는 영역의 경계가 움직이고 있으며, 이런 변화는 과학자뿐 아니라 법률가·영업직·배관공을 포함한 모든 직업에 영향을 미치게 됨

댓글과 토론