RT @AYi_AInotes: 비양심적인 AI 껍데기 중계 스테이션들은 끝났다. Anthropic이 공식적으로 '요괴를 밝히는 거울'을 제시했다:
Claude 대규모 모델의 위변조 방지 인증서가 온다!
이제 더 이상 AI 중계 스테이션들이 저렴한 모델을 사용해 몰래 껍데기를 씌워 막대한 이익을 얻는 것을 걱정할 필요가 없다.
Anthropic이 공식적으로 FlashProve를 오픈소스로 공개했다: 400B 거대 모델로 초당 110 토큰의 극속 영지식 증명(zero-knowledge proof)을 구현하여, 가짜 인터페이스를 완전히 제거한다.
평소에 다양한 대규모 모델 API나 서드파티 중계 스테이션을 호출할 때 가장 골치 아픈 문제는 신원을 확인할 수 없다는 점이다:
중개업자가 최고 사양 모델의 비용을 받으면서도, 뒤로는 저렴한 소형 모델로 몰래 대체하여 이득을 취하고 있어 사용자가 알아차릴 수 없습니다.
해커가 데이터 흐름을 가로채 답안을 조작해도, 텍스트 표면만으로는 알 수 없습니다.
오늘 Anthropic이 내놓은 이 시스템은 모든 모델 호출에 위조 불가능한 암호학적 스탬프를 찍어줍니다.
이는 영지식 증명(zkSNARK) 아키텍처를 기반으로 하며,
대규모 모델이 답변을 출력하는 동시에 매우 작은 수학적 증명을 첨부합니다.
사용자는 자신의 일반 컴퓨터 CPU에서 몇 초 만에 진위 여부를 확인할 수 있습니다.
이를 통해 해당 글자가 특정 공식 가중치(official weights)에서 나왔음을 100% 확신할 수 있으면서도, 대기업의 어떤 하부 상업 기밀 파라미터도 절대 유출하지 않습니다.
가장 놀라운 것은 그 공학적 성능입니다:
4천억 개 매개변수(400B MoE)를 가진 Llama 4 거대 모델에서, 단일 H100 그래픽카드로 초당 110개의 토큰 증명을 생성할 수 있으며, 증명 파일 크기는 약 19MB에 불과합니다;
2년 전 오픈소스 솔루션들이 토큰 하나를 처리하는 데 수십 분이 걸리던 느린 속도와 비교하면, 속도가 몇 자릿수 급증했습니다.
전체 코드와 Lean 형식화 안전 증명은 Apache 2.0 프로토콜에 따라 전체 공개되었습니다.
예전에는 인터페이스 호출이 전적으로 중개업자의 양심에 의존했지만,
오늘부터는 모든 토큰 생성마다 부인할 수 없는 수학적 영수증이 생겼습니다.
누가 모델을 바꿔치기하여 이득을 취하는지, 누가 소형 모델로 플래그십 모델을 위장하는지, 이 검증기를 걸어두기만 하면 모든 속임수가 현장에서 드러납니다.
오픈소스 저장소와 핵심 논문은 1층에 정리되어 있습니다.