Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
FlashProve는 zkSNARK 기반 기술을 활용하여 특정 LLM이 커밋된 가중치로 주어진 프롬프트에 대해 정확히 해당 출력을 생성했음을 암호학적으로 증명합니다. 이는 답변 내용의 출처(웹, 훈련 데이터 등)가 아닌, 모델 추론 계산 자체의 무결성을 검증하는 데 초점을 맞춥니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 새 AI 모델의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기이게 뭐지?
해당 llm 이 대답을 해주지 않는 경우가 있나?
이건 그냥 웹 정보를 스크롤링해 온 경우인가?
아니다,
FlashProve는 “웹 정보를 스크롤링(검색·생성)해서 답했다”는 것을 증명하는 기술이 아니다.
FlashProve가 증명하는 것은 오직
“커밋된 특정 모델 가중치로, 이 프롬프트를 입력했을 때 정확히 이 출력 토큰이 나왔다.”
즉, 모델의 추론 계산 자체가 올바르게 수행되었는지를 암호학적으로 확인하는 것이지, 답변의 내용이 웹에서 왔는지, 훈련 데이터에서 왔는지, RAG로 검색해서 왔는지는 전혀 다루지 않는다.
다른 모델이 대신 답하거나 출력이 조작되었다면 증명이 실패한다.
정리하면:
FlashProve는 어떤 모델이 답했는지를 증명한다.
답변 내용의 출처(웹, 훈련 데이터 등)나 답변 품질은 증명하지 않는다.
모델이 답하지 않는 경우에도, 그 “답하지 않은 결과”가 해당 모델에서 나왔다면 검증 가능.
즉, “웹 정보를 스크롤링해 온 경우인지”를 확인하는 도구가 아니라, **“진짜 그 모델이 이 출력을 생성했는지”**를 확인하는 도구.
기술에 대한 구체적 설명 ---> 이하 글 참조
zkSNARK 기반 시스템으로, 특정 LLM의 가중치에 대한 커밋을 통해 응답이 해당 모델에서 생성되었음을 증명할 수 있게 하며, 가중치 자체는 노출하지 않는다.
Llama 4 Maverick(400B 파라미터 MoE 모델, 4비트 양자화) 기준으로 단일 H100 GPU에서 약 110토큰/초의 증명 생성 속도를 달성하며, 1,024토큰 요청당 약 19MB 크기의 증명. 기존 오픈소스 방식보다 훨씬 효율적,
vLLM 대비 GPU 시간이 약 70~95배 소요!
채팅 하이재킹 방지, 안전 평가 시 실제 서빙 모델 검증 등에 활용 가능하며,
코드와 프로토콜이 오픈소스 공개됨.
다만 연구용 프로토타입으로 컨텍스트 길이·디코딩 방식 제한이 있고, 유지보수가 되지 않는다.
zkSNARK는 Zero-Knowledge Succinct Non-Interactive Argument of Knowledge의 약자.
쉽게 말해,
“특정 계산이 올바르게 수행되었다”는 사실을 매우 짧은 증명으로 입증하되, 그 계산에 사용된 비밀 데이터(예: 모델 가중치)는 전혀 드러내지 않는 암호학적 증명 시스템
주요 특징
Zero-Knowledge(영지식): 증명 자체로는 가중치, 중간 활성화값, MoE의 라우팅 결정 등 비밀 정보가 유출되지 않습니다. 검증자는 “이 커밋된 모델이 이 프롬프트에 대해 정확히 이 출력을 냈다”는 사실만 확인
Succinct(간결): 증명의 크기가 작고 검증이 빠름
FlashProve의 경우 1,024토큰 요청당 약 19MB 정도이며, 일반 CPU에서 수십 초 내에 검증 가능(모델을 직접 돌리는 것보다 훨씬 가벼움)
Non-Interactive(비대화형): 증명자와 검증자 사이에 여러 차례 메시지를 주고받지 않는다. 증명자가 한 번에 증명을 만들어 전달하면, 검증자는 독립적으로 확인(Fiat-Shamir 변환 등을 통해 상호작용을 제거).
Argument of Knowledge: 단순히 “맞다”고 주장하는 것이 아니라, 증명자가 실제로 올바른 비밀 입력(가중치)을 알고 있다는 것을 암호학적으로 보장. 보안은 해시 함수 등의 암호학적 가정에 기반하며, 정보이론적 완벽 보안은 아니다.
FlashProve에서의 작동 방식
FlashProve는 이 zkSNARK를 LLM 추론에 적용한 것
두 단계!
오프라인 단계(Commit): 모델 제공자가 가중치에 대한 짧은 커밋(지문, 약 6.5MB)을 공개. 이 커밋은 특정 가중치 집합에 고정되지만, 가중치 자체는 숨긴다.
온라인 단계(Prove): 각 요청에 대해 증명자가 “커밋된 모델이 이 프롬프트에 대해 정확히 이 출력 토큰을 생성했다”는 증명을 만든다. 검증자는 커밋, 프롬프트, 출력, 증명만 가지고 확인.
내부적으로는 Interactive Oracle Proof(IOP)를 해시 함수 기반으로 컴파일한 구조로, 코드 근접성 테스트·룩업 인자 등 최신 암호 기법을 사용. 이로 인해 포스트 양자 보안 특성도 갖는다.
또한 프로토콜의 건전성(soundness), 완전성(completeness), 영지식 성질은 Lean으로 형식 검증
AI 답변이 정말 그 모델이 만든 건지 증명하는 기술을 앤트로픽이 공개함
이름은 FlashProve
지금은 API로 받은 답이 진짜 내가 고른 모델에서 나온 건지 확인할 방법이 마땅치 않음
FlashProve는 이미 검증된 암호 기술을 써서
이 답변이 이 모델에서 나왔다는 걸 확인할 수 있게 해줌
앤트로픽 말로는 기존 오픈소스 방법보다 훨씬 효율적이라고 함
쓸 데가 꽤 있음
코드도 깃허브에 오픈소스