검증 가능한 AI를 위한 인프라: 증명 비용의 흐름과 하드웨어 활용 방안

요약

본 논문은 LLM의 추론 및 학습 과정에 대한 검증 가능성을 확보하기 위한 네 계층 프레임워크를 제시합니다. 영지식 증명(ZKP) 기반 워크로드의 비용을 분석하고, GPU 용량과 대역폭 등 하드웨어적 한계를 식별했습니다. 이를 통해 효과적인 가속화를 위해서는 대상 워크로드의 비용 프로파일에 맞춘 최적화가 필수임을 강조합니다.

핵심 포인트

• AI 검증은 네 계층 프레임워크로 접근 가능하며, 실제 비용 분석이 중요함.
• ZKP 기반 증명 비용은 시스템 및 입력 길이에 따라 지배적인 비용이 달라짐.
• 모델 파인튜닝 작업량은 80GB GPU에서 완료 가능하여 용량 평가가 필요함.
• 커널 프로파일링을 통해 대역폭 외 명령어 발행/동기화 한계점까지 식별됨.