투기적 디코딩 (Speculative Decoding) 알고리즘의 훈련 및 평가를 위한 완전한 엔드 투 엔드 (End-to-End) 구현

요약

DeepSeek AI가 투기적 디코딩(Speculative Decoding)의 훈련부터 평가까지 전 과정을 지원하는 오픈 소스 프레임워크 DeepSpec을 공개했습니다. 또한 AI 에이전트의 반복 작업을 위한 워크플로우 템플릿인 Loopy를 통해 프롬프트 패턴 기반의 피드백 루프 구현 방법을 제시합니다.

핵심 포인트

• DeepSpec: 투기적 디코딩을 위한 엔드 투 엔드 구현 프레임워크
• Eagle3, DFlash, DSpark 등 다양한 초안 모델 내장
• Qwen3 및 Gemma 시리즈를 타겟 모델로 지원
• Loopy: AI 에이전트의 자기 피드백 및 반복 작업을 위한 워크플로우