EAGLE3가 llama.cpp에 도입되었습니다

요약

6개월간의 개발 끝에 EAGLE3 기술이 llama.cpp에 공식 병합되었습니다. EAGLE3는 메인 모델의 가이드를 받아 추측을 수행하는 방식으로, 기존 MTP와 차별화된 성능을 제공합니다.

핵심 포인트

• EAGLE3 기술의 llama.cpp 공식 병합 완료
• 메인 모델의 가이드를 활용하는 보조 모델 방식 채택
• 기존 MTP 방식과 차별화된 추측 메커니즘 보유