b11965: llama : DSV4의 단순 배치 분할 제거 (#31300)
요약
본 기술 문서는 Llama 모델과 DSV4 압축기 관련 아키텍처 개선 사항을 다룹니다. DeepSeek V4 및 V4.1의 효율적인 배치를 위해 패딩 계산 로직을 수정하고, 단순 배치 분할 제거를 통해 일관성을 확보했습니다. 또한 그래프 재사용 회귀 테스트 범위를 확장하여 모델 안정성을 높였습니다.
핵심 포인트
- DSV4 압축기 패딩 계산 및 DeepSeek V4/V4.1 배치를 수정함.
- 단순 배치 분할 제거를 통해 시퀀스 토큰 수의 일관성을 유지함.
- 그래프 재사용 회귀 테스트 범위를 6개 토큰 배치까지 확장하여 안정화됨.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0