b11512: 모델 수정 사항 - DFlash 출력 헤드 공유 문제 해결 (#30111)

요약

본 기사는 Llama 모델의 성능 개선 및 안정화에 관한 기술적인 수정 사항을 다룹니다. 주요 내용은 DFlash 출력 헤드 공유 문제 해결, GGUF 메타데이터를 활용한 연결 가중치 읽기 기능 추가 등입니다. 이는 모델의 효율성과 정확도를 높이는 데 초점을 맞추고 있습니다.

핵심 포인트

• Llama 모델에서 DFlash 출력 헤드 공유 문제를 수정했습니다.
• GGUF 메타데이터를 통해 연결된(tied) 출력 가중치 읽기 기능을 추가했습니다.
• 연결 단어 임베딩 메타데이터 공유 기능이 추가되어 효율성이 높아졌습니다.