b11643: 임베딩 없이 그래프가 비어있지 않도록 유지 (#30522)
요약
임베딩이 없는 그래프가 비어지는 문제를 해결하기 위한 기술적 개선 사항입니다. 임베딩만 있는 경우 로짓(logits)이 없으며, 임베딩이 비활성화되면 build_pooling()에서 조기에 반환되어 모델의 t_embd 확장이 중단되고 입력값이 할당되지 않는 문제가 발생했습니다. 이를 방지하기 위해 t_embd를 확장하도록 수정해야 합니다.
핵심 포인트
- 임베딩 부재 시 그래프가 비어지는 문제 해결
- t_embd 확장을 통해 모델의 안정성 확보
- 다양한 플랫폼(macOS, Linux, Windows 등) 지원 명시
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기1