b11418: 서버: Clef용 비전 입력 지원 (#29969)
요약
본 기술 기사는 Clef 관련 서버 기능 업데이트에 대한 내용을 담고 있습니다. 주요 변경 사항으로는 비전 입력 지원 추가, `input_attn_causal`의 private 이동, 그리고 여러 데이터 구조 및 함수(예: `server_batch::embd`, `server_batch::token::pos`)의 확장 및 수정이 포함되었습니다.
핵심 포인트
- Clef용 비전 입력 기능 지원을 구현했습니다.
- 핵심 내부 로직(`input_attn_causal`)을 private으로 이동시켰습니다.
- 배치 처리 구조와 토큰 위치 정보를 다차원으로 변경했습니다.
- 서버: Clef용 비전 입력 지원
- input_attn_causal을 private으로 이동
- old server_batch::embd 확장
- server_batch::token::pos를 다차원(multi dim)으로 변경
- nits
- abort 수정
- img 토큰 용량 수정
- yield_to_queue의 데이터 변이 수정
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기