Laguna S 2.1의 새로운 공식 FP8 및 NVFP4 가중치 사용 가능
요약
Poolside가 Laguna S 2.1 모델의 FP8 및 NVFP4 가중치 체크포인트를 업데이트했습니다. 컨텍스트 크기를 100만 토큰으로 확장하고 기존의 반복 생성 문제를 개선했습니다.
핵심 포인트
- FP8 및 NVFP4 가중치 체크포인트 지원
- 컨텍스트 크기를 100만 토큰으로 확장
- 모델의 반복 생성(looping) 문제 해결 시도
Poolside가 Laguna S 2.1의 FP8 및 NVFP4 체크포인트 (checkpoints)를 업데이트했습니다. 기본 컨텍스트 크기 (context size)를 100만 토큰으로 늘리고 설정 (configs)을 업데이트했습니다. 반복 (looping) 문제가 해결되었기를 바랍니다. 이 모델은 반복 현상이 없을 때는 제 개발 워크플로 (workflows)에서 매우 훌륭했습니다. /u/rmhubbert에 의해 제출됨 [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0