LiquidAI의 d1-3B 및 d1-omni 소개

https://preview.redd.it/owhrvbbiu2uh1.png?width=4096&format=png&auto=webp&s=55d816753e7adee0e1391c9f581052b4bde44da7 d1-omni-600M은 LFM2.5-Encoder-350M 기반의 600M 파라미터 결정 모델입니다. 상태(텍스트 또는 JSON, 이미지 또는 음성 클립 포함)와 일련의 명명된 질문을 입력하면, 제로 출력 토큰으로 유형화된 답변을 반환합니다. 즉, 모든 답변은 생성이나 구문 분석 없이 모델이 옵션에 대해 가지는 분포에서 직접 읽어옵니다.

• 비전-언어 (Vision-language): 단일 순방향 패스(forward pass)로 텍스트와 이미지 처리 가능 (대형 프레임의 경우 타일링, 상태당 여러 이미지 포함).
• 오디오-언어 (Audio-language): 단일 순방향 패스로 텍스트와 최대 30초 분량의 음성 처리 가능.
• 엣지 규모 (Edge-sized): 총 587M 파라미터로 구성되며, 381M 공유 트렁크(shared trunk) 및 결정 헤드(decision head), 94M 비전 인코더(vision encoder), 112M 오디오 인코더를 사용합니다. 모든 모달리티가 동일한 트렁크 가중치를 실행합니다.

https://preview.redd.it/f2wkfqcku2uh1.png?width=1200&format=png&auto=webp&s=d30dfb9978a03a5c9ad5831945b294712890e91e d1-3B는 LFM2.5-VL-3B 기반의 3B 파라미터 결정 모델입니다. 상태(텍스트, JSON, 이미지 또는 혼합)와 질문 세트를 입력하면, 제로 출력 토큰으로 보정된 유형화된 답변을 단일 순방향 패스로 반환합니다.

• 결정 지수 (Decision Index): 10B 미만 모델 중 최고 성능인 48.57을 기록하며, 모든 4B 및 9B 모델과 Decider 35B-A3B(47.11)보다 앞섭니다.
• 멀티모달 (Multimodal): 동일한 상태에서 이미지와 텍스트를 처리합니다. 11개 공개 이미지 벤치마크에서 74.1점을 기록하며 (LFM2.5-VL-3B: 73.9).
• 속도 (Fast): NVIDIA RTX 4090에서 8ms, AMD MI325X에서 9ms, Apple M5 Pro에서 30ms 만에 결정을 내립니다.

https://huggingface.co/LiquidAI/d1-3B-GGUF https://huggingface.co/LiquidAI/d1-3B https://huggingface.co/LiquidAI/d1-omni-600M-GGUF https://huggingface.co/LiquidAI/d1-omni-600M https://preview.redd.it/e11c4qlut2uh1.png?width=1932&format=png&auto=webp&s=f948738b173add01821f68f292aedc48577de802 submitted by /u/jacek2023 [link] [comments]