Decision 3.0: 0.6B부터 27B까지의 오픈 멀티모달 의사결정 모델

vLLM Semantic Router 팀과 함께 Decision 3.0 (d3)을 출시했습니다. 이는 0.6B부터 27B까지 범위의 새로운 SOTA(State-of-the-Art) 의사결정 모델 패밀리이며, Apache-2.0 라이선스를 따르고 텍스트, 이미지 및 비디오를 모두 읽을 수 있습니다.

작동 방식 - Qwen3.5 (0.8B / 2B / 4B / 9B)와 Qwen3.8-27B를 기반으로 구축되었습니다. 파라미터 개수에는 비전 인코더가 포함됩니다: 4B에서는 0.33B, 27B에서는 0.46B입니다.

• 세 가지 의사결정 유형: 선택(choice), 예/아니오(yes/no), 점수(score). 텍스트 생성 없이 모든 답변에 대한 확률을 제공합니다. 동일한 입력에 대한 여러 질문은 하나의 호출로 답변되며, 각 질문은 입력에 대한 자체 순전파(forward pass)를 통해 처리됩니다.
• 이미지: 요청당 다중 이미지를 지원하며 최대 1.6 MP까지 읽습니다.
• 비디오: 요청당 다중 비디오를 지원합니다 (MP4, WebM, MOV, MKV). 2 fps로 샘플링되며, 전체 클립에서 최대 32 프레임(각각 최대 0.2 MP)을 처리할 수 있습니다.
• BF16 가중치이며, Transformers 라이브러리로 로드합니다 (trust_remote_code=True). AMD Instinct MI325X로 훈련되었습니다.

결과 (당사의 평가, 공개된 가중치에 대한 공식 Jev 0.3 키트)

• 두 보드 모두에서 #1: 27B 모델은 텍스트에서 64.7점, 비전에서 71.6점을 기록하며, Jev가 자체적으로 포함한 모든 목록화된 모델보다 앞섰습니다.
• 모든 크기가 각 클래스를 이끌다: 0.6B, 0.8B, 4B 및 9B는 각각의 크기 클래스에서 선두를 차지했습니다. 특히 9B (d3-flash)는 이전 세대인 27B (Decision 2.0)보다 뛰어납니다.
• 비디오 제로샷(zero-shot): 어떤 모델도 비디오로 훈련된 적이 없습니다. 총 19,140개의 Perception Test 검증 질문에서 27B는 77.4점을, 4B는 70.3점을 기록했습니다.

Hugging Face 컬렉션: https://huggingface.co/collections/vllm-sr/decision-30 (제공자: /u/henzy123) [링크] [댓글]