요약

Ovis2.6-80B-A3B는 Multimodal Large Language Model (MLLM)의 최신 버전으로, Mixture-of-Experts (MoE) 아키텍처를 도입하여 낮은 서빙 비용으로 높은 성능을 구현했습니다. 이 모델은 64K 토큰 컨텍스트 창과 최대 2880×2880 해상도 지원을 통해 긴 문서 및 고해상도 이미지 처리에 탁월하며, 'Think with Image' 기능을 통해 능동적인 시각적 추론 능력을 갖추었습니다.

핵심 포인트

• MoE 아키텍처를 적용하여 80B 파라미터 규모임에도 낮은 서빙 비용과 높은 처리량을 유지합니다. (활성 파라미터: 약 3B)
• 컨텍스트 창을 64K 토큰으로 확장하고, 최대 2880×2880 해상도 이미지를 지원하여 고정보 밀도 시각적 입력을 처리할 수 있습니다.
• 'Think with Image' 기능을 통해 모델이 추론 과정에서 능동적으로 이미지 영역을 재검토하고 분석하는 멀티턴 자기 성찰적 추론이 가능합니다.
• OCR, 문서 이해, 차트/다이어그램 분석 등 구조화된 시각적 정보 추출 및 심층적인 추론 능력이 강화되었습니다.