Inception Labs, 획기적인 확산 기반 LLM 'Mercury 3' 출시: 초당 1,068 토큰 처리 및 100만 토큰 컨텍스트 지원

요약

Inception Labs가 텍스트 확산 기반의 새로운 LLM 'Mercury 3'를 출시했습니다. 이 모델은 기존 자기회귀(autoregressive) 트랜스포머 패러다임을 깨고, 반복적 노이즈 제거 과정을 통해 높은 처리량과 대규모 컨텍스트 창을 제공합니다. Mercury 3는 초당 1,068 토큰의 빠른 추론 속도를 자랑하며, 이는 기존 모델 대비 월등한 성능 향상을 의미합니다.

핵심 포인트

• 확산 기반 LLM(dLLM) 'Mercury 3' 출시로 패러다임 전환 시도
• 반복적 노이즈 제거 방식으로 초당 1,068 토큰의 고속 추론 구현
• 100만 토큰 컨텍스트 및 대용량 출력 생성 능력 확보
• 기존 자기회귀 모델 대비 처리량 측면에서 새로운 경계 설정