Brick: Mixture-of-Models (MoM) 패러다임을 위한 공간 능력 라우팅

요약

Brick은 기존 LLM 라우터의 한계를 극복하기 위해 제안된 멀티모달 라우터입니다. 이 시스템은 쿼리별 난이도 추정치와 모델의 여섯 가지 능력 차원 점수를 결합하여 비용 페널티가 적용된 기하학적 규칙으로 요청을 디스패치합니다. 테스트 결과, Brick은 최대 품질 설정에서 최고 성능을 달성했으며, 중립적인 프로파일에서도 높은 정확도를 유지하며 비용 효율성을 크게 개선했습니다.

핵심 포인트

• Brick은 쿼리 난이도와 모델의 능력 차원을 결합한 멀티모달 라우터입니다.
• 최대 품질 설정에서 기존 최고의 단일 모델보다 높은 정확도를 달성했습니다.
• 중립적인 비용-품질 프로파일에서 비용을 크게 절감하며 성능을 유지합니다.
• 운영자가 선호도 노브를 통해 최대 품질과 최대 절약 사이를 조정할 수 있습니다.