Tencent Hy3는 매우 낮은 파라미터 규모로 Frontier Model에 대한 급격한 격차 해소를 실현했습니다.

이 모델은 295b의 총 파라미터를 보유하고 있지만, MoE (Mixture of Experts) 아키텍처를 통해 활성 파라미터를 21b로 압축했습니다. 이는 여러분의 자체 하드웨어에서 최고 수준의 폐쇄형 모델(closed-source model)에 근접하는 성능을 구현할 수 있음을 의미하며, "대규모 모델은 반드시 클라우드 컴퓨팅 성능에 의존해야 한다"는 인식의 경계를 완전히 허물었습니다.

현재 Cline에서 tencent/hy3:free를 직접 호출하여 테스트할 수 있습니다. 로컬 배포를 추구하면서도 추론 능력을 희생하고 싶지 않은 개발자들에게 이는 현재 가장 가성비 높은 오픈 소스 경로입니다.