Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Tencent에서 295B 파라미터 규모의 MoE 모델인 Hy3를 Apache 2.0 라이선스로 출시했습니다. 21B의 활성 파라미터를 사용하며, 기존 오픈 소스 플래그십 모델들과 경쟁할 수 있는 성능과 256K의 긴 컨텍스트 길이를 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: Simon Willison's Weblog의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기2026년 7월 6일 - Link Blog
tencent/Hy3. 중국 Tencent에서 출시한 새로운 Apache 2.0 라이선스 모델입니다:
Hy3는 Tencent Hy 팀이 개발한 295B-parameter Mixture-of-Experts (MoE) 모델로, 21B의 활성 파라미터(active parameters)와 3.8B의 MTP 레이어 파라미터를 보유하고 있습니다. 4월 말 Hy3 Preview 출시 이후, 50개 이상의 제품으로부터 피드백을 수집하였으며 더 높은 품질의 데이터를 통해 사후 학습 (post-training) 규모를 확장했습니다. 오늘 우리는 유사한 크기의 모델들을 능가하고, 파라미터 수가 2~5배 더 많은 플래그십 오픈 소스 모델들과 경쟁할 수 있는 Hy3를 소개합니다. 또한 다양한 제품과 생산성 작업 전반에 걸쳐 유용성 측면에서 상당한 이점을 보여줍니다.
전체 크기의 모델은 Hugging Face에서 598GB이며, FP8 양자화 (quantized) 모델은 300GB입니다. 컨텍스트 길이 (context length)는 256K입니다.
7월 21일까지 OpenRouter에서 무료로 이용할 수 있습니다. 저는 그곳에서 "자전거를 타는 펠리컨의 SVG를 생성해줘"라고 요청했고, 다음과 같은 결과를 얻었습니다:
Flat-style cartoon illustration of a white pelican with a large orange beak riding a red bicycle across a pale blue background, its long orange legs stretched down to the pedals, with gray horizontal motion lines behind it suggesting speed.