Mistral Medium 출시 예정

요약

Mistral AI가 새로운 'Medium' 규모의 언어 모델 출시를 예고했습니다. 이 Medium 모델은 1280억 개의 파라미터를 가질 예정이며, 아키텍처는 밀집형(dense) 구조이거나 Mistral Small보다 희소도가 낮은 MoE(Mixture of Experts) 구조일 것으로 예상됩니다.

핵심 포인트

• Mistral AI가 'Medium' 모델을 출시할 계획이다.
• 새로운 Medium 모델은 1280억 개의 파라미터를 가질 예정이다.
• 모델 아키텍처는 밀집형(dense)이거나 MoE 구조일 것으로 추정된다.