arXiv : https://arxiv.org/abs/2606.15079
Full Paper : https://arxiv.org/pdf/2606.15079
HuggingFace : https://huggingface.co/inclusionAI/models?sort=created
(이번 달에 Ling-2.6-1T 및 Ling-2.6-flash 모두를 위한 베이스 모델 (base models)이 출시되었습니다)

Ling-mini 2.6 버전도 출시되었으면 좋았을 텐데 아쉽네요 :( '가난한 GPU 클럽 (Poor GPU Club)'에게는 유용할 텐데요. (적어도 Ling-2.6-flash(100B)는 출시되었으니, 24/32GB VRAM 사용자들은 Q4를 즐길 수 있을 것입니다)
16B-A1.4B 규모인 Ling-mini-2.0에 대해 이야기하고 있었습니다. 더 빠른 모델이죠. 지난 1월에 스레드를 게시했습니다. bailingmoe - Ling(16B) 모델들의 속도가 이제 더 좋아졌습니다.

위 스레드의 요약 (TLDR):

• Ling-mini-2.0-IQ4_XS - 160 t/s (8GB VRAM 환경) - 중간 크기 모델에서 가장 빠른 t/s를 얻기 위해 그들로부터 30-50B 모델이 나왔으면 좋겠습니다. 단순한 계산에 따르면, 동일한 8GB VRAM에서 30B Q4 모델로 80 t/s를 얻을 수 있을 것입니다.
• Ling-mini-2.0-IQ4_XS - 50-70 t/s (CPU 전용 추론 (CPU-only inference) - 32GB RAM 환경)
  다른 어떤 모델도 이렇게 빠른 t/s를 제공하지 않았습니다. 지금까지 CPU 전용 추론에서 이렇게 빠른 t/s가 나온다는 사실에 놀랐습니다. 심지어 1-bit 버전 모델들보다 더 빠릅니다.
  submitted by /u/pmttyji
  [link] [comments]