IFM의 K2-Horizon-7B: 손실 없는 속도 향상을 제공하는 확산 증강 LLM

요약

IFM이 손실 없는 속도 향상을 목표로 하는 확산 증강 LLM인 K2-Horizon-7B를 출시했습니다. 이 모델은 기존의 인과적 LLM 아키텍처에 자기회귀 가중치와 플러그 앤 플레이 방식의 확산 어댑터를 결합한 형태입니다.

핵심 포인트

• IFM이 K2-Horizon-7B라는 새로운 LLM을 공개했습니다.
• 손실 없는 속도 향상을 주요 특징으로 합니다.
• 인과적 아키텍처에 확산 어댑터를 추가한 구조입니다.