요약

AMD 하드웨어에서 학습된 최초의 확산 언어 모델(Diffusion Language Model)인 ZAYA1-8B-Diffusion-Preview를 공개했습니다. 이 모델은 기존 자기회귀(Autoregressive) 방식과 달리 블록 단위의 병렬 생성을 통해 추론 속도를 획기적으로 개선했습니다.

핵심 포인트

• AMD 하드웨어 기반으로 학습된 최초의 확산 언어 모델 발표
• 블록 병렬 생성 방식을 통한 추론(Inference) 속도 최적화
• 품질 저하를 최소화하면서 기존 대비 4.6~7.7배 빠른 디코딩 속도 구현