체스를 두면서 움직임을 설명하는 언어 모델

요약

본 논문은 체스 엔진의 높은 경기력과 언어 모델(LM)의 설명 능력을 결합한 'Queen'이라는 4B 파라미터 체스-언어 모델을 소개합니다. 이 모델은 일반적인 그랜드마스터 수준으로 플레이하면서 자신의 움직임과 계획을 자연어로 설명할 수 있습니다. 새로운 프레임워크는 인코더-디코더 아키텍처와 반복 증류 알고리즘을 통해 도메인 특화 추론 능력을 향상시켰습니다.

핵심 포인트

• 4B 파라미터 모델로 그랜드마스터 수준의 플레이 및 설명 가능
• 인코더-디코더 구조와 크로스 어텐션을 활용한 통합 아키텍처 제시
• 반복 증류 알고리즘을 통해 경기력과 설명 능력을 동시에 향상시킴
• 제안된 프레임워크는 게임, 로보틱스 등 다양한 도메인에 적용 가능