Kimi K3 논문 공동 제1저자 중 한 명이 17살 고등학생임. 2.8조 파라미터, 세계 최대 오픈모델의 코어 아키텍처 하나를 광둥 국제학교

요약

2.8조 파라미터 규모의 Kimi K3 모델 논문 공동 제1저자가 17세 고등학생으로 밝혀졌습니다. 그는 학습 효율을 25% 향상시키는 'Attention Residuals' 기법을 구현하여 학계와 업계의 주목을 받고 있습니다.

핵심 포인트

• 2.8조 파라미터 규모의 Kimi K3 모델 아키텍처 공개
• Attention Residuals 기법으로 학습 효율 25% 개선
• 추가 연산량 2% 미만으로 높은 효율성 달성
• 중국 내 우수 인재의 스타트업 유입 파이프라인 확인