GPT 5.6 Sol 에이전트 군집이 40시간 이상을 투입하여 Kimi K3와 유사한 모델을 65 tok/s에서 406 tok/s로 최적화했습니다. 이 애니메이션은 에이전트들이 연산자 융합(operator fusions)을 발견하고, 실행 그래프(execution graph)를 변환하며, 새로운 커널 알고리즘을 개발하는 협업 과정을 보여줍니다. 우리는 완전히 분해된 331개 노드의 Kimi Linear 그래프에서 시작하여, 토큰당 단 22개의 GPU 디스패치(dispatches)만 필요한 융합된 버전으로 마무리합니다. 가장 큰 성능 향상은 Kimi Delta Attention (KDA), Multi-Head Latent Attention (MLA), 그리고 Mixture of Experts (MoE)를 위한 맞춤형 WebGPU 커널로부터 얻어졌습니다. 이 최적화 프레임워크의 전체 공개를 기대해 주세요. /u/xenovatech에 의해 제출됨 [link] [comments]