5/6 LLM이 다른 LLM을 개선할 수 있을까? Astra에게 Qwen3.5-0.8B의 수학 능력을 향상시키도록 요청했습니다.

요약

연구진은 LLM(Astra)이 다른 LLM(Qwen3.5-0.8B)의 약점을 개선할 수 있는지 실험했습니다. Astra는 Qwen의 추론 루프 문제를 발견하고, 기울기나 훈련 없이 단지 가중치 일부를 편집하여 수학적 능력을 향상시켰습니다. 이는 신경망 가중치가 LLM에 의해 네이티브하게 최적화될 것이라는 주장을 뒷받침합니다.

핵심 포인트

• Astra가 Qwen3.5-0.8B의 추론 루프 문제를 발견하고 수정함.
• 전통적인 훈련이나 기울기 없이 가중치 편집만으로 성능 향상 달성.
• 신경망 가중치가 LLM에 의해 네이티브하게 최적화될 것이라는 주장 제기.
• 현재 평가를 위한 벤치마크와 하네스 구축 중임.