GPT-6 Astra에게 Qwen3.5-0.8B 가중치를 수정해 수학 능력을 개선하도록 요청한 결과: 단 0.016%만 변경하여 0.8B의

우리는 GPT-6 Astra에게 Qwen3.5-0.8B의 가중치(weights)를 수정하여 수학 능력을 개선하도록 요청했습니다.
그것은 단지
0.016%의 가중치만 직접 변경하여 0.8B의 추론 루프를 고쳤고,
수학 능력을 최대 6배 향상시켰으며,
심지어 지침 따르기(instruction following) 능력까지 3배 향상시켰습니다.
이는 기울기(gradients)나 학습 과정 없이 이루어졌습니다.

우리는 이를
가중치 공간 프로그래밍 (Weight-Space Programming)
이라고 부릅니다: 최첨단 LLM은 이제 신경망 가중치를 네이티브하게 읽고/쓰기가 가능해졌습니다!
블로그:
https://rikiyat.github.io/blog/weight-space-programming/
...

1/6 우리는 최첨단 LLM들이 신경망 가중치를 네이티브하게 읽고, 쓰고, 추론하는 데 놀라울 정도로 능숙하다는 초기 징후를 발견했습니다.

모델들은 학습을 하는 대신, 원시 가중치(raw weights)를 마치 읽을 수 있고 편집 가능한 코드처럼 취급하여 실패 지점을 진단하고 직접 패치할 수 있습니다.

2/6 먼저 이해 가능성(understandability)에 대한 분석입니다:
우리는 Astra에게 4가지 게임 정책에서 나온 원시 가중치를 하나씩 입력했습니다. 네 가지 모두 정확히 동일한 아키텍처, 입력 및 행동을 공유합니다.
도구나 옵션이 주어지지 않았음에도 불구하고, 그것은 네 가지를 Breakout, Pong, Pac-Man, Freeway로 올바르게 명명했습니다.

3/6 다음으로 가중치 수정입니다: PPO 자동차 정책이 경사로에서 계속 막히는 문제가 있었습니다.
주어진 가중치, 장면(scene), 그리고 실패한 추적(failed trace) 1개를 바탕으로, Astra는 도구 사용 없이 한 번의 응답으로 패치를 작성했습니다.
단지 가중치의 3.5%만 편집하여 100% 성공을 달성했습니다.

4/6 처음부터 쓰기: MinAtar 게임 규칙과 코드를 주어진 후, Astra는 단일 응답으로 Breakout 네트워크의 가중치를 작성했습니다.
학습이나 도구 사용 없이도, 이는 5억 스텝(steps) 동안 PPO로 학습한 것보다 20배 높은 점수를 기록했습니다.