Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
MIT CSAIL 연구진은 GPT-6 Astra가 다른 신경망의 원시 가중치(raw weights)를 직접 읽고 편집할 수 있음을 보여주었습니다. 훈련 과정이나 기울기 계산 없이 단지 일부 가중치를 수정하는 것만으로 Qwen3.5-0.8B 모델의 수학 능력을 약 6배 향상시키는 등 큰 돌파구를 제시했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: AI 연구/논문의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기여러분, 이것은 심각한 돌파구입니다. 꼭 읽어보세요.
MIT CSAIL 연구진은 GPT-6 Astra가 다른 신경망의 원시 가중치(raw weights)를 직접 읽고 편집할 수 있음을 보여주었습니다. 가중치는 AI 모델을 구성하는 거대한 숫자 세트입니다. 사람들에게는 다소 무섭게 보이기 때문에 아무도 손으로 직접 수정하지 않습니다. 만약 모델을 개선하고 싶다면, 일반적으로 많은 예시를 보여주고 그 숫자들을 조금씩 조정하며 훈련(train)합니다. 현대 AI의 거의 모든 것이 이런 방식으로 구축되며, 이는 엄청난 시간과 컴퓨팅 자원을 필요로 합니다.
이번 연구에서는 아예 훈련 과정을 건너뛰었습니다. 연구진은 Astra에게 Qwen3.5-0.8B 모델이 수학 능력을 향상시키도록 요청했으며, 기울기(gradients)나 훈련 없이 진행했습니다. Astra는 가중치를 살펴보고, 모델이 추론 루프에 빠지는 것과 관련된 문제를 발견했고, 그중 단지 0.016%만을 변경했습니다. 그 결과 MATH-500 점수는 7.9%에서 48.1%로 약 6배 높아졌고, 명령어 따르기(instruction following) 점수도 세 배 증가했습니다.
연구진은 또한 동일한 구조를 가진 네 가지 게임 플레이 네트워크의 원시 가중치를 Astra에게 제공했습니다. 도구나 옵션 목록 없이도, Astra는 네 가지 게임인 Breakout, Pong, Pac-Man, Freeway를 모두 정확하게 명명했습니다. 그런 다음, Breakout의 작은 버전 규칙과 코드를 받자, 단 한 번의 응답으로 네트워크의 가중치(weights)를 처음부터 작성했습니다. 이 네트워크는 517.4점을 기록한 반면, PPO로 5억 스텝을 훈련시킨 모델은 25.3점을 기록했습니다.
일반 소프트웨어의 경우, 코드를 읽고 버그를 찾아 그 한 가지를 수정할 수 있습니다. 하지만 신경망의 경우에는 대부분 재훈련(retrain)하고 문제가 사라지기를 바랄 수밖에 없었습니다. 이번 연구는 가중치가 코드처럼 행동하기 시작할 수 있음을 시사합니다. 만약 이것이 사실이라면, 긴 훈련 과정 대신 단 한 번의 편집으로 모델 문제를 해결하거나, 모델을 직접 읽어 작동 방식을 검사할 수 있으며, AI가 다른 AI를 훨씬 더 직접적인 방식으로 개선하도록 할 수 있을 것입니다.
아직 초기 단계입니다. 저자들 스스로도 이것을 초기 징후라고 부르며, 테스트된 네트워크가 작고(tiny) Qwen 수정 사항이 모델 카드가 이미 경고했던 결함을 목표로 했기 때문에, 아직 AI가 어떤 모델이든 임의로 재작성할 수 있다는 의미는 아닙니다. 더 큰 모델에서 복제되고 테스트되어야 합니다. 하지만 AI가 다른 네트워크의 가중치(weights)를 읽고 훈련 없이 이 정도로 개선했다는 것은 큰 의미이며, 더 많은 사람들이 주목해야 한다고 생각합니다.
[quote @rikiyatakehi: 우리는 GPT-6 Astra에게 수학 능력을 향상시키기 위해 Qwen3.5-0.8B의 가중치(weights)를 수정하도록 요청했습니다. 그것은 가중치 중 단지 0.016%만 직접 변경하여, 0.8B의 추론 루프(reasoning loops)를 수정하고 수학 능력을 최대 6배, 심지어 명령어 수행 능력(instruction following)까지 3배 향상시켰으며, 이는 기울기(gradients)나 훈련 없이 이루어졌습니다.
우리는 이것을 가중치 공간 프로그래밍(Weight-Space Programming)이라고 부릅니다: 최첨단 LLM은 이제 원시적으로...