[논문] 가중치 공간 프로그래밍(Weight-Space Programming) 탐색: 능력, 일반화 및 한계

가중치 공간 프로그래밍(Weight-Space Programming, WSP)은 추론 에이전트가 신경망 매개변수를 직접 검사하고 수정할 수 있게 함으로써, 기울기 기반 모델 적응(gradient-based model adaptation)의 대안을 제공합니다. 하지만 WSP의 능력, 작업 간 일반화(cross-task generalization), 그리고 실제적인 한계점들은 여전히 충분히 이해되지 못하고 있습니다. 우리는 7개의 벤치마크와 두 가지 모델 규모(Qwen3.5-0.8B 및 Qwen3.5-9B)에 걸쳐 16가지 편집 경로를 통해 WSP를 체계적으로 조사했습니다. 우리의 발견은 세 가지 핵심 통찰을 보여줍니다.

첫째, WSP는 고도로 국지화된 개입(highly localized interventions)을 통해 상당한 성능 향상을 달성할 수 있습니다. 전체 홀드아웃 평가에서 MATH-500, GPQA Diamond, IFEval, SciBench의 정확도는 각각 최대 29.45, 4.42, 36.72, 17.11 퍼센트 포인트까지 향상되었습니다. 특히, 단지 1,023개의 매개변수만 수정하여 29.45점의 개선을 얻었습니다.

둘째, WSP는 유망하지만 불균일한 작업 간 일반화를 보여줍니다. 추가적인 편집 없이도 Math로 편집된 체크포인트가 GPQA Diamond, IFEval, SciBench를 각각 3.03, 12.18, 20.10점 향상시키는 반면, SciCode 성능은 변화가 없었습니다.

셋째, 효과적인 편집을 유지하는 것은 여전히 어렵고 일관성이 부족합니다. 결과는 경로마다 크게 달라지며, 16개 경로 중 6개 경로는 후보 개선 사항이 신뢰성 있게 검증되지 않을 경우 원래의 가중치를 유지했습니다.

종합적으로, 이러한 결과들은 WSP가 고도로 국지화된 모델 적응에 잠재력을 가지고 있음을 강조하는 동시에, 개입 발견(intervention discovery), 신뢰성, 그리고 작업 간 전이(cross-task transfer) 측면에서 중요한 과제들을 드러냅니다.

arXiv : https://arxiv.org/abs/2611.09382 PDF : https://arxiv.org/pdf/2611.09382 GitHub : https://github.com/WSP-Scope/WSP-Scope-Project (리포지토리는 업데이트 예정) 프로젝트 : https://wsp-scope.github.io/ (상세 벤치마크용) 관련 스레드 : [논문] 가중치 공간 프로그래밍의 불꽃: LLM이 신경망 가중치를 네이티브하게 읽고 쓰기 위해 제출함 (/u/pmttyji가 제출) [링크] [댓글]