ProgramGym: 장기 지평 프로그램 재생성 에이전트를 위한 학습 환경 확장
요약
ProgramGym은 장기 지평 프로그램 재생성 에이전트를 위한 확장 가능한 학습 환경 프레임워크입니다. 이 시스템은 피드백 기반 루프와 샌드박스 빌드를 통해 검증 가능한 학습 환경을 구축하며, 분석, 구현, 검토 역할을 분리한 Program-Agent를 포함합니다. 이를 통해 코딩 에이전트의 프로그램 재생성 성능을 크게 향상시킬 수 있음을 입증했습니다.
핵심 포인트
- ProgramGym은 장기 지평 프로그램 재생성을 위한 학습 환경 제공
- Program-Env는 샌드박스 빌드를 복구하고 검증 가능한 환경 구축
- Program-Agent는 분석/구현/검토 역할을 분리하여 성능 향상 기여
- Qwen3.8-27B 등 모델의 프로그램 재생성 성능을 크게 개선
코딩 에이전트는 소프트웨어 엔지니어가 하는 것처럼 저장소 내의 문제를 해결하거나 주어진 요구사항 문서로부터 저장소를 생성하는 것보다는 처음부터 프로그램을 구축하는 데 점점 더 많이 사용되고 있습니다. 하지만 에이전트가 무엇이 필요한지 발견하고 시스템을 어떻게 설계해야 할지 결정하도록 강제하는, 확장 가능하고 검증 가능한 학습 환경은 여전히 부족합니다. 게다가 기존의 에이전트 워크플로우는 에이전트가 구현 전에 참조 프로그램을 탐색하는 장기 지평 개발을 유지할 수 없습니다. 이러한 문제들을 해결하기 위해, 우리는 장기 지평 프로그램 재생성 에이전트를 위한 확장 가능한 학습 환경으로 구성된 ProgramGym이라는 프레임워크를 소개합니다. 구체적으로, Program-Env는 피드백 기반 루프를 통해 런타임 샌드박스 빌드를 복구하고 블랙박스 테스트의 품질을 검사함으로써 저장소로부터 검증 가능한 학습 환경을 구축합니다. 이 새로운 파이프라인을 사용하여, 우리는 C, C++, Go, 그리고 Rust에 걸친 1,648개의 학습 환경을 얻었습니다. Program-Agent는 분석(analysis), 구현(implementation), 검토(review)의 역할 격리된 워크플로우와 컴파일 체크 및 실패 복구를 위한 개정 관리(revision management)를 결합합니다. ProgramBench에서 수행한 실험은 Program-Env와 Program-Agent 모두 프로그램 재생성 성능을 향상시킨다는 것을 보여줍니다. 이 구축된 환경들의 궤적(trajectories)으로 미세 조정(Fine-tuning)했을 때, Qwen3.8-27B의 성능이 34.87%에서 42.84%로 상승했습니다. Program-Agent는 또한 base 모델과 SFT 모델을 각각 55.71%와 56.25%까지 끌어올렸는데, 이는 일부 플래그십 모델을 능가하는 수치입니다. 우리는 프로그램을 처음부터 구축하는 코딩 에이전트에 대한 추가 연구를 지원하기 위해 ProgramGym을 공개할 예정입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기