SkillOpt-Lite: 단 한 줄의 Vibe를 통한 더 나은, 더 빠른 에이전트 자기 진화 (Self-evolution)
요약
SkillOpt-Lite는 자율 에이전트의 기술 최적화를 위한 최소 기능 파이프라인을 제안합니다. Zeroth-Order 최적화와 PAC 학습 원칙을 결합하여, 복잡한 과정 없이도 에이전트의 성능을 빠르고 효과적으로 진화시킵니다.
핵심 포인트
- Zeroth-Order 최적화를 통한 에이전트 기술 최적화 공식화
- 파일 시스템 기반 궤적 탐색 및 합의 속성 마이닝 원칙 수립
- GPT-5.5 및 nano 모델에서 기존 모델을 능가하는 성능 향상 입증
- VSCode Copilot 등 프로덕션 코딩 에이전트에 통합 가능
자율 에이전트(autonomous agents)를 위한 기술 최적화(skill optimization)가 주목받고 있지만, 기존 방식들은 복잡한 파이프라인에 의존하고 있습니다. 이는 근본적인 질문을 해결하지 못한 채 남겨둡니다: 모든 구성 요소가 이론적 또는 경험적 필요성에 의해 정당화되는, 기술 최적화를 위한 최소 기능 파이프라인(minimal viable pipeline)은 무엇인가? 우리는 Zeroth-Order (ZO) 최적화를 통해 기술 최적화를 공식화하며, 고전적인 대응 방식(중앙 차분(central difference), 신뢰 영역(trust regions))을 최신 문헌과 매핑합니다. 고전적인 ZO의 맹목적인 수치적 섭동(numerical perturbations)과 달리, 기술 궤적(skill trajectories)은 해석 가능한 디버깅 피드백 역할을 한다는 점에 주목합니다. Claude Code 철학과 PAC 학습(PAC learning)에 기반하여, 우리는 수렴과 일반화를 위한 세 가지 원칙을 수립합니다: 파일 시스템 기반의 궤적 탐색(file-system-based trajectory exploration), 합의 속성 마이닝(consensus attribute mining), 그리고 독립적 검증 게이팅(independent validation gating)입니다. 중복성을 제거하여, 우리는 SkillOpt-Lite를 제안합니다. 이는 수렴을 가속화하며 전체 SkillOpt보다 뛰어난 성능을 보입니다. 구체적으로 GPT-5.5에서는 LiveMath 점수를 +8.8점, GPT-5.4-nano에서는 +25.4점 향상시켰으며, 이를 통해 nano 모델이 SkillOpt로 최적화된 표준 GPT-5.4를 능가할 수 있게 했습니다. 마지막으로, 우리는 이 프레임워크를 VSCode Copilot과 같은 프로덕션 코딩 에이전트에 통합하여, 개발자들이 단 한 줄의 vibe를 통해 에이전트 기술을 진화시킬 수 있도록 합니다. 우리의 프레임워크는 모든 에이전트 구성 요소를 단순히 표준 편집 가능한 코드로 취급하기 때문에, 이 최소 파이프라인은 전체 하네스 최적화(HarnessOpt)로 자연스럽게 일반화됩니다. SpreadsheetBench에서 HarnessOpt는 GPT-5.4-nano가 0.7758의 정확도를 달성하게 하여, 표준 파이프라인을 실행하는 더 큰 모델인 GPT-5.5(0.7620)를 능가하게 했습니다. 코드는 https://github.com/EvolvingLMMs-Lab/SkillOpt-Lite 에서 확인할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기