테스트 시간 AI-for-AI를 위한 에이전트 메타 스킬 학습 및 하네스 설계
요약
본 논문은 테스트 시간 AI-for-AI 접근 방식을 연구하며, Builder가 Target을 위해 최적의 실행 환경을 구성하는 방법을 학습하는 Meta-Skill 개념을 제안합니다. 이 Meta-Skill은 필요한 지원과 제공할 리소스를 원칙으로 명시하여, Builder가 개발 세트에서 피드백을 통해 이를 학습하고 고정된 스킬 뱅크로 하네스를 구축합니다.
핵심 포인트
- Meta-Skill 도입으로 에이전트의 환경 구성 능력이 향상됨.
- Builder는 Target의 실행 피드백으로부터 지원 원칙을 학습함.
- Harness-Bench에서 Meta-Skill은 성능을 최대 12.02%까지 개선시킴.
- 동일 모델이 두 역할을 수행하며 시스템 자체 개선 경로를 시사함.
에이전트의 성능은 추론 능력과 작용하는 환경 모두에 달려 있습니다. 우리는 테스트 시간 AI-for-AI를 연구하며, 두 모델의 가중치가 고정된 상태에서 Builder가 Target을 위해 더 나은 실행 환경을 구성하는 방법을 학습할 수 있는지 질문합니다. Builder의 경험을 재사용 가능하게 만들기 위해, 우리는 Meta-Skill을 도입했습니다. 이는 지원이 언제 필요한지, 그리고 어떤 리소스를 제공해야 하는지를 명시하는 원칙입니다. Builder는 개발 세트에서 Target의 실행 피드백으로부터 이러한 원칙들을 학습한 다음, 고정된 스킬 뱅크를 사용하여 보지 못한 작업에 대한 하네스를 구성합니다. Harness-Bench와 NewtonBench 전반에 걸쳐, 전체 뱅크 메타 스킬은 스킬 없이 구성했을 때보다 매크로 평균 성능을 8.95 퍼센트 포인트 향상시켰으며, 동일한 뱅크를 Target에게 직접 전달했을 때보다도 12.02 포인트 향상시켰습니다. 이러한 결과는 경험을 실행 가능한 지원으로 변환하는 가치를 강조합니다. 동일한 모델이 두 역할을 모두 수행할 때의 이득은 더 나아가 환경을 더 잘 구축하는 방법을 학습함으로써 시스템 수준의 자체 개선 경로를 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기