Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 기사는 모델 가중치를 고정하고 프롬프트, 메모리, 워크플로우 등 소프트웨어 스캐폴딩을 수정하는 '자가 진화 에이전트 하네스(Self-Evolving Agent Harness)'를 제안합니다. 이 프레임워크는 피드백 기반 프로세스를 통해 업데이트와 수용 메커니즘을 분리하고, 지속적인 PAC-학습 및 탐색 최적화를 통해 신뢰성을 검증하는 방법을 제시합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Harness self-evolution은 프롬프트, 메모리, 워크플로우 및 실행 가능한 구성 요소를 포함하여 에이전트의 소프트웨어 스캐폴딩을 수정하는 동시에 모델 가중치(model weights)는 고정합니다. 우리는 승인된 수정 사항이 실행 간에 지속되는 피드백 기반 프로세스를 공식화합니다. 이 프레임워크는 업데이트 대상과 제안 및 수용 메커니즘을 분리합니다. 이는 해석된 상태의 변경과 도구 및 코드, 레포지토리 수준의 제어 로직, 플러그인 구성에 대한 수정 사항을 구별합니다. 우리는 진화적 최적화를 통한 탐색(search)을 특징짓고 지속적인 PAC-학습(PAC-learning)을 통해 그 신뢰성을 검토합니다. 명시적인 가정 하에서, 이 분석은 예상 일반화 경계(expected generalization bound), 역사적 회귀 예산(historical regression budgets)에 조건화된 보유 경계(retention bound), 그리고 새로운 독립 검증 데이터를 사용하는 고확률 수용 규칙을 산출합니다. 우리는 지속적인 하네스 수정 사항이 지식 공유 및 조직 워크플로우에 어떻게 영향을 미치는지, 과학적 신뢰성, 물리적 안전, 기관 책임에 대한 시사점과 함께 검토합니다. 이전 작업의 사례들은 모델-하네스 공동 설계(model--harness co-design), 분산 실행, 플러그인 재사용을 보여줍니다. 신뢰할 수 있는 배포를 위해서는 태스크 분포와 평가자가 변경됨에 따라 지속적인 검증이 필요하며, 학습, 런타임 권한 및 결과적 행동에 대한 독립적인 안전장치가 요구됩니다. 우리는 관련 작업, 이론, 알고리즘, 평가, 응용 분야 및 Harness RSI의 광범위한 영향에 대한 포괄적인 66페이지 분량의 논의를 제공하며, 지속적으로 업데이트되는 코드와 보충 자료는 https://github.com/zgcagi/Harness-RSI에서 확인할 수 있습니다.