자가 진화 에이전트 하네스(Self-Evolving Agent Harness)

Harness self-evolution은 프롬프트, 메모리, 워크플로우 및 실행 가능한 구성 요소를 포함하여 에이전트의 소프트웨어 스캐폴딩을 수정하는 동시에 모델 가중치(model weights)는 고정합니다. 우리는 승인된 수정 사항이 실행 간에 지속되는 피드백 기반 프로세스를 공식화합니다. 이 프레임워크는 업데이트 대상과 제안 및 수용 메커니즘을 분리합니다. 이는 해석된 상태의 변경과 도구 및 코드, 레포지토리 수준의 제어 로직, 플러그인 구성에 대한 수정 사항을 구별합니다. 우리는 진화적 최적화를 통한 탐색(search)을 특징짓고 지속적인 PAC-학습(PAC-learning)을 통해 그 신뢰성을 검토합니다. 명시적인 가정 하에서, 이 분석은 예상 일반화 경계(expected generalization bound), 역사적 회귀 예산(historical regression budgets)에 조건화된 보유 경계(retention bound), 그리고 새로운 독립 검증 데이터를 사용하는 고확률 수용 규칙을 산출합니다. 우리는 지속적인 하네스 수정 사항이 지식 공유 및 조직 워크플로우에 어떻게 영향을 미치는지, 과학적 신뢰성, 물리적 안전, 기관 책임에 대한 시사점과 함께 검토합니다. 이전 작업의 사례들은 모델-하네스 공동 설계(model--harness co-design), 분산 실행, 플러그인 재사용을 보여줍니다. 신뢰할 수 있는 배포를 위해서는 태스크 분포와 평가자가 변경됨에 따라 지속적인 검증이 필요하며, 학습, 런타임 권한 및 결과적 행동에 대한 독립적인 안전장치가 요구됩니다. 우리는 관련 작업, 이론, 알고리즘, 평가, 응용 분야 및 Harness RSI의 광범위한 영향에 대한 포괄적인 66페이지 분량의 논의를 제공하며, 지속적으로 업데이트되는 코드와 보충 자료는 https://github.com/zgcagi/Harness-RSI에서 확인할 수 있습니다.