보고된 에이전트 최적화 방법의 대부분의 성능 향상은 일회성입니다. 즉, 에이전트를 고정된 벤치마크를 기준으로 최적화하고 그 결과로 얻은 개선치를 마치 해당 방법의 안정적인 속성인 것처럼 보고합니다. 이는 배포된 에이전트에 중요한 환경을 테스트하지 못합니다. 실제 환경에서는 시간이 지남에 따라 새로운 실패 사례와 새로운 작업들이 나타날 때마다 최적화가 재귀적으로 적용되기 때문입니다. 여기서 제기되는 핵심 질문은 옵티마이저 기반의 성능 향상이 누적될 수 있는지 여부입니다. 즉, 에이전트가 한 번 최적화된 후에도 새로 도착하는 작업을 통해 다시 최적화할 때, 첫 번째 라운드에서 얻었던 이득을 침식시키지 않고 개선될 수 있는가 하는 것입니다. 우리는 Terminal-Bench 2.0의 어려운 작업들로 구성된 두 단계 지속 학습 평가를 통해 이 질문을 연구했으며, 동일한 최적화 예산 하에 에이전트 하네스 최적화에 대한 세 가지 접근 방식(GEPA, Meta Harness, 그리고 RELAI의 검증 가능한 지속 학습인 RELAI-VCL)을 비교했습니다. 세 가지 방법 모두 기존의 정적이고 단일 단계 설정에서는 기준선 에이전트보다 성능이 향상되었습니다. 그러나 새로운 작업들이 도입되자 방법들은 급격하게 갈라집니다. GEPA로 최적화된 에이전트는 비최적화 기준선보다 성능이 떨어지는 수준으로 전이되며, Meta Harness는 잘 전이되지만 두 번째 최적화 예산이 주어졌을 때 더 이상 개선되지 못합니다. 반면, RELAI-VCL만이 보지 못한 작업에도 긍정적으로 전이될 뿐만 아니라, 해당 작업들이 최적화 목표에 통합된 후에도 계속해서 개선되는 유일한 방법이었습니다. 이 방법은 평가된 모든 단계에서 가장 높은 통과율을 달성했으며, 전체적인 평생 평균 통과율에서도 가장 높았습니다 (GEPA의 66.0% 대비 76.4%, Meta Harness의 64.6%, 그리고 기준선의 58.7%). 우리의 주요 관찰 결과는 최적화 루프에 회귀 제어(regression control)가 내장되었을 때만 최적화 이득이 누적된다는 것이었으며, 이는 일반화하지 못하는 지름길 해법들에 대한 귀납적 편향(inductive bias)을 제공했습니다.