Adaptive-GEPA: 이기종 요청에 맞게 하네스를 조정하다

GEPA와 같은 반성적 최적화(Reflective optimizers)는 실행 추적(execution traces)과 평가자 피드백을 통해 언어 모델 프롬프트를 개선하며, 전체 프로그램 확장(full-program extensions)은 도구 및 제어 흐름까지 재작성할 수 있습니다. 실제로는 사용자가 동일한 엔드포인트에 서로 다른 도구, 추론 방식, 제어 흐름이 필요한 이기종 요청(heterogeneous requests)을 전달합니다. 하나의 공유 프로그램을 최적화하는 것은 이러한 작업 분담(division of work)을 소스 코드 검색에서 암묵적으로 남겨두는 반면, 요청군별로 별도의 프로그램을 최적화하는 것은 이를 사전에 고정합니다. 우리는 요청을 어떻게 분할하고 어떻게 해결할지 모두 학습하는 Adaptive-GEPA를 소개합니다. 이는 단일 검색 예산(search budget) 하에 라우터와 전문 프로그램 라이브러리를 진화시킵니다. 라우터의 지침, 각 전문가의 설명, 그리고 그 프로그램 코드는 피드백을 통해 편집된 평범하고 사람이 읽기 쉬운 텍스트입니다. 브랜치를 결합하기 위해, 이는 처리하는 요청별로 전문가들을 정렬하고 프로그램과 함께 설명을 상속받습니다. 네 가지 작업군(task families)의 고정 혼합에 대해, 보고된 Qwen3-8B 실행은 라우터나 반성 모델에 가족 레이블을 제공하지 않으면서 네 명의 전문가를 진화시켰으며, 그 라우팅은 모든 651개 테스트 요청에서 작업 분할과 일치합니다. 이의 가족 평균 테스트 점수(x100)는 52.6점에서 70.6점으로 상승했으며, 이는 GEPA의 전체 프로그램 어댑터가 18,000점 호출이라는 명목상의 예산에서 얻은 62.5점과 GRPO의 54.0점에 비해 높은 수치입니다. 이러한 카운트는 총 컴퓨팅을 의미하지는 않습니다. 그림 1은 학습 곡선, 최종 테스트 점수 및 라우팅 일치를 요약합니다.