MOCHA: 에이전트 기술 최적화를 위한 다중 목적 Chebyshev Annealing

요약

LLM 에이전트의 기술(skills) 최적화 과정에서 발생하는 플랫폼 제약 조건과 작업 성능 간의 다중 목적 문제를 해결하기 위한 MOCHA 방법론을 제안합니다. MOCHA는 Chebyshev 스칼라화와 지수 어닐링을 결합하여 기존 방식이 놓치기 쉬운 비볼록 영역의 파레토 최적 변체들을 효과적으로 탐색합니다. 실험 결과, MOCHA는 기존 최적화 도구들이 실패한 작업들을 포함하여 모든 테스트 작업에서 성능 향상과 더 많은 최적 변체 발견을 입증했습니다.

핵심 포인트

• LLM 에이전트 기술은 컨텍스트 창 제한, 필드 압축 등 플랫폼의 엄격한 제약 조건을 받는 다중 목적 최적화 문제임
• 기존의 가중 합(weighted sum) 방식은 비볼록 목적 함수 영역에서 파레토 최적해를 찾는 데 한계가 있음
• MOCHA는 Chebyshev 스칼라화를 통해 전체 파레토 프런트를 포괄하고 지수 어닐링으로 탐색과 활용의 균형을 맞춤
• 실험을 통해 FEVER에서 최대 14.9%, TheoremQA에서 10.4%의 정확도 향상 및 더 많은 파레토 최적 기술 변체 발견 확인