평가 지표와 능력을 공동 진화시키는 방법: 자체 개선 LLM 에이전트를 위한 접근 방식

요약

본 논문은 자체 개선 LLM 에이전트 시스템의 핵심 문제인 '신뢰할 수 있는 평가 지표 부재'에 대한 새로운 접근 방식을 제시합니다. 제안된 방법론은 지표 자체를 진화시키고, 자의 기준(arbitrary criteria)을 통해 정확한 지표를 복구하며, 외부 감사와 기준 준수 메커니즘을 통해 안전성을 확보하는 것을 목표로 합니다.

핵심 포인트

• 지표 루프는 결함 감지기 조합으로 구성되어 투명하고 검사 가능한 지표를 산출합니다.
• Double Ratchet 기법은 기술과 지표의 공동 진화를 통해 실제 성능 향상을 입증했습니다.
• 안전성은 기준 준수(anchor discipline)와 외부 감사(outer audits) 메커니즘에서 나옵니다.
• 제시된 아키텍처는 신뢰할 수 있는 자동 검증기가 없는 환경에 적합한 기본값입니다.