효율적인 에이전트 추론을 위한 잠재 행동 재매개변수화 (Latent Action Reparameterization)

요약

LLM 에이전트의 긴 텍스트 행동 시퀀스로 인한 높은 추론 비용과 긴 결정 지평 문제를 해결하기 위해 '잠재 행동 재매개변수화(LAR)' 프레임워크를 제안합니다. LAR은 에이전트의 궤적으로부터 다단계 의미론적 행동을 압축된 잠재 단위로 학습하여, 표현력을 유지하면서도 의사결정 지평을 단축합니다. 이를 통해 작업 성공률을 유지하면서도 행동 토큰 수와 실제 추론 시간을 실질적으로 감소시킵니다.

핵심 포인트

• 기존의 시스템 최적화나 프롬프트 엔지니어링 대신 행동 공간(action space)의 표현 방식 자체를 개선함
• 수작업 매크로가 아닌 에이전트의 궤적으로부터 직접 잠재 행동을 학습하여 모델에 통합
• 유효 행동 지평을 단축하여 고정된 연산 예산 내에서 추론 효율성 향상
• 행동 토큰 감소를 통해 실제 추론 시간(wall-clock inference time)을 실질적으로 절감