Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 연구는 LLM 에이전트 및 다중 에이전트 시스템의 '목표 이탈(goal drift)' 문제를 해결하기 위한 방향 제어 에이전트를 제안합니다. 이 에이전트는 실행 과정을 실시간으로 감독하며, 저비용/고속 경로와 고비용/저속 경로를 결정하여 목표 이탈 시 시스템을 효과적으로 재조정합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG (Machine Learning)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델(LLM) 기반 에이전트와 다중 에이전트 시스템은 장기적인 도구 사용과 에이전트 간 협업을 통해 점점 더 복잡한 작업을 처리하고 있습니다. 하지만 이러한 시스템들은 실행이 진행됨에 따라 전체 목표에서 벗어나기 쉬우며, 이는 실행 자원을 낭비하고 원치 않는 결과를 초래하는 '목표 이탈(goal drift)'이라는 실패로 이어집니다. 본 연구에서는 실행 과정을 실시간으로 감독하고 목표 이탈이 발생할 때 시스템을 다시 경로에 맞추는 방향 제어 에이전트(steering agent)를 제안합니다. 이 방향 제어 에이전트는 실행 컨텍스트를 관찰하여, 저비용의 빠른 경로(fast path)로 언제 개입할지, 그리고 고비용의 느린 경로(slow path)로 어떻게 개입할지를 결정합니다. 그 방향 제어 지능을 활성화하고 목표 이탈을 평가하며 효과적인 개입을 생성하는 능력을 얻기 위해, 우리는 강화학습(RL)으로 두 경로를 공동 훈련시키고, 쌍별 순위 지정 목적 함수(pairwise ranking objective)와 그룹 상대 정책 최적화(Group-Relative Policy Optimization, GRPO)를 결합합니다. 정보 탐색 검색 작업에 대한 실험 결과, 이 방향 제어 에이전트는 단일 에이전트 및 다중 에이전트 시스템 모두에 효과적인 감독을 제공하여 성능과 효율성을 향상시키는 것을 보여줍니다. 학습된 방향 제어 지능은 도메인 외부 작업으로 일반화되며, 보지 못한 실행자에게 전이되고, 재훈련 없이도 제어 가능한 개입 빈도를 지원합니다.