지식 접근에서 출처 학습으로: 출처별 역량 개발
요약
본 연구는 LLM 에이전트가 단순 지식 접근을 넘어, 지속적이고 권위 있는 출처를 기반으로 '출처별 역량'을 개발하는 방법을 제시합니다. 제안된 SourceLearn은 자기 주도 학습과 작업 기반 학습 메커니즘을 결합하여, 출처에 대한 재사용 가능한 이해도를 포착하는 영구적인 모델을 구축하고 개선합니다.
핵심 포인트
- 단순 지식 접근을 넘어 '출처별 역량' 개발에 초점
- SourceLearn은 자기 주도 및 작업 기반 학습 메커니즘 결합
- 출처의 구조화, 해석, 적용 능력을 포착하는 모델 제시
- 다양한 벤치마크에서 기존 대비 높은 성능 입증
대규모 언어 모델(LLM) 에이전트는 지식 집약적 작업 시퀀스를 해결하기 위해 점진적으로 외부 출처에 의존하고 있습니다. 기존 방법들은 출처 콘텐츠의 접근 및 구성 방식을 개선하거나, 에이전트 메모리 시스템을 통해 이전 상호작용에서 재사용 가능한 지식을 보존하는 데 초점을 맞추고 있지만, 동일한 출처를 반복해서 사용하는 것은 여전히 단순히 반복적인 '접근'으로 간주될 뿐, 해당 출처에 대한 이해도를 점진적으로 향상시킬 기회로 다루어지지는 않습니다. 본 연구에서는 출처 학습(source learning)을 연구합니다. 이는 지속적이고 권위 있는 출처를 기반으로 재사용 가능한 출처별 역량(source-specific competence)을 개발하는 것을 의미합니다. 우리는 이러한 역량을, 해당 지식이 어떻게 구조화되고 해석되며 적용되는지에 대한 재사용 가능한 이해도를 포착하는 영구적인 출처 모델로 표현합니다. 이러한 모델을 구축하고 점진적으로 개선하기 위해, 우리는 두 가지 상호 보완적인 학습 메커니즘을 결합한 SourceLearn을 제안합니다. 자기 주도적 출처 학습(Self-Directed Source Learning)은 불완전하게 이해된 부분을 식별하여 출처를 적응적으로 재방문하며, 작업 기반 출처 학습(Task-Guided Source Learning)은 다운스트림 경험을 활용하여 출처 지식이 어떻게 구성되어야 하는지에 대한 국소적인 표현 격차와 반복되는 필요성을 드러냅니다. 두 경우 모두, 학습 신호가 무엇을 재고해야 할지 결정하는 반면, 영구적인 업데이트는 권위 있는 출처로부터 재구성됩니다. 다섯 가지 벤치마크와 세 가지 LLM 백엔드를 거쳐, SourceLearn은 15개 설정 중 13개에서 최고의 성능을 달성했으며, Hybrid RAG 대비 최대 22.6점의 향상을 보였고, 정적 출처 표현 및 경험 기반 메모리 베이스라인 대비 상당한 전반적인 개선을 이루었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기