Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
WeAct는 장기 궤적 학습 시 발생하는 치명적 망각 문제를 해결하기 위해 제안된 방법론입니다. 이는 동결된 백본 위에 독립적인 LoRA 어댑터를 훈련하고, 이 어댑터 선택을 에이전트의 행동 공간에 추가합니다. 이를 통해 온디맨드 역량 조합 및 모듈식 지속적 적응을 가능하게 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기장기 궤적(Long-horizon trajectories)을 다루는 에이전트는 교차된 궤적에서 이질적인 역량들을 학습해야 합니다. 공유 파라미터를 업데이트하여 새로운 역량을 학습하는 것은 이전에 습득했던 역량들을 저하시킬 수 있으며, 이는 치명적 망각(catastrophic forgetting)으로 이어집니다. 궤적이 전개됨에 따라 서로 다른 단계들이 각기 다른 역량을 필요로 할 수 있지만, 기존의 공동 훈련(joint training)과 정적 어댑터 병합(static adapter merging)은 실행 전체 동안 고정된 파라미터 구성을 유지합니다. 우리는 WeAct (Weight-level Internal Actions)를 소개하며, 이는 동결된 백본(frozen backbone) 위에 독립적인 역량별 LoRA 어댑터를 훈련하고 어댑터 선택을 에이전트의 행동 공간에 추가합니다. 이 내부 행동들은 모델의 네이티브 도구 호출 인터페이스(native tool-calling interface)를 사용하여 공유 컨텍스트 내에서 온디맨드 역량 조합(on-demand capability composition)을 수행합니다. 8개의 심층 연구 벤치마크 전반에 걸쳐, WeAct를 적용한 Qwen3-32B는 전체 파인튜닝된 모델 대비 평균 정확도를 6.2% 향상시키며 더 적은 컴퓨팅 자원을 사용함에도 불구하고, 가장 강력한 정적 LoRA 병합 방식 대비로는 27.5% 향상을 보였습니다. 또한 WeAct는 새로운 코드 계산 어댑터를 추가하여 에이전트의 역량을 확장하고 기존 작성(writing) 어댑터를 업데이트하여 보고서 품질을 개선함으로써 모듈식 지속적 적응(modular continual adaptation)을 지원합니다. 이 두 가지 업데이트 모두 백본과 다른 어댑터들을 변경하지 않아, 에이전트에서 모듈식 지속적 적응을 지원합니다.