CastFlow: 시계열 예측을 위한 역할 전문화 에이전트 워크플로우 학습
요약
CastFlow는 기존 LLM 기반의 정적 시계열 예측 패러다임이 가진 시간 패턴 추출 및 컨텍스트 획득의 한계를 극복하기 위해 제안된 동적 에이전트 예측 프레임워크입니다. 이 프레임워크는 계획(planning), 행동(action), 예측(forecasting), 성찰(reflection)의 순환적인 에이전트 워크플로우를 따르며, 메모리 모듈과 다중 뷰 툴킷을 활용하여 반복적이고 증거 기반의 수치 예측을 수행합니다. 특히 범용 추론 LLM과 도메인 특화 LLM을 결합한 역할 전문화 설계를 통해 정확성과 적응성을 높였습니다.
핵심 포인트
- CastFlow는 시계열 예측에 계획-행동-예측-성찰의 순환적 에이전트 워크플로우를 적용합니다.
- 메모리 모듈과 다중 뷰 툴킷을 사용하여 과거 경험 검색 및 신뢰할 수 있는 앙상블 기반 예측을 지원합니다.
- 범용 추론 LLM과 도메인 특화(미세 조정된) LLM의 역할을 분리하는 역할 전문화 설계를 채택했습니다.
- 도메인 특화 LLM 최적화를 위해 SFT와 검증 가능한 보상 강화학습(RLVR)을 결합한 훈련 방식을 개발했습니다.
최근, 대규모 언어 모델 (LLMs) 은 시계열 예측 분야에서 큰 가능성을 보여주고 있습니다. 그러나 기존 대부분의 LLM 기반 예측 방법은 여전히 과거 관측치를 한 번의 통과로 미래 값에 직접 매핑하는 정적 생성 패러다임을 따르고 있습니다. 이 패러다임 하에서는 시간 패턴 추출의 제한성, 컨텍스트 특징의 단일 라운드 획득, 원샷 (one-shot) 예측 생성, 앙상블 예측 지원 부재 등으로 인해 예측이 제약받습니다. 이러한 한계를 해결하기 위해 본 연구에서는 다중 뷰 시간 패턴 추출, 다중 라운드 컨텍스트 특징 획득, 반복적 예측 정제, 앙상블 예측 기반 예측을 가능하게 하는 동적 에이전트 예측 프레임워크인 CastFlow 를 제안합니다.
첫째, CastFlow 는 예측 과정을 계획 (planning), 행동 (action), 예측 (forecasting), 성찰 (reflection) 로 구성하여 에이전트 워크플로우를 수립합니다. 둘째, 이 워크플로우는 이전 경험을 검색하는 메모리 모듈과 진단 증거를 구성하고 신뢰할 수 있는 앙상블 예측 베이스라인을 제공하는 다중 뷰 툴킷에 의해 지원됩니다. 셋째, CastFlow 는 범용 추론과 전문화된 수치 예측을 결합한 역할 전문화 (role-specialized) 설계를 채택합니다. 이 설계 하에서, 고정된 (frozen) LLM 은 범용 추론을 유지하는 반면, 미세 조정된 도메인 특화 LLM 은 앙상블 예측 베이스라인을 기반으로从头부터가 아닌 증거 기반의 수치 예측을 수행합니다.
미세 조정된 도메인 특화 LLM 을 최적화하기 위해 우리는 감독 학습 미세 조정 (SFT) 과 검증 가능한 보상 강화학습 (RLVR) 을 결합한 두 단계 워크플로우 지향적 훈련을 추가로 개발했습니다. CastFlow 의 효과성을 평가하기 위해 다양한 데이터셋에서 광범위한 실험을 수행하였으며, 강력한 베이스라인에 대해 우수한 전반적인 결과를 달성함을 보여주었습니다. 본 연구가 더 적응적이고 정확한 시계열 예측으로 나아가는 한 걸음이 될 수 있기를 희망합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기