LLM 에이전트가 세계 모델을 추론할 수 있는가? 에이전트적 오토마타 학습(Agentic Automata Learning)을 통한 증거

요약

LLM 에이전트가 상호작용을 통해 숨겨진 환경(DFA)을 추론할 수 있는지 평가하는 '에이전트적 오토마타 학습'을 제안합니다. 실험 결과, 추론 모델이 일반 모델보다 우수하지만 DFA 크기가 커질수록 성능이 급격히 저하되며 고전적 알고리즘 대비 효율성이 낮음을 확인했습니다.

핵심 포인트

• 에이전트적 오토마타 학습을 통한 LLM의 환경 추론 능력 평가
• DFA 크기 증가에 따른 LLM 에이전트의 성능 급격한 저하 발견
• 추론 모델이 비추론 모델보다 강력하나 쿼리 계획 및 가설 구축에서 한계 노출
• 현재 LLM 에이전트는 고전적 알고리즘 대비 견고함과 효율성이 부족함