검, 방패, 그리고 아킬레스건: 내비게이션 계획을 위한 대규모 언어 모델(LLM)의 언어적 귀납적 편향(Linguistic Inductive

대규모 언어 모델 (LLM) 기반 내비게이션 시스템은 일반적으로 명시적인 공간 표현 (예: 위상 그래프 (topological graphs), 의미론적 래스터 맵 (semantic raster maps))을 구축하고, 이를 LLM의 입력값으로서 텍스트 설명으로 변환합니다. 그러나 이러한 텍스트 기반 공간 표현의 언어적 구조와 그 안에 포함된 문맥적 특징 (예: 위상 (topology), 기하학 (geometry))의 선택은 LLM의 행동을 형성하는 핵심 요소라기보다 중립적인 엔지니어링 결정으로 취급되는 경우가 많습니다. 이러한 격차를 해소하기 위해, 본 연구에서는 내비게이션 계획에 대한 LLM의 언어적 귀납적 편향 (linguistic inductive bias)을 평가하기 위해 다양한 문맥적 단서로부터 언어적 구조를 분리하는 이중 개입 프레임워크 (dual-interventional framework)를 제안합니다. 이 프레임워크에서 표현 개입 (representation intervention)은 언어적 형식과 언어적 압축 (linguistic compression) 정도를 변화시켜, 언어적 표현이 언제 내비게이션 계획을 지원하거나 저해하는지를 명확히 합니다. 문맥 개입 (context intervention)은 문맥적 특징 결합 및 충돌 조사 (conflict probing)와 결합되어, 다양한 문맥적 단서를 처리할 때 LLM의 선호도와 약점을 명시적으로 밝혀냅니다. 다양한 공간 추론 작업과 여러 모델 규모에 걸친 실험을 통해 일관된 패턴이 드러났습니다: 위상 정보 (topological information)는 견고한 계획의 중추이자 튼튼한 방패이며, 언어적 형식 (linguistic format)은 모델 크기, 작업 요구 사항 및 압축 수준에 따라 효과가 달라지는 양날의 검이고, 의미론적 정보 (semantic information)는 치명적인 아킬레스건입니다. 즉, 잘못된 의미론적 단서는 계획 과정을 체계적으로 탈선시킬 수 있습니다. 종합적으로, 본 연구는 LLM 기반 내비게이션에서 효과적인 텍스트 기반 공간 표현이 단순히 단일 표현을 채택하기보다는 위상적 무결성 (topological integrity)을 보존하고, 모델 용량에 맞춰 표현 압축을 조정하며, 의미론적 정확성 (semantic correctness)을 보장해야 함을 보여줍니다. 저희의 코드는 https://github.com/jonesdong150/LLM-Navigation-Inductive-Bias 에서 공개적으로 확인할 수 있습니다.