자기주의주의가 운송: 대칭 스펙트럼 진단의 한계

요약

본 논문은 대형 언어 모델(LLM)의 환각 현상을 분석하며, 특히 주의 메커니즘을 통해 정보 흐름의 방향성(운송 능력)을 진단하는 기존 스펙트럼 방법론의 근본적인 한계를 지적합니다. 연구진은 특정 주의 연산자가 구조적으로 방향에 무관함을 수학적으로 증명하고, 비대칭 계수를 방향 제어 변수로 설정하여 인과 관계를 정량화했습니다. 이 결과를 바탕으로, 모델의 병목 현상(bottleneck)과 확산(diffusion) 같은 실패 모드가 단순히 크기만 다른 것이 아니라 근본적인 '극성' 차이를 가지며, 이를 통해 해석 가능한 진단 신호를 제공할 수 있음을 보여줍니다.

핵심 포인트

• LLM의 환각은 주의 메커니즘의 과도한 집중 또는 확산이라는 예측 가능한 실패 형태로 나타난다.
• 기존 스펙트럼 분석 방법론은 연산자의 전치 변환 불변성 때문에 정보 흐름의 방향성을 감지할 수 없는 구조적 한계를 가진다.
• 연구진은 비대칭 계수 $G$를 도입하여 주의 메커니즘에 '방향성'을 부여하고, 이를 통해 인과 관계에 대한 정량적인 진단이 가능함을 입증했다.
• 모델의 실패 모드(병목 vs. 확산)는 단순히 크기 차이가 아니라 근본적으로 반대되는 '극성'을 가지며, 이는 새로운 평가 지표를 통해 검출 가능하다.