From Token Lists to Graph Motifs: Weisfeiler-Lehman Analysis of Sparse

요약

본 논문은 희소 자동 인코더(SAE)의 특징을 분석하는 새로운 그래프 구조적 방법을 제안합니다. 기존 연구가 토큰 목록이나 가중치 벡터에 집중했던 것과 달리, 이 방법은 SAE 특징이 공유하는 고차원적인 동시 발생(co-occurrence) 구조를 그래프로 모델링합니다. 커스텀 WL 스타일의 그래프 커널을 사용하여 이 구조적 공간에서 유사성을 측정하고, 이를 통해 기존 방식으로는 포착하기 어려웠던 구문 패턴이나 코드 템플릿 같은 '휴리스틱 모티프 패밀리'를 성공적으로 복구했습니다.

핵심 포인트

• SAE 특징 분석을 위해 토큰 동시 발생 그래프(token co-occurrence graph) 구조적 표현을 도입했다.
• 커스텀 WL 스타일의 주파수 빈 그래프 커널(frequency-binned graph kernel)을 사용하여 구조적 유사성 측정 방법을 제시했다.
• 이 방법론은 GPT-2 Small과 같은 대규모 모델에서 기존 방식으로는 놓치기 쉬운 문장 부호 패턴, 언어 클러스터 등 '휴리스틱 모티프'를 성공적으로 복구할 수 있음을 입증했다.
• 토큰 빈도 기반 분석(token-histogram baseline)보다 보완적이며 지배적인 역할을 수행하며, 구조적 관계의 중요성을 강조한다.