언어 모델의 공유 문법적 메커니즘에 대한 세밀한 분석

언어 모델이 정교한 문법 능력을 보인다는 것은 입증되었지만, 그 내부 메커니즘이 언어학에서 연구된 교차 구성 원리(cross-constructional principles)와 얼마나 일치하는지는 여전히 잘 이해되지 않고 있습니다. 본 연구는 가원성 해석 가능성 방법론(causal interpretability methods)을 세밀한 수준에서 적용하여 모델이 다양한 문법적 구성에 걸쳐 공유된 신경 메커니즘(neural mechanisms)을 사용하는지 조사합니다. 필러-갭 의존성(filler-gap dependencies)과 부정 극성 항목(NPI, negative polarity item) 라이선싱에 초점을 맞추어, 특정 주의 헤드(attention heads)와 MLP 블록의 기능적 역할을 식별하기 위해 활성화 패칭(activation patching)을 활용합니다. 우리의 결과는 필러-갭 의존성에 대해 초기에서 중간 층에 위치한 매우 국소적이고 공유된 메커니즘이 존재함을 보여주지만, NPI 처리에는 그러한 통합된 메커니즘이 없음을 나타냅니다. 또한, 활성화 패칭으로 식별된 이러한 메커니즘이 분포 밖(out-of-distribution) 데이터로 일반화되지만, 감독 학습 해석 가능성 방법(supervised interpretability method)인 분산 정렬 검색(distributed alignment search)은 좁은 언어적 분포(narrow linguistic distributions)에서 과적합(overfitting)에 취약함을 발견합니다. 마지막으로, 식별된 구성 요소를 조작함으로써 수용성 판단 벤치마크(acceptability judgment benchmarks)에서의 모델 성능이 개선됨을 보여줌으로써 우리의 결과를 검증합니다.