신경 언어 모델(NLM)이 문자열을 그 문법성에 기반하여 구별하는 능력을 가지고 있는지 여부는 전산 언어학 문헌에서 논쟁이 되는 주제입니다. 기존의 증거들은 주로 확률 기반 측정에 의존해 왔으며, 모델이 문법적인 문자열보다 비문법적인 문자열에 더 높은 확률을 할당하는지 테스트했습니다. 그러나 이러한 확률 비교는 문법성이 본질적으로 가능도(likelihood)와 얽혀 있다는 가정에 근거하여 문법적 지표로 사용된다는 점에서 비판받아 왔습니다. 모델이 할당하는 확률은 어휘 빈도, 그럴듯함(plausibility), 세계 지식 등 많은 관련한 문장 속성에 대한 함수입니다. 본 연구에서는 확률 기반 평가를 넘어, 문법성이 NLM의 내부 표현에 인코딩되어 있는지 조사합니다. 질량-평균 프로빙(mass-mean probing)을 사용하여, 문법적이고 비문법적인 문장이 표현 공간에서 체계적으로 분리되는지 테스트했습니다. 나아가 이러한 표현들이 문법성과 상관관계가 있는 문장 속성으로부터 얼마나 독립적인지, 그리고 다양한 문법 현상과 언어 전반에 걸쳐 일반화되는지를 검토합니다. 우리의 결과는 광범위한 범위의 사전 학습된 NLM의 문장 표현에 문법성이 강력하게 인코딩되어 있음을 보여주며, 이는 대체적인 문장 수준 요인들만으로는 완전히 설명될 수 없는 문법성 차원의 명확한 표현적 분리를 산출합니다. 더욱이, 이러한 인코딩은 광범위한 범위의 문법 현상과 어느 정도는 언어 전반에 걸쳐 일반화됨을 시사하며, 이는 문법성이 현대 NLM에서 일관된 표현적 차원을 구성함을 의미합니다. 이러한 발견은 언어 모델에서의 통사론적 지식의 본질에 대한 논쟁에 새로운 증거를 제공하고, 문자열 확률에만 의존하지 않는 문법적 역량을 평가하기 위한 보완적인 프레임워크를 제시합니다.