LLM 임베딩 공간은 전문가의 구조를 복원할 수 있는가?

사전 학습된 (Pretrained) 텍스트 임베딩은 표현 지도 (representational maps)로서 점점 더 많이 사용되고 있지만, 높은 범주 분리성 (category separability)이 반드시 그 기하학적 구조가 전문가가 정의한 구조를 복원한다는 것을 의미하지는 않습니다. 우리는 증상 관계가 외부 참조를 제공하고, 온라인 커뮤니티가 강력한 도메인, 정동 (affective), 스타일 및 담화 교란 요인 (confounds)을 도입하는 정신 건강 관련 언어에서 이 문제를 연구합니다. 28개의 Reddit 커뮤니티를 사용하여, 우리는 두 가지 규모 (0.6B 및 4B)에서 사전 학습된 (pretrained) 임베딩과 지도 미세 조정 (supervised fine-tuned)된 Qwen3 임베딩 공간을 비교합니다. 우리는 범주 프로토타입 (category prototypes)을 구축하고, 표현 유사도 분석 (representational similarity analysis)을 통해 이들의 표현 비유사도 행렬 (representational dissimilarity matrices)을 전문가 증상 행렬과 비교하며, 이러한 전역적 테스트를 프로토타입 기반의 전형성 (typicality) 및 다중 베이스라인 교란 제어 (multi-baseline confound controls)로 보완합니다. 사전 학습된 (Pretrained) 임베딩은 정신 건강 하위 집합 내에서 전문가 구조와 측정 가능한 정렬 (alignment)을 보여줍니다; 미세 조정 (fine-tuning)은 가장 미세한 범주 수준에서 이러한 정렬을 강화합니다; 그리고 더 큰 규모는 제로샷 (zero-shot) 정렬과 지도 학습에 의한 이득 (supervision-induced gains)을 모두 향상시킵니다. VAD, LIWC, 어휘 스타일 및 토픽 분포 구조를 제어한 후에도 잔여 정렬 (Residual alignment)은 상당한 수준으로 유지됩니다. 이러한 결과는 LLM 임베딩이 전문가와 관련된 범주 기하학을 복원할 수 있음을 시사하지만, 이러한 복원은 수준에 따라 달라지며 분류 (classification)만으로 추론하기보다는 명시적인 교란 요인에 대해 테스트되어야 함을 나타냅니다.