LLM의 자살 충동 탐지에 관한 검증 게이트 기반의 기계론적 설명

대규모 언어 모델 (Large language models, LLMs)은 자살 관련 콘텐츠 탐지와 같은 정신 건강 애플리케이션을 위해 점점 더 많이 제안되고 있으며, 이는 모델이 무엇에 의존하는가라는 질문을 제기합니다. 우리는 이를 기계론적 (mechanistically)으로 연구하며, 더 좁은 질문을 던집니다: 모델의 내부 특징 (internal features)에 대한 인과적 주장 (causal claim)을 어떻게 하면 더 신뢰할 수 있게 만들 것인가? 자살 충동 탐지를 사례 연구로 하는 우리의 검증 게이트 (validation-gated) 프레임워크는 모델이 특정 행동을 수행함을 보여준 후에만 그 행동을 해석합니다: 즉, 모델이 단순한 어휘적 베이스라인 (lexical baseline)보다 해당 개념의 순위를 높게 매길 때만 개념이 수용되며, 이후의 각 속성은 일치하는 대조군 (matched control)을 통해 테스트됩니다. 이러한 규율은 부정적인 결과뿐만 아니라 긍정적인 결과도 도출합니다. 게이트는 시작 단계에서 한 가지 작업을 배제합니다: DeepSuiMind (Li et al. 2025)에서 Llama-3.1-8B-Instruct는 암시적인 자살 의도를 일반적인 고통 (ordinary distress)과 분리하지 못하므로, 우리는 이를 분석하지 않습니다. 우리는 모델이 수행할 수 있는 이진 자살 탐지 (binary suicide detection)로 눈을 돌립니다. 그곳에서 우리는 키워드 기반이 아닌 의미론적 (semantic)으로 보이는, 결정에 인과적으로 관여하며 (이를 제거(ablating)하면 판단력이 저하되지만, 무작위 방향은 그렇지 않음), 저계수 (low-rank)이고, 세 가지 모델 제품군과 세 가지 자살 데이터셋 전반에 걸쳐 재현되는 네트워크 중간 단계의 특징을 발견합니다. 레지스터 매칭 대조군 (register-matched control, 자살 대 우울증)은 이 특징이 일반적인 고통보다 자살 충동을 더 구체적으로 추적함을 시사합니다. 스티어링 (Steering)은 모델의 응답을 높이지만, 관련 없는 질문에 대해서도 응답을 높이므로, 우리는 이를 필요조건이지만 충분조건은 아닌 것으로 취급합니다. 가장 명확한 패턴은 인코딩 (encoding)과 사용 (use)을 분리합니다: 더 작은 모델들은 이미 자살 충동을 표현하고 있지만, 더 큰 모델들만이 그것에 따라 행동하는 것으로 보입니다. 긍정적인 증거는 영어 Reddit 텍스트이며, 이는 임상적 해석을 제한합니다.