인가 없는 인식: LLM 과 온라인 조언의 도덕적 질서

대형 언어 모델(LLM) 은 일상적인 대인관계 딜레마를 중재하는 데 점점 더 많이 사용되고 있으나, 그들의 조언 기본값이 특정 공동체의 집중된 도덕적 질서와 어떻게 상호작용하는지는 아직 잘 이해되지 않고 있습니다. 이 논문은 r/relationship_advice 에서의 11,565 건의 게시물에 대한 커뮤니티가 찬성하는 조언과 네 가지 어시스턴트 스타일의 LLM 을 비교합니다. 서브레딧은 투표로 승인된 집중된 도덕 형성으로, 그 지시적 명확성이 편차를 측정 가능하게 만듭니다. 모델 전반에 걸쳐 LLM 은 인간 댓글 작성자가 파악한 많은 동역학을 동일하게 식별하지만, 그러한 인식을 행동에 대한 지시적 인가(authorization) 로 전환할 확률은 현저히 낮습니다. 이 격차는 공동체 합의가 가장 강한 곳에서 가장 뚜렷합니다: 고위험 합의를 가진 학대나 안전 위협을 다루는 게시물에서 모델은 인간 비율의 약 절반 수준으로 탈출(exit) 을 권유하면서도, 완화(hedging), 검증(validation), 치료적 프레임(therapeutic framing) 의 수준은 높게 유지합니다. 이 논문은 이를 '인가 없는 인식(recognition without authorization)'으로 설명합니다: 해악을 기록할 능력은 있지만, 결과적 행동에 대한 사회적으로 승인된 인가를 withheld 하는 것. 이러한 편차는 우연이 아니라 구조적입니다: 맥락에 관계없이 검증적이며, 위험 회피적이고 약하게 지시적인 이동 가능한 조언 스타일입니다. 안전 정렬(safety alignment) 이 이 패턴의 가능한 기여 요인 중 하나이며, 학습 데이터 평균화(training-data averaging) 와 더 넓은 어시스턴트 설계와도 관련이 있습니다. 이 논문은 모델 편차를 기술적 오류로 재정의하는 것이 아니라, 표준화된 어시스턴트 규범이 상황적인 도덕 세계를 마주칠 때 평평하게 만드는 것을 어떻게 보는지라는 관점으로 다시 해석할 수 있다고 주장합니다.