인가 없는 인식: LLM 과 온라인 조언의 도덕적 질서

요약

본 논문은 LLM이 온라인 관계 조언 커뮤니티의 합의된 도덕적 질서와 상호작용하는 방식을 분석했습니다. 연구는 11,565개의 게시물을 비교하여, LLM이 인간 댓글 작성자가 파악한 많은 역동성을 인식하지만, 이를 행동에 대한 구체적인 지시(authorization)로 전환할 확률은 현저히 낮다는 것을 발견했습니다. 이러한 현상을 '인가 없는 인식(recognition without authorization)'이라 명명하며, 이는 모델의 안전 정렬 및 표준화된 규범이 구조적으로 야기하는 결과임을 주장합니다.

핵심 포인트

• LLM은 온라인 커뮤니티가 합의한 도덕적 역동성을 높은 수준으로 인식하지만, 이를 행동 지침(authorization)으로 전환하는 데는 어려움을 겪는다.
• 특히 학대나 안전 위협과 같은 고위험 상황에서 LLM은 탈출 권유율이 낮고 완화 및 검증에 초점을 맞춘 조언을 제공한다.
• 이러한 현상은 '인가 없는 인식(recognition without authorization)'으로 설명되며, 모델의 구조적 특성(안전 정렬, 데이터 평균화)과 관련된다.
• LLM의 이러한 편차는 기술적 오류가 아니라, 표준화된 어시스턴트 규범이 복잡하고 상황적인 도덕 세계를 다룰 때 발생하는 필연적인 결과로 해석되어야 한다.