옳고 그름을 넘어, 모델은 순응한다: LLM 도덕적 판단에서의 방향성 맹목성 (Directional Blindness)

언어 모델이 다양한 영역에서 통합적인 역할을 수행함에 따라, 사용자의 압박(pushback)에 대한 LLM의 반응은 중요한 정렬(alignment) 특성이 됩니다. 그러나 기존의 많은 평가 방식은 순응(compliance)을 단방향적인 것으로 취급하여, 모델이 압박에 저항하는지 여부만을 측정할 뿐, 선택적으로 저항하는지 여부는 측정하지 않습니다. 우리는 유익한 유도(helpful nudges)에 따른 유익한 출력 변화와 오도하는 유도(misleading nudges)에 따른 유해한 변화를 비교하는 양방향 진단 도구인 순응 비대칭성 (Compliance Asymmetry, A = BCR/HCR)을 도입합니다. 9개의 모델과 972,000개의 유도 조건 응답을 통해 분석한 결과, 이러한 선택성은 사실적 판단과 도덕적 판단에서 다르게 나타남을 발견했습니다. 사실적 질문에 대해서는 모델이 유해한 유도보다 유익한 유도를 더 많이 따르지만 (A = 1.58), 도덕적 질문에 대해서는 두 방향 모두 거의 동일한 비율로 따릅니다 (A = 1.04). 이 현상은 모델 제품군, 능력 수준, 유도 유형 전반에 걸쳐 지속됩니다. 흥미롭게도, 사고 사슬 (Chain-of-Thought, CoT) 프롬프팅은 유익한 순응과 유해한 순응을 모두 증폭시키는 반면, 정체성 기반 (identity-based) 프롬프팅은 두 가지 모두를 거의 동일한 수준으로 억제한다는 것을 발견했습니다. 이러한 결과는 방향성 맹목적 도덕 순응 (direction-blind moral compliance)이 현재 LLM의 뚜렷한 실패 모드임을 식별하며, 정렬 (alignment)이 단순히 순응도를 낮추는 것이 아니라 방향성 있게 조정된 업데이트 (directionally calibrated updating)를 목표로 해야 함을 시사합니다.