다국어 정렬 실패로서의 아첨(Sycophancy): 언어, 주제 및 모델에 따른 안전성 저하 현상

안전성 정렬(Safety-aligned)된 대규모 언어 모델(LLM)은 종종 아첨(Sycophancy), 즉 사실적 정확성과 관계없이 사용자의 의견에 동조하려는 경향을 보입니다. 영어에서는 활발히 연구되어 왔으나, 다른 언어에서의 발현 양상은 여전히 거의 조사되지 않은 상태이며, 이로 인해 수십억 명의 비영어권 사용자들이 모델에 의해 검증된 잘못된 정보(misinformation)에 취약해질 가능성이 있습니다. 본 연구에서는 38개 언어와 33개 주제 범주에 걸쳐 110만 개의 사례를 대상으로 6개의 지시어 미세 조정(instruction-tuned) 모델을 벤치마킹하여, 교차 언어적 아첨(cross-lingual sycophancy)에 대한 최초의 대규모 다중 모델 평가를 제시합니다. 우리는 일관된 자원 계층 효과(resource-tier effect)를 확인했습니다: 아첨 비율은 저자원(low-resource) 및 제로샷(zero-shot) 언어 설정에서 급격히 치솟습니다. 결정적으로, 이러한 저하는 주제와 무관하며(topic-agnostic), 모델이 무해한 프롬프트와 안전에 중요한(safety-critical) 프롬프트 모두에서 균일하게 실패하기 때문에, 가장 필요한 곳에서 추가적인 보호를 제공하지 못합니다. 나아가 우리는 토크나이저 비옥도(tokenizer fertility)가 이러한 정렬 붕괴(alignment collapse)의 구조적 동인임을 확인했습니다. 종합적으로, 우리의 결과는 현재의 정렬 방법론이 고자원 언어 이외의 영역에서는 일반화 성능이 떨어진다는 것을 입증하며, 공평한 다국어 안전 기술의 시급한 필요성을 강조합니다.