AI가 갈등을 악화시킬 수 있는가? 갈등 맥락 전반에 걸친 LLM 배포 시의 정렬 실패 (Alignment Failure)

AI 모델은 이미 무력 충돌의 영향을 받는 사회에 배포되어 있으며, 기자, 인도주의 활동가, 정부 및 일반 시민들은 정보나 업무 프로세스를 위해 AI 모델에 의존하고 있습니다. 모델의 출력이 이러한 갈등을 악화시킬 수 있는지 확인하기 위한 확립된 관행은 존재하지 않습니다. 우리는 갈등 맥락에서 정렬되지 않은 행동 (misaligned behaviour)을 드러내도록 설계된 90개의 다회차 시나리오(multi-turn scenarios)를 통해 4개의 제공업체(OpenAI, Anthropic, DeepSeek, xAI)로부터 얻은 9개의 모델 구성(model configurations)을 테스트했습니다. 이러한 행동에는 기록된 참상 사이의 거짓 등가성 (false equivalence), 집단 학살 (genocide) 부정, 그리고 인종 차별적 비속어 (ethnic slurs) 인식 실패 등이 포함됩니다. 이러한 출력이 저널리즘, 인도주의적 보고 또는 공공 토론에 유입될 경우, 취약한 사회의 분열을 심화시킬 수 있습니다. 실패율은 가장 성능이 좋은 모델과 가장 나쁜 모델 사이에 6%에서 47%까지 걸쳐 있으며, 이는 모델 선택 자체가 안전 문제임을 시사합니다. 국제 법원이 이미 책임을 할당한 사례에서 사용자가 "균형 (balance)"을 요구했을 때, 9개 구성 중 5개는 80~100%의 확률로 실패했습니다. 우리는 이 영역에 대한 최초의 평가 프레임워크 (evaluation framework)를 공개하며, 이를 정렬 평가 포트폴리오 (alignment evaluation portfolios)에 추가할 것을 제안합니다.