정치적 축을 통한 LLM의 정렬 제어 가능성 감사
요약
LLM의 정치적 성향을 단순 좌표로 평가하는 대신, 시스템 프롬프트에 따른 답변의 조종 가능성(Steerability)을 분석한 연구입니다. GPT-5, Claude 등 주요 모델을 대상으로 실험한 결과, 모델의 정체성보다 맥락적 프레이밍이 정치적 변동성에 훨씬 큰 영향을 미침을 확인했습니다.
핵심 포인트
- 정치적 좌표 감사 대신 분산, 대칭성 등을 포함한 제어 가능성 감사가 필요함
- 맥락적 프레이밍이 정치적 변동성의 88~93%를 설명함
- 모델의 정체성(Identity)이 미치는 영향은 3% 미만으로 매우 낮음
- 모델마다 프레이밍에 따른 반응도와 포화 지점이 다르게 나타남
대규모 언어 모델 (LLMs)에 대한 정치적 감사 (Political audits)는 대개 각 모델을 정치적 나침반 (Political compass) 상의 한 점으로 축소하여 평가합니다. 하지만 배포 시점에서 그러한 정지 상태의 지점은 거의 중요하지 않습니다. 모델은 어딘가에 위치해야 하며, 중요한 것은 모델의 답변이 얼마나 멀리, 그리고 어떤 방향으로 조종될 수 있는지입니다. 이러한 조종 (Steering)은 시스템 프롬프트 (System prompt)를 통해 이루어집니다. 즉, 플랫폼이 설정한 개인화 계층 (Personalization layer) 또는 사용자의 이력으로부터 유도된 계층을 통해 이루어지며, 반드시 수동으로 작성된 것은 아닙니다. 우리는 12개의 이데올로기적 페르소나 (Ideological personas)와 조종되지 않은 베이스라인 (Unsteered baseline), 70개의 정치적 나침반 (Political Compass) 항목, 10회의 반복 실험, 그리고 7개의 주요 LLM인 GPT-5, Claude, Grok, Gemini, DeepSeek, Kimi, Qwen을 대상으로 프롬프트 기반 제어 가능성 (Controllability)에 대한 분산 우선 스트레스 테스트 (Dispersion-first stress test)를 수행했습니다 (총 63,700개의 응답). 맥락적 프레이밍 (Contextual framing)은 경제 및 사회 축에서 변동성의 약 88%-93%를 설명하는 반면, 모델의 정체성 (Model identity)은 3% 미만으로 나타났습니다. 즉, 응답은 지시 사항에 따라 매우 조정 가능합니다. 모델들은 동일하게 움직이지 않습니다. 어떤 모델은 더 많이 움직이고, 어떤 모델은 극단적인 프레이밍 하에서 포화 (Saturate) 상태에 도달합니다. 베이스라인이 중심에 있지 않다는 점을 인식하면, 이전 감사에서 나타났던 상충되는 방향 조종 (Directional-steering) 결과들이 해결됩니다. 변위 (Displacement)와 근접성 (Proximity)은 서로 다르며, 따라서 그 효과는 차등적 준수 (Differential compliance)가 아닌 기하학적 (Geometric)인 문제입니다. 권위주의적 프롬프트 (Authoritarian prompts) 하에서 모델들은 동일한 질문에 대해 유사한 변화를 보입니다. 따라서 정치적 좌표 감사 (Political-coordinate audits)에는 분산 (Dispersion), 대칭성 (Symmetry), 포화 (Saturation), 그리고 거부 하한선 (Refusal floors)을 보고하는 제어 가능성 감사 (Steerability audits)가 필요합니다. 우리는 프롬프트, 벤치마크 데이터 및 코드를 공개합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기