의지는 있으나 능력이 부족함: Abliteration을 통한 코드 LLM의 거부(Refusal)와 능력(Capability) 분리

요약

본 논문은 코드 LLM의 안전 정렬로 인한 거부(Refusal) 현상을 해결하기 위해 Abliteration 기법을 제안합니다. 잔차 스트림에서 거부 방향을 직교 투영하여 제거함으로써, 모델의 코드 생성 능력은 유지하면서 특정 취약점 주입 요청에 대한 거부율을 획기적으로 낮출 수 있음을 입증했습니다.

핵심 포인트

• Abliteration을 통해 코드 생성 능력 손실 없이 거부 반응 제거 가능
• 거부율은 모델 파라미터 규모 및 프롬프트 문맥에 따라 상이하게 나타남
• Abliteration은 모델의 '의지'와 '능력'을 분리하는 효과를 가짐
• Qwen2.5-Coder 제품군을 통해 다양한 규모에서 실험적 타당성 확인