LocUS: 목표 활성화 조향을 위한 헤드 선택 및 부분 공간 투영

활성화 조향(Activation steering)은 추론 시간(inference time)에 대규모 언어 모델(LLM)을 제어하는 강력한 훈련 불필요 패러다임입니다. 하지만 표준 접근 방식들은 대비 데이터(contrastive data)로부터 레이어별 조향 방향을 추정하고, 이를 해당 레이어의 전체 표현 공간에 적용합니다. 이 과정은 개입을 대비 데이터에 존재하는 목표 외 속성(off-target properties)과 결합시킬 수 있으며 관련 없는 능력을 저하시킬 수 있습니다. 이러한 문제를 완화하기 위해, 우리는 LocUS (Localized Unembedding Steering)를 소개합니다. 이는 활성화 조향을 모델 자체의 출력 어휘 부분 공간(output vocabulary subspace)에 기반하는 방법입니다. LocUS는 언임베딩 행렬(unembedding matrix) 내에서 속성별 선형 부분 공간(property-specific linear subspace)을 식별함으로써, 조향 변환이 특정 부분 공간으로 제한되는 기하학적 제약(geometric constraint)을 강제하고 동시에 그 적용을 희소한 어텐션 헤드(attention heads)의 하위 집합에 국지화합니다. 독성 완화, 감정 재지향, 아첨 방지 등 세 가지 모델 계열에 걸친 광범위한 평가 결과는 LocUS가 6% 미만의 파라미터만 개입하면서도 최신 기술 기반(state-of-the-art baselines)과 동등하거나 더 나은 성능을 보이며 일반 능력을 더 잘 보존함을 보여줍니다.