언어 모델의 컨텍스트 기반 선형 활성화 스티어링 (Contextual Linear Activation Steering)

요약

본 논문은 컨텍스트 기반 선형 활성화 스티어링(CLAS)이라는 새로운 방법을 제안합니다. CLAS는 입력 컨텍스트에 따라 동적으로 적응하는 스티어링 강도를 적용하여, 기존 방법들이 가졌던 일관성 부족 문제를 해결했습니다. 이 방법은 제한된 라벨링 데이터 환경에서 대규모 언어 모델을 전문화하고 행동을 유도하는 데 매우 효과적이며, 기존의 최신 기술들(ReFT, LoRA 등)과 비교해도 우수한 성능을 보여줍니다.

핵심 포인트

• CLAS는 컨텍스트 의존적인 스티어링 강도를 동적으로 적용하여 모델 전문화의 정확성을 높입니다.
• 기존 선형 활성화 스티어링 방법들이 모든 토큰에 고정된 강도를 사용해 발생하는 일관성 문제를 해결했습니다.
• 제한된 라벨링 데이터 환경에서도 ReFT나 LoRA와 동등하거나 그 이상의 성능을 달성합니다.
• CLAS는 대규모 언어 모델(LLM)의 전문화 및 행동 유도에 있어 확장 가능하고 해석 가능한 방법론으로 제시됩니다.