Large Language Models에 대한 비선형 개입 (Non-linear Interventions)

요약

본 연구는 LLM의 내부 표현을 이해하기 위한 새로운 접근 방식인 비선형 개입(Non-linear Interventions) 방법을 제안합니다. 기존 방법들이 선형 가설에 기반하여 비선형 매니폴드 특징들을 포착하지 못했던 한계를 극복하고, 일반적인 공식과 학습 절차를 제시했습니다. 이를 통해 직접적인 출력 시그니처가 부족한 암시적 특징까지 개입할 수 있으며, 거부 우회 스티어링 실험에서 선형 방식보다 더 정밀하게 모델을 제어함을 입증했습니다.

핵심 포인트

• LLM 내부 표현 이해를 위해 비선형 개입(Non-linear Interventions) 방법을 도입하여 기존의 한계를 극복함.
• 제안된 방법은 일반적인 공식과 학습 절차를 제공하며, 암시적 특징에 대한 개입을 가능하게 함.
• 거부 우회 스티어링(refusal bypass steering) 실험을 통해 비선형 개입이 선형 방식보다 모델 제어(steering)가 더 정밀함을 입증함.