지렛대는 도달이 아니다: 언어 모델의 단일 뉴런 스티어링(Single-Neuron Steering)을 위한 제어 창 법칙

요약

언어 모델의 특정 뉴런을 조작하여 동작을 제어하는 '단일 뉴런 스티어링'의 예측 가능성을 다룬 연구입니다. 제어 창 법칙(Control Window Law) 프레임워크를 통해 뉴런 개입이 모델의 출력을 붕괴시키지 않고 일관되게 동작을 제어할 수 있는 범위를 이론적으로 규명합니다.

핵심 포인트

• 단일 뉴런 스티어링을 위한 예산 정규화된 제어 창 프레임워크 개발
• 잔차 노름과 쓰기 노름의 비율을 이용한 일관성 예산 개념 도입
• 뉴런 개입이 모델 출력을 붕괴시키지 않는 '붕괴 천장' 존재 확인
• 기존 그래디언트 기반 속성 방식의 한계를 극복하는 순전파 전용 스크리닝 제안
• 거부(refusal) 제어 시 일관된 우회와 엄격한 실행 가능성을 구분