Steer Like the LLM: 활성화 조작이 프롬프트 조작을 모방하는 방법

요약

본 논문은 대규모 언어 모델(LLM)의 활성화 조작 기법이 기존의 프롬프트 기반 조작 방식과 성능 격차가 있다는 문제를 다룹니다. 연구진은 프롬프트 조작을 활성화 개입의 한 형태로 공식화하고, 이를 모방하도록 훈련된 Prompt Steering Replacement (PSR) 모델을 제안합니다. 실험 결과, PSR 모델은 다양한 언어 모델에 대해 기존 활성화 조작 방법보다 우수한 성능을 보였으며, 특히 일관성 완성 및 페르소나 유도 측면에서 프롬프팅과 비교해도 경쟁력 있는 결과를 입증했습니다.

핵심 포인트

• 기존의 LLM 활성화 개입(activation interventions)은 프롬프트 기반 조작 방식만큼 효과적이지 않다는 문제점을 지적합니다.
• 연구진은 프롬프트 조작을 활성화 공간에서 구현하는 새로운 접근법, Prompt Steering Replacement (PSR) 모델을 개발했습니다.
• PSR 모델은 토큰별로 정교하게 개입하여 프롬프트 기반의 미묘한 제어 메커니즘을 모방합니다.
• 다양한 벤치마크(AxBench, persona steering 등)에서 PSR 모델이 기존 활성화 조작 기법보다 우수하거나 프롬프팅과 유사한 성능을 달성함을 입증했습니다.