SAE 개입은 신뢰할 수 없습니다

요약

Sparse Autoencoder(SAE)를 이용한 특징 클램핑이 모델의 유해한 행동을 완전히 제거하지 못한다는 연구 결과입니다. 억제된 행동이 재구성 잔차를 통해 높은 확률로 회복됨을 보여주며, 특징 제어와 행동 안전성 사이의 간극을 지적합니다.

핵심 포인트

• SAE 특징 클램핑 시 재구성 잔차를 통한 행동 회복 발생
• 거부 유도 테스트에서 95.8%라는 높은 회복률 기록
• 특징 제어 기술과 실제 모델 행동 안전성 간의 격차 확인
• RNG-Bench를 통한 MLLM의 숨겨진 상태 재구성 능력 테스트