Qwen-Scope: Qwen 3.5 모델 공식 희소 오토인코더 (SAE)

요약

Qwen 팀이 Qwen 3.5 모델 패밀리(2B~35B MoE)을 위한 Sparse Autoencoders (SAEs) 모음집인 Qwen-Scope를 출시했습니다. 이 도구는 모델의 내부 개념 사전 역할을 하여, '법적 대화'나 '파이썬 코드'와 같은 특정 기능 ID를 식별할 수 있게 합니다. 사용자는 이를 통해 원치 않는 행동(예: 거절이나 도덕화)을 정밀하게 억제하거나, 원하는 스타일/개념을 강제로 활성화하여 모델의 출력을 미세 조정하고 디버깅할 수 있습니다.

핵심 포인트

• Qwen-Scope는 Qwen 3.5 모델의 내부 개념 사전(Sparse Autoencoders) 역할을 합니다.
• 특정 기능 ID를 식별하여, 거절이나 도덕화 같은 원치 않는 행동을 정밀하게 '수술적 제거'할 수 있습니다.
• 원하는 스타일이나 개념을 특정 Feature ID에 주입하여 모델 출력을 능동적으로 '스티어링(Feature Steering)' 할 수 있습니다.
• 모델의 이상 행동 발생 시, 어떤 내부 기능이 과활성화되었는지 진단하고 디버깅하는 데 활용 가능합니다.