Archetype 제거: Archetypal SAE의 안정성은 초기화 및 지표 설계의 산물이다

희소 오토인코더 (Sparse Autoencoders, SAEs)를 이용한 사전 학습 (Dictionary learning)은 신경망 활성화 (Neural network activations)로부터 종종 해석 가능한 과완전 기저 (Overcomplete bases)를 생성하고 다의성 (Polysemanticity)을 줄여줍니다. 그러나 SAE의 특징 (Features)은 무작위 시드 (Random seeds)에 따라 크게 달라지는데, 이는 불안정성 (Instability)이라고 알려진 문제입니다. Archetypal SAEs (Fel et al., 2025)는 더 신뢰할 수 있는 개념 추출을 위한 일반적인 사전 학습 개입 방법으로 제안되었으며, 훈련 종료 시 더 안정적인 사전 (Dictionaries)을 보고했습니다. 우리는 Archetypal SAEs가 주장하는 안정성이 여러 실행에 걸쳐 동일한 초기화 (Initialization)를 설정한 결과임을 입증합니다. 분석을 통해 우리는 기계론적 해석 가능성 (Mechanistic interpretability)에서 모호하게 사용될 수 있는 두 가지 별개의 개념을 명확히 하고자 합니다: 안정성 (Stability)은 독립적으로 훈련된 두 모델 사이의 일치함을 의미하는 반면, 안정화 (Stabilization)는 독립적으로 초기화된 실행들이 공통된 솔루션으로 수렴하는 것을 의미합니다. 이러한 구분은 특징의 안정성이 SAE 특징이 재사용 가능한 분석 단위라는 증거로 점점 더 많이 사용되는 자연어 처리 (Natural Language Processing, NLP)의 기계론적 해석 가능성에서 매우 중요합니다. Archetypal SAEs의 실험은 결정론적인 k-means 디코더 초기화 (k-means decoder initialization)를 공유하며, 이는 훈련이 시작되기 전에 실행 간 사전 거리 (Inter-run dictionary distance)를 0으로 설정합니다. 이 초기화를 제거했을 때, 우리의 설정에서 Archetypal 제약 조건은 어떠한 안정화 이점도 제공하지 않습니다. 우리는 더 나아가 종단 안정성 지표 (Endpoint stability metrics)의 해석을 복잡하게 만드는 전처리 의존적 코사인 기하학 (Preprocessing-dependent cosine geometry) 문제를 식별했습니다. 전반적으로, 우리의 연구는 더 큰 사전 학습 전통 내에서 SAE를 연구하는 것의 가치를 지지하는 동시에, 안정성 주장은 궤적 진단 (Trajectory diagnostics)과 초기화 제거 실험 (Initialization ablations)을 필요로 함을 보여줍니다.