최적성이 희소 사전(Sparse Dictionaries)을 어떻게 구조화하는가: SAE 표현을 이해하기 위한 이론

희소 오토인코더 (Sparse Autoencoders, SAEs)는 신경망 표현 (neural representations)을 해석 가능한 개념 (interpretable concepts)으로 파싱하는 데 성공하며, 이해와 제어를 위한 기초를 제공해 왔습니다. 하지만 SAE가 정확히 무엇을 추출하는지, 그리고 그에 따라 우리가 도출할 수 있는 과학적 결론이 무엇인지는 명확하지 않습니다. 경험적으로는 '결과가 증명하듯(the proof is in the pudding)', SAE는 해석 가능한 특징 (interpretable features)을 학습합니다. 이론적으로는, SAE가 특정 '개념 (concept)'을 추출하기 위해 해당 개념이 반드시 충족해야 하는 속성이 무엇인지에 대한 명확한 설명이 부족합니다. 희소 코딩 (sparse coding)이 실제 특징 (ground-truth features)을 복구하는 조건에 대한 광범위한 식별 가능성 (identifiability) 연구가 있었으나, 이러한 접근 방식들은 SAE가 학습되는 인터넷 규모의 언어 모델 표현 (language-model representations)을 제대로 근사하지 못하는 단순한 데이터 생성 모델 (예: 희소 독립 특징)에 집중하는 경향이 있습니다. 본 논문에서는 데이터 생성 모델을 피하면서, 단순히 모든 사전 학습 (dictionary learning) 최적점이 충족해야 하는 속성이 무엇인지 질문합니다. 구체적으로, 우리는 일반적인 (vanilla) SAE가 근사하는 비음수 결합 최적화 (nonnegative joint-optimisation) 문제로 국소 최적성 분석 (local optimality analyses, Gribonval & Schnass, 2010)을 확장하고, 최적의 SAE 특징과 그 분포를 연결하는 제약 조건을 도출합니다. 우리는 이러한 제약 조건을 사용하여 관찰된 다양한 SAE 동작들—계층적 분할 및 흡수 (hierarchical splitting & absorption), 잔차 (residuals)의 구조, 그리고 밀집된 대척점 특징 (dense antipodal features)—을 설명하며, 이는 각각 $L_1$ 규제와 비음수성 (nonnegativity)이 데이터와 상호작용하여 최적의 사전 (optimal dictionaries)을 어떻게 구조화하는지를 반영합니다. 마지막으로, 우리는 새로운 대규모 사전 볼록 문제 (large-dictionary convex problem)를 구축하고 넓은 데이터 포인트당 원자 (atom-per-datapoint) 한계를 탐구합니다. 요약하자면, 우리는 예상치 못한 관찰로부터 모델의 가정을 끌어내어, SAE의 성공으로부터 더 많은 것을 배우고 그 후속 모델을 설계하기 위한 원칙을 제공하고자 합니다.