희소 오토인코더는 개념 다양체를 포착하는가?

희소 오토인코더 (Sparse Autoencoders, SAEs) 는 신경망 표현에서 해석 가능한 특징을 추출하는 데 널리 사용되며, 종종 개념이 독립적인 선형 방향에 대응한다는 암묵적인 가정에 기반합니다. 그러나 최근 증가하고 있는 증거들은 많은 개념들이 대신 연속적인 기하학적 관계를 인코딩하는 저차원 다양체 (low-dimensional manifolds) 를 따라 조직화되어 있음을 시사합니다. 이는 SAE 가 다양체를 포착하는 것이 무엇을 의미하는지, 기존 SAE 아키텍처가 이를 수행하는 시점은 언제이며, 어떻게 하는지에 대한 세 가지 기본적인 질문을 제기합니다. 우리는 이러한 질문에 답하고 SAE 가 두 가지 근본적으로 다른 방식으로 다양체를 포착할 수 있음을 보여주는 이론적 프레임워크를 개발했습니다. 하나는 전체 다양체를 포함하는 선형 스패ن (linear span) 을 갖는 컴팩트한 원자 (atoms) 그룹을 할당함으로써 전역적으로 (globally) 수행되는 경우이고, 다른 하나는 기하학의 제한된 영역을 선택적으로 타일링 (tile) 하는 특징에 걸쳐 분포시킴으로써 국소적으로 (locally) 수행되는 경우입니다. 경험적 분석에서 우리는 SAE 가 연속적인 구조를 최적화되지 않은 방식으로 복원하며, 이를 희석 (dilution) 이라고 부르는 파편화된 영역에서 전역 부분공간과 국소 타일링 솔루션을 혼합함을 발견했습니다. 이는 다양체 구조가 개별 개념 수준에서는 거의 관찰되지 않는 이유를 설명하며, 고립된 방향 대신 일관된 원자 그룹을 탐색하는 사후적 비지도 학습 발견 방법을 동기화합니다. 더 넓은 관점에서, 우리의 결과는 미래의 표현 학습 방법이 해석 가능성의 기본 단위로 단순히 개별 방향뿐만 아니라 기하학적 객체를 다루어야 함을 시사합니다.