Readout Scaling을 통한 희소 특징 복구

Readout scaling은 희소 오토인코더(SAE)가 학습하는 것을 변화시키지만, 이를 제거하는 이점은 데이터에 따라 다릅니다. 우리는 특이값 게인(singular-value gains)을 제거하면서 유지된 결정 정보(retained decision information)를 보존하기 위해 readout-canonicalized decision-space (RC-DS) 좌표를 사용합니다. 고정된 readout 조건수(readout condition number)에서 생성 분포를 변경하면 어떤 학습 좌표가 알려진 요인(known factors)을 가장 잘 복구하는지가 역전됩니다. 우리의 통제된 좌표 일치 연구(controlled coordinate-matching study)에서, 훈련이 요인이 생성된 공간을 복원할 때 복구율이 가장 높았습니다. 요인이 readout scaling 이전에 생성되었을 때, RC-DS는 동일한 예산 하의 centered-logit 훈련과 비교하여 조건수 100에서 평균 희소 요인 복구율을 0.506에서 0.913으로 증가시켰습니다. 정확한 래퍼(exact wrapper)가 RC-DS 훈련을 수치적 정밀도로 재현함으로써, 추가적인 정보보다는 훈련 기하학(training geometry)만을 분리해냅니다. 신경 정책(neural policies)에서, RC-DS는 테스트된 예산 하에 평균 로짓 재구성을 개선합니다. 세 가지 고정 언어 모델 체크포인트(language-model checkpoints)에서, RC-DS는 테스트된 18가지 태스크-희소성 설정(task-sparsity settings) 모두에서 더 높은 평균 게인 없는 재구성(mean gain-free reconstruction)을 보였으며, centered-logit SAE는 17개에서 출력 로짓을 더 잘 재구성했습니다. 작은 레이블 헤드 제어(Small-label-head controls)는 훈련 시간이 길어질수록 재구성 격차를 0.0198에서 0.0016으로 줄이는 것을 보여줍니다. 종합적으로, 이러한 결과들은 readout scaling, 데이터 분포, 그리고 훈련 모양이 희소 학습을 어떻게 형성하는지 보여줍니다. RC-DS는 readout의 기여도를 연구하고 제어하기 위한 정보 보존적인 방법을 제공합니다. 별도의 레이블 탐지(label-detection) 및 조향 테스트(steering tests)를 통해 이러한 재구성 효과가 태스크별 특징 유용성(task-specific feature usefulness)과 구별됩니다.