DiffusionGemma의 투명성은 어느 정도인가?

LLM 추론 투명성 (reasoning transparency)은 모델의 결정을 이해하고, 오용 및 정렬 불량 (misalignment)을 완화하며, 놀라운 모델 동작을 디버깅하기 위한 핵심적인 기능입니다. 그러나 DiffusionGemma는 계산의 더 큰 부분을 연속적인 잠재 공간 (continuous latent space)에서 수행합니다. 이것이 추론의 투명성을 낮추게 될까요? 우리는 투명성을 두 가지 구성 요소로 분해하여 이 문제를 연구합니다: 모델의 계산 상태의 중간 스냅샷 (intermediate snapshots)을 이해할 수 있는지 여부인 변수 투명성 (variable transparency), 그리고 이러한 스냅샷을 사용하여 모델이 출력에 도달한 과정을 재구성할 수 있는지 여부인 알고리즘 투명성 (algorithmic transparency)입니다. 단순하게 생각하면, DiffusionGemma는 변수 투명성이 낮습니다. 해석 가능한 모델 상태 사이에 발생하는 직렬 계산의 양인 불투명한 직렬 깊이 (opaque serial depth)가 대응하는 자기회귀 (autoregressive) Gemma 4 모델보다 처음에는 28.6배 더 높은 것으로 보입니다. 그러나 우리는 다운스트림 성능의 저하 없이 해석 가능한 토큰 병목 (interpretable token bottleneck)을 통해 디노이징 단계 (denoising steps) 사이를 흐르는 정보를 매핑할 수 있음을 보여줍니다. 이러한 중간 상태를 해석 가능한 것으로 취급하면 불투명한 직렬 깊이는 Gemma 4의 단 1.1배로 줄어듭니다. 알고리즘 투명성은 자기회귀 모델보다 확산 모델 (diffusion models)에서 더 어렵습니다. 왜냐하면 캔버스 내의 모든 토큰 예측이 매 디노이징 단계마다 변경될 수 있어, 모델이 디노이징 과정 동안 복잡한 분산 알고리즘 (distributed algorithms)을 구현할 수 있는 능력을 갖게 되기 때문입니다. 이 격차를 줄이기 시작하기 위해, 우리는 일련의 해석 가능성 (interpretability) 사례 연구를 수행하여 비연대기적 추론 (non-chronological reasoning), 토큰 및 시퀀스 스미어링 (token and sequence smearing), 중간 컨텍스트 추론 (intermediate-context reasoning)과 같은 새로운 확산 특유의 현상에 대한 초기 증거를 발견했습니다. 마지막으로, 우리는 모델 출력이 다운스트림 작업에 유용한지 측정하는 투명성의 핵심 응용 분야인 모니터링 가능성 (monitorability)을 테스트합니다. 우리는 DiffusionGemma가 Gemma 4와 유사하게 모니터링 가능하다는 것을 발견했습니다.