Looped Transformer를 위한 디코딩 개선 방안 (거의 무료)

Looped Transformers는 재귀적 루프(recurrent loops) 전반에 걸쳐 공유 블록을 반복 실행함으로써 파라미터 효율성을 달성합니다. 각 루프는 다음 토큰을 디코드할 수 있는 중간 표현(intermediate representation)을 산출하지만, 표준 디코딩 방식은 이전 상태들을 폐기합니다. 이전 루프들이 적은 계산량을 담고 있기 때문에, 재귀성은 보조 모델이나 외부 학습 없이도 정렬된 약한 예측-강한 예측 쌍(aligned weak-and-strong prediction pairs)을 본질적으로 제공합니다. 우리는 LoopCD라는 훈련이 필요 없는 대조적 디코딩 프레임워크를 소개하며, 이는 최종 예측과 이전 재귀 패스를 대조함으로써 토큰 선택을 안내합니다. 이 방식은 한 번의 추가 출력 패스로 로짓 공간(logit space)에서 작동하는 (LoopCD-Logits) 방식이나, 출력 오버헤드가 전혀 없는 히든 상태 공간(hidden-state space)에서 작동하는 (LoopCD-Hidden) 방식으로 구현됩니다. 네 가지 루프형 Transformer 계열에 걸쳐 LoopCD는 전체 재귀 깊이에서 상당하고 일관된 성능 향상을 제공합니다: LoopCD-Logits는 Ouro-2.6B-Thinking의 AIME 2024 pass@1을 61.88%에서 73.33%로 높였으며, LoopCD-Hidden은 Huginn의 HumanEval pass@1을 22.56%에서 31.71%로 끌어올렸습니다. 결정적으로, 이러한 성능 향상은 재귀 루프 수를 절반으로 줄이면서도 여전히 전체 깊이의 비유도(unguided) 기준선과 일치하거나 능가하는 것을 가능하게 하여, 순방향 FLOPs를 22.5%에서 48.2%까지 감소시킵니다. LoopCD는 중간 재귀 상태들을 효과적인 안내 신호로 변환함으로써, 추론 계산량을 크게 줄이면서도 우수한 디코딩 품질을 달성합니다.