최근의 로봇 기반 모델들은 단일 단계 또는 짧은 기록(history)의 시각-운동(visuomotor) 컨텍스트로 작동합니다. 우리는 Test-Time-Training Robot Policies (RoboTTT)를 소개합니다. 이는 로봇 모델이자 훈련 레시피로서, 추론 지연 시간(inference latency)을 증가시키지 않으면서 시각-운동 컨텍스트를 8K 타임스텝까지 확장하여 최신 정책들보다 세 자릿수 높은 수준으로 끌어올립니다. 이 컨텍스트 길이에서 우리는 새로운 로봇 기능을 구현할 수 있게 되었습니다: 인간의 비디오 데모 시연으로부터의 원샷 인컨텍스트 모방(one-shot in-context imitation), 실시간 정책 개선(on-the-fly policy improvement), 교란에 대한 강건성(robustness to perturbations), 그리고 다단계, 장기 지평(long-horizon) 작업에서 더 강력한 성능입니다. 또한 우리는 사전 훈련 컨텍스트 길이가 확장됨에 따라 폐쇄 루프(closed-loop) 성능에서 꾸준한 향상이 있음을 처음으로 관찰했습니다. 핵심적으로 RoboTTT는 Vision-Language-Action 정책과 같은 로봇 기반 모델에 Test-Time Training을 통합하여, 순환 상태가 빠른 가중치(fast weights)로 구성된 시퀀스 모델을 산출합니다. 이 가중치는 훈련과 추론 모두에서 경사 하강법(gradient descent)에 의해 업데이트되며, 기록들을 가중치 공간으로 압축하고 장기 컨텍스트 조건화(long-context conditioning)를 위해 컨텍스트 정보를 검색합니다. 훈련 컨텍스트 길이를 확장하기 위해 이 레시피는 시퀀스 액션 강제(sequence action forcing)와 시간 경과에 따른 절단된 역전파(truncated backpropagation through time)를 결합합니다. 까다로운 실제 로봇 조작 작업에서, RoboTTT는 단일 단계 컨텍스트 기준선 대비 전체 성능을 87% 향상시키고, 어떤 기준 모델도 완료하지 못했던 5분 분량의 10단계 조립 작업을 완벽하게 수행합니다. 8K 타임스텝 컨텍스트로 훈련된 RoboTTT는 1K 타임스텝으로 사전 훈련된 동일한 모델보다 62% 더 뛰어난 성능을 보여주며, 이는 로봇 기반 모델에 있어 컨텍스트 길이가 새로운 스케일링 축(scaling axis)임을 시사합니다. 비디오는 https://research.nvidia.com/labs/gear/robottt/에서 확인할 수 있습니다.