효율적인 시각-언어-행동(VLA) 정책 증류를 위한 오프라인 시맨틱 가이드 방식

요약

VLA-AD는 대규모 VLA 모델의 높은 추론 비용 문제를 해결하기 위해 VLM을 오프라인 시맨틱 감독관으로 활용하는 증류 프레임워크입니다. 작업 단계 앵커와 다중 프레임 동작 설명을 통해 고수준 시맨틱 가이드를 제공함으로써, 경량화된 학생 모델이 교사 모델의 성능을 거의 그대로 유지하면서도 훨씬 빠른 추론 속도를 갖도록 합니다. 이를 통해 실시간 로봇 제어에 적합한 효율적이고 강건한 정책 생성이 가능함을 입증했습니다.

핵심 포인트

• VLM을 활용한 고수준 시맨틱 가이드(작업 단계 앵커 및 동작 방향 설명)를 통해 저수준 행동 모방의 한계를 극복함
• OpenVLA-7B를 교사로 사용 시, 모델 크기를 44배 줄인 158M 파라미터 학생 모델로도 대등한 성능 유지
• RTX 4090 환경에서 교사 모델 대비 3.28배 빠른 12.5 Hz의 추론 속도 달성
• 단계별 감독과 다중 프레임 단서를 통해 교사 모델의 노이즈(고주파 그리퍼 변화 등)에 대한 강건성 확보
• 다양한 교사 모델(π₀.₅-4B 등)에 적용 가능한 일반화된 증류 파이프라인 제공