액션 캐싱 및 정제(Refinement)를 통한 비전-언어-액션 모델의 훈련 없는 가속화
요약
본 논문은 로봇 조작에 유망한 VLA 모델의 계산 병목 현상을 해결하기 위해 ActionCache라는 외부 캐시를 제안합니다. 이 캐시는 과거 중간 액션을 재사용하여 목표 액션 근처에서의 생성을 워밍업함으로써 추론 지연 시간을 크게 줄입니다. 실험 결과, ActionCache는 대표적인 플로우 기반 VLA 모델에서 높은 태스크 성공률을 유지하며 상당한 추론 가속화를 달성했습니다.
핵심 포인트
- ActionCache: 과거 중간 액션을 재사용하는 외부 캐시 구조 제안
- VLA 모델의 주요 병목 현상인 노이즈 제거 과정을 개선
- 추론 지연 시간을 대폭 줄여 실시간 로봇 배포에 기여
- 대표 VLA 모델에서 최대 11.75배 ~ 34.43배 추론 가속화 입증
비전-언어-액션 (VLA) 모델은 범용적인 로봇 조작을 위한 유망한 접근 방식으로 부상했습니다. 특히, 플로우 매칭(flow matching) 기반 VLA 모델은 정밀하고 부드러운 액션 시퀀스를 생성하고 다중 모드 분포를 포착하는 능력 덕분에 놀라운 성공을 보여주었습니다. 그러나 액션 헤드의 반복적인 노이즈 제거 과정은 주요한 계산 병목 현상으로 작용하여, 실시간 배포에 중요한 과제를 제기합니다. 이 문제를 해결하기 위해, 우리는 ActionCache라는 플러그 앤 플레이(plug-and-play) 외부 캐시를 제안합니다. 이는 과거의 중간 액션을 기회적으로 재사용하여 목표 액션 근처에서의 생성을 워밍업(warm-start)함으로써 추론 지연 시간(inference latency)을 대폭 줄입니다. 구체적으로, ActionCache는 압축된 다중 모드 키와 함께 중간 액션을 저장하며, 이를 통해 다른 에피소드나 심지어 다른 태스크 전반에 걸쳐 유사한 과거 컨텍스트로부터 검색할 수 있게 합니다. 시뮬레이션 및 실제 환경에서의 실험 결과는 ActionCache가 낮은 지연 시간 영역에서도 높은 태스크 성공률을 유지하며, 대표적인 플로우 기반 VLA 모델인 $ ext{π}_{0.5}$와 GR00T-N1.6에 대해 각각 최대 $11.75 imes$ 및 $34.43 imes$의 추론 가속화를 달성함을 입증합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기