가속기 인증을 통해 VLA 모델의 속도를 10배 향상시키다

가속으로 인한 실패 위험을 제한함으로써 실무자들은 비전-언어-행동 에이전트(vision-language-action agents)에서 한 자릿수 크기의 속도 향상을 얻을 수 있습니다. 흥미로운 점은 형식적 보장이 이러한 성능 향상과 공존할 수 있다는 것이며, 이는 안전성과 성능이 상호 배타적이라는 일반적인 믿음을 뒤엎습니다.

기존의 VLA 가속기는 순수한 지연 시간(latency) 감소에 초점을 맞추어 행동 청킹(action chunking), 비전 토큰 가지치기(visual-token pruning) 등의 트릭을 사용했으며, 평균 작업 성공률만을 보고했습니다. 이러한 측정 기준은 폐쇄 루프 궤적(closed-loop trajectories)에서만 나타나는 실패를 숨깁니다. 왜냐하면 단 한 번의 실수도 에피소드 전체의 붕괴로 이어질 수 있는데, 이는 평균 수치로는 절대 드러나지 않기 때문입니다.

CARE는 사용자가 지정한 실패 예산(failure budget) 하에서도 참조 해결된 에피소드의 최소 85.8%가 95% 신뢰도로 성공적으로 유지됨을 보장하면서 9.0–10.8배 더 빠른 추론 속도를 인증합니다 [].

이러한 인증 과정 자체는 포괄적인 테스트보다 약 5배 적은 롤아웃(rollouts)을 필요로 합니다. “[[]]에 따르면, CARE는 25,000개 대신 5,263개의 롤아웃을 사용하여 평가 비용이 가장 낮으며, H1 평가를 1,000개에서 113개로 줄입니다.” []

이 방법의 보장은 정적 교정 세트(static calibration set)에 의존하며, 현재까지 네 가지 LIBERO 스위트와 두 개의 에이전트(Qwen3.5-9B, Llama-3.1-8B)에서만 시연되었습니다. 이는 더 크고 지속적으로 진화하는 배포 환경이나 온라인 적응 시나리오로 얼마나 확장될 수 있는지에 대해서는 여전히 열려 있는 문제입니다 [].

미래의 VLA 벤치마크 실행은 순진한 지연 시간 기준선(latency baselines)을 CARE 인증 선택자(CARE-certified selectors)로 대체하여 기본 평가 프로토콜로 삼아야 하며, 배포 파이프라인은 포괄적인 사전 배포 테스트 대신 실패가 유발된 참조 롤아웃(failure-triggered reference rollouts)을 사용해야 합니다.

참고문헌

1. CARE: Certifying Acceleration for Vision-Language-Action Inference