JoyNexus: VLA 모델을 위한 서비스 지향 다중 테넌트 후학습
요약
JoyNexus는 VLA 모델의 후학습 및 평가를 위한 다중 테넌트 통합 서비스를 제안합니다. 기존 단일 테넌트 할당 방식의 비효율성을 해결하기 위해, 트레이닝, 추론, 환경 서비스를 분리하고 공유 자원을 활용하는 것이 핵심입니다. 이를 통해 여러 테넌트가 동시에 워크로드를 제출해도 격리가 유지되며, 그룹 배치 기능을 도입하여 GPU 시간과 서비스 활용도를 크게 개선합니다.
핵심 포인트
- VLA 모델 후학습을 위한 다중 테넌트 통합 서비스 JoyNexus 제시
- 트레이닝/추론/환경 서비스를 분리하고 API로 접근 가능하게 함
- 그룹 배치(Group Batching)를 통해 공유 자원 효율성 극대화 및 GPU 시간 절감
- 테넌트별 격리를 유지하면서도 글로벌 큐 기반 스케줄링 구현
Vision-Language-Action (VLA) 모델의 후학습은 시뮬레이터, 로봇 구현체(embodiments), 그리고 작업 목표의 다양성 때문에 필수적입니다. 기존 컴퓨팅 서비스들은 직접적인 가속기 임대나 배치 워크로드 제출 형태로 제공되더라도, 일반적으로 단일 테넌트에게 GPU 및 CPU 자원의 배타적인 세트를 할당합니다. 이러한 패러다임은 클라이언트의 유연성을 극대화하지만, 사용자들에게 인프라 적응 부담을 지우며, 고정된 카드-시간(card-hour) 회계 모델은 짧거나 간헐적인 워크로드 모두 테넌트에게는 비용이 많이 들고 서비스 제공자에게는 비효율적입니다. 이러한 문제점들을 해결하기 위해, 우리는 다중 테넌트 VLA 지도 미세 조정(supervised fine-tuning), 강화학습 (reinforcement learning), 및 평가를 위한 통합 서비스인 JoyNexus를 제시합니다. JoyNexus는 트레이닝 모델 서비스(Training Model Service), 추론 모델 서비스(Inference Model Service), 그리고 환경 서비스(Environment Service)를 분리하며, 각 서비스는 API를 통해 접근하고 테넌트별 슬롯을 가진 거주 공유 기본 모델(resident shared base models)에 의해 지원됩니다. 테넌트는 트레이닝, 롤아웃(rollout), 및 평가를 위해 고수준의 의미론적 API를 직접 호출하거나, 저수준 API와 할당된 엔드포인트를 사용하여 사용자 정의 알고리즘을 구성할 수 있습니다. 여러 테넌트가 워크로드를 동시에 제출하며, 이들의 액션 모듈(action modules), 옵티마이저(optimizers), 롤아웃 기록(rollout records), 및 정책 버전(policy versions)은 격리된 상태를 유지하고, 서비스는 글로벌 트레이닝 큐(Training Queue)와 추론 큐(Inference Queue)에 의해 스케줄링됩니다. 다중 테넌트 트레이닝 효율성을 더욱 개선하기 위해, JoyNexus는 호환 가능한 모델 지향 접두사(model-facing prefix)를 공유하는 이기종 VLA 데이터 스키마에 대한 그룹 배치(group batching)를 도입하여, 그룹화된 샘플에 걸쳐 단일 공유 백본 순전파(single shared backbone forward pass)가 가능하게 합니다. 마지막으로, 우리는 워크로드 시뮬레이션과 현실적인 구현체 시나리오에서의 그룹 배치 파이프라인을 통해 JoyNexus를 평가합니다. 그 결과는 격리된 단일 테넌트 실행과 비교했을 때, JoyNexus가 공유 자원에 대한 크로스-테넌트 스케줄링(cross-tenant scheduling)을 통해 총 GPU 시간을 줄이고 서비스 활용도를 개선함을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기