LingBot-Video: sparse-MoE 비디오 확산 트랜스포머 (총 13B, 활성 1.4B) 액션 조건부 월드 모델로 사후 학습
요약
LingBot-Video는 DeepSeek-V3 스타일의 희소 MoE 구조를 가진 단일 스트림 확산 트랜스포머입니다. 물리적 개연성 보상을 포함한 RL 사후 학습을 통해 액션 및 손 포즈 조건부 월드 모델로 기능합니다. 이 모델은 로봇 롤아웃 예측과 비디오 생성을 결합하여 높은 성능을 보여주었습니다.
핵심 포인트
- 희소 MoE 구조(13B, 활성 1.4B)를 가진 확산 트랜스포머 기반입니다.
- 물리적 개연성 보상을 포함한 RL 사후 학습이 적용되었습니다.
- 액션-투-비디오 모드를 통해 로봇의 롤아웃 예측을 수행합니다.
- VLM 평가 및 폐쇄 루프 없이 비디오 프레임 품질로만 결과를 제시합니다.
DeepSeek-V3 스타일의 희소 MoE(128개 전문가, 상위 8개 라우팅, 총 13B 중 활성 1.4B)를 가진 단일 스트림 확산 트랜스포머입니다. 물리적 개연성 보상(physical-plausibility reward)을 포함한 6가지 보상을 이용한 RL 사후 학습이 이루어졌으며, 액션과 손 포즈 조건으로부터 로봇의 롤아웃(rollouts)을 예측하는 액션-투-비디오 모드가 추가되었습니다. 가중치(Weights), 코드, 그리고 Diffusers/SGLang 스택은 LingBot-Video 이름으로 공개되어 있습니다.
제가 강조하고 싶고 이 서브레딧에서 진심으로 읽어보고 싶은 두 가지가 있습니다:
- 물리적 개연성 보상은 샘플링된 프레임으로부터 VLM(Vision-Language Model)에 의해 평가됩니다. VLM이 물리학의 방어 가능한 심판일까요, 아니면 이는 Goodhart 법칙을 기다리는 것일까요? (물론 리워드 해킹에 대항하기 위해 실제 비디오 네거티브를 추가합니다.)
- 이는 정책 평가자(policy evaluator)이자 액션 플래너로 구성되어 있지만, 모든 결과는 폐쇄 루프 로봇 수치 없이 비디오 프레임 품질로만 제시됩니다. 비디오 생성기와 월드 모델 사이의 경계는 어디에 있을까요?
RBench에서는 최고 평균 점수를 기록하지만, 추론이 많이 필요한 차원은 여전히 폐쇄된 모델을 사용하며, 자체 평가에서 일반적인 T2V(Text-to-Video) 분야에서도 2위에 그칩니다. 분석해 주시면 좋겠습니다.
논문, 코드 및 가중치: https://technology.robbyant.com/lingbot-video , https://github.com/robbyant/lingbot-video , https://huggingface.co/robbyant/lingbot-video
제출자 /u/Savings-Display5123 r/MachineLearning에 제출됨
[link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기