PyRUA-DataFarm: 실제 환경에 적용 가능한 로봇 데이터를 위한 비용 효율적인 원격 조작기 역할을 하는 LLM 에이전트

로봇 시연을 수집하는 기본 방식은 여전히 원격 조작(Teleoperation)이지만, 모든 에피소드는 로봇과 작업자의 시간을 소모하며, 새로운 태스크는 처음부터 시작해야 합니다. 우리는 코딩 에이전트가 원격 조작기의 역할을 대신할 수 있는지 질문합니다.

저희의 DataFarm에서는 에이전트가 데이터 요청과 목표 장면에서 로봇의 캘리브레이션(calibration) 에피소드 하나를 받고 시뮬레이션에서 태스크를 재구축합니다: 이는 장면, 전문가 컨트롤러(expert controller), 그리고 성공 판정기(success judge)를 작성합니다. 시뮬레이터는 정확한 액션(actions)을 공급하며, 실제 이미지에 조건화된 비디오 모델은 각 롤아웃(rollout)을 사진 같은 비디오로 렌더링하여 모든 카메라 뷰를 일관되게 함께 생성합니다.

출력물은 실제 환경에 적용 가능한 데이터입니다: 로봇의 액션으로 레이블링된 동기화된 카메라 뷰로, 이 데이터를 통해 정책(policy)을 직접 학습시키고 실제 로봇에 배포할 수 있습니다. 독립적인 판정가들이 전문가와 모든 렌더링된 에피소드를 승인하기 전에 인증합니다.

다섯 가지 실제 로봇 태스크에서, DataFarm 데이터만으로 학습된 정책은 많은 수의 원격 조작 에피소드로 학습된 정책과 유사한 성능을 보였습니다 (100회 시도 중 93 대 84 성공). 또한, 처음 보는 테이블보와 색상 조명 조건 하에서도, 원격 조작으로 학습된 정책이 46에 그친 반면 이 정책은 87의 성공률을 유지했습니다.

태스크를 적응시키는 과정은 완전히 자동화되어 있으며, 태스크당 한 번 지불하는 평균 API 사용료 $21과 렌더 계약 비용 $5가 발생합니다. 이후의 모든 에피소드는 로봇이나 작업자 없이 시뮬레이션, 렌더링 및 검토에 평균 $0.80이 소요됩니다.

태스크당 3개 뷰의 데이터 1시간은 평균 $107이 소요되며, 이 비용에는 모든 것이 포함되어 있습니다. 이는 중국에서의 원격 조작 견적 $117보다 약간 낮고, 북미 지역에서 인건비만으로 책정된 $290보다 낮은 금액입니다.