정교한 조작을 위한 최소주의적 리타게팅 기반 강화학습 레시피
요약
본 논문은 단일 인간 시연으로부터 정교한 조작 정책을 학습하는 최소주의적 리타게팅 기반 RL 파이프라인인 REGRIND를 제시합니다. REGRIND는 손-물체 동작을 로봇 참조값으로 변환하고, 잔여 RL 정책 훈련 및 시스템 식별 과정을 거쳐 하드웨어에 제로샷 전이를 수행합니다. 이를 통해 가위 사용이나 드라이버 돌리기 같은 접촉이 많은 도구 사용 작업에서 인간과 유사한 유연한 동작 구현을 입증했습니다.
핵심 포인트
- REGRIND는 최소주의적 리타게팅 기반 RL 파이프라인입니다.
- 접촉이 많은 환경에서의 정교한 조작 정책 학습에 초점을 맞췄습니다.
- 잔여(residual) RL 훈련과 시스템 식별을 통해 제로샷 전이를 달성했습니다.
- 가위 사용 등 도구 사용 작업에서 인간 유사 동작 구현 능력을 보여주었습니다.
휴머노이드 전신 제어 분야의 최근 연구들은 간단한 방법론에서 성공을 거두었습니다: 인간 동작을 로봇 운동학 참조값으로 리타겟팅(retarget)한 다음, 이를 추적하도록 정책을 강화학습(RL)을 통해 훈련하는 것입니다. 하지만 이 레시피가 정교한 조작에 어떻게 적용될 수 있을까요? 그 답은 명확하지 않습니다. 왜냐하면 조작에는 복잡하고 접촉이 많은 역학(contact-rich dynamics)이 수반되며, 접촉 모드와 힘의 섬세한 제어가 필요하기 때문입니다. 본 논문에서는 단일 인간 시연으로부터 정교한 조작 정책을 학습하는 최소주의적 리타게팅 기반 RL 파이프라인인 REGRIND를 제시합니다. REGRIND는 인간 손-물체 동작을 손-물체 공간 및 접촉 관계를 보존하는 로봇 참조값으로 리타겟팅하고, 시뮬레이션에서 잔여(residual) RL 정책을 훈련하여 해당 참조값을 따라 물체 중심의 키포인트를 추적하며, 신중한 시스템 식별(system identification)을 통해 결과 정책을 하드웨어에 제로샷(zero-shot)으로 전이합니다. 그 결과로 얻은 정책들은 가위 사용이나 드라이버 돌리기와 같은 접촉이 많은 도구 사용 작업에서 두 개의 다른 다지(multi-fingered) 손에 걸쳐 유연하고 인간과 유사한 동작을 구현합니다. 체계적인 하드웨어 실험을 통해, 우리는 정교한 조작에서의 sim-to-real 전이를 지배하는 핵심 요인들을 식별하고 분석하여, 접촉이 많은 환경에서의 리타게팅 기반 학습에 대한 실질적인 지침을 제공합니다. 비디오와 코드는 https://yunhaifeng.com/REGRIND에서 확인할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기