DSD: 확산 모델을 이용한 다양하고 재사용 가능한 모터 스킬 학습
요약
본 논문은 확산 모델(diffusion model)을 활용하여 다양하고 재사용 가능한 모터 스킬을 학습하는 Diffusion Skill Discovery (DSD) 방법을 제안합니다. DSD는 엔트로피 기울기를 근사함으로써, 기존 방법의 한계를 극복하고 고차원 휴머노이드 제어에서 더 넓은 범위의 행동을 생성하도록 유도합니다. 실험 결과, DSD가 이전 방식보다 우수한 모터 스킬 레퍼토리를 발견함을 입증했습니다.
핵심 포인트
- 확산 모델 기반의 DSD를 통해 모터 스킬 학습에 새로운 접근법 제시
- 엔트로피 기울기 근사를 통해 행동 다양성 확보 및 재사용성 증대
- 고차원 휴머노이드 제어 환경에서 복잡하고 민첩한 스킬 발견 가능
인간은 다양한 목표와 상황에서 풍부한 모터 스킬 레퍼토리를 재활용함으로써 새로운 작업을 효율적으로 학습합니다. 유사하게, 시뮬레이션 캐릭터가 재사용 가능한 모터 스킬을 활용하여 새로운 작업을 효율적으로 수행하도록 하는 데도 이 전략이 사용될 수 있습니다. 광범위한 다운스트림(downstream) 태스크를 지원하기 위해, 학습된 레퍼토리는 다양해야 하며, 각 행동 내에서도 뚜렷한 행동과 공간적 및 시간적 변이가 포함되어야 합니다. 다양하고 다양한 스킬을 학습하는 일반적인 방법은 스킬 잠재 변수와 정책이 생성하는 상태 간의 상호 정보량(mutual information)을 최대화하는 것입니다. 주변 상태 엔트로피(marginal state entropy)는 광범위한 행동 커버리지를 촉진하며, 조건부 엔트로피(conditional entropy)는 각 잠재 변수로부터 일관된 행동을 장려합니다. 그러나 고차원 제어 문제에서 주변 상태 엔트로피를 직접 추정하는 것은 불가능합니다(intractable). 따라서 이전 방법들은 간접적인 잠재 공간 근사치나 상태 분포의 거친 추정기(coarse estimators)에 의존해 왔습니다. 이러한 근사치들은 상태 공간의 광범위한 커버리지를 효과적으로 촉진하지 못할 수 있으며, 그 결과 제한된 행동 다양성을 가진 스킬이 되어 다운스트림 태스크에서의 유용성이 감소합니다. 본 연구에서는 확산 모델(diffusion model)을 사용하여 점수 매칭(score matching)을 통해 정책으로 유도되는 상태 분포의 엔트로피 기울기(entropy gradient)를 근사하는 스킬 발견 방법인 Diffusion Skill Discovery (DSD)를 제안합니다. 그 결과로 얻은 목적 함수는 고차원 휴머노이드 제어에 대해 더 넓은 범위의 행동을 생성하는 스킬을 발견하도록 장려합니다. 학습된 스킬들은 두 가지 다운스트림 제어 환경에서 재사용됩니다: 태스크별 상위 레벨 정책(high-level policy)을 가진 계층적 제어(hierarchical control)와 오프라인 궤적(offline trajectories)으로부터의 잠재 선택을 통한 제로샷 제어(zero-shot control)입니다. 우리의 실험은 DSD가 이전 스킬 발견 방법들보다 더 광범위한 재사용 가능한 모터 스킬 레퍼토리를 발견하며, 이는 다운스트림 태스크 전반에 걸쳐 재사용될 수 있는 복잡하고 민첩한 행동의 출현으로 이어짐을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.GR (Graphics)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기