<div align=center>
<br>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/logo.png' style="width: 70%">
<br>
RLeXplore: 본질적 동기 강화학습 연구 가속화
</div>
RLeXplore는 현재 8가지 대표적인 본질적 보상(intrinsic reward) 알고리즘의 고품질이며 신뢰할 수 있는 구현을 제공하는 통합적이고, 높은 모듈성(highly-modularized)을 가지며 플러그앤플레이(plug-and-play) 방식의 툴킷입니다. 이전에 본질적 보상 알고리즘들을 비교하는 것은 개별적인 구현, 최적화 전략, 평가 방법론 등 다양한 혼란 요인들 때문에 어려웠습니다. 따라서 RLeXplore는 본질적 보상 모듈을 구성하고, 계산하며, 최적화하기 위한 통합적이고 표준화된 절차를 제공하도록 설계되었습니다.
RLeXplore의 워크플로우는 다음과 같이 설명됩니다:
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/workflow.png' style="width: 100%">
</div>
목차 (Table of Contents)
설치 (Installation)
터미널을 열고 pip으로 rllte를 설치합니다:
conda create -n rllte python=3.8
pip install rllte-core
터미널을 열고 git으로 GitHub에서 리포지토리를 클론합니다:
git clone https://github.com/RLE-Foundation/rllte.git
pip install -e .
이제 다음 방식으로 본질적 보상 모듈을 호출할 수 있습니다:
from rllte.xplore.reward import ICM, RIDE, ...
모듈 목록 (Module List)
튜토리얼 (Tutorials)
다음 링크를 클릭하여 코드 노트북을 얻으세요:
- Quick Start
- RLeXplore with RLLTE
- RLeXplore with Stable-Baselines3
- RLeXplore with CleanRL
- Exploring Hybrid Intrinsic Rewards
- Custom Intrinsic Rewards
벤치마크 결과 (Benchmark Results)
Weights & Biases (W&B)를 사용하여 재사용 가능한 실험 결과를 인식된 벤치마크에 저장할 수 있는 공간을 공개했습니다. 해당 공간 링크는 다음과 같습니다: RLeXplore의 W&B Space.
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/wandb.png' style="width: 75%">
</div>
- SuperMarioBros에서
RLLTE의 PPO+RLeXplore:
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/smb.png' style="width: 100%">
</div>
-
MiniGrid에서 RLLTE의 PPO+RLeXplore:
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/mgd.png' style="width: 100%">
</div>
- KeyCorridorS8R5, KeyCorridorS9R6, KeyCorridorS10R7, MultiRoom-N7-S8, MultiRoom-N10-S10, MultiRoom-N12-S10, Dynamic-Obstacles-16x16, 및 LockedRoom
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/mg_hard.png' style="width: 100%">
</div>
-
Procgen-Maze에서 RLLTE의 PPO+RLeXplore:
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/procgen_1maze.png' style="width: 100%">
</div>
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/procgen_allmaze.png' style="width: 100%">
</div>
-
ALE의 다섯 가지 어려운 탐색 작업에서 RLLTE의 PPO+RLeXplore:
| 알고리즘 (Algorithm) | Gravitar | MontezumaRevenge | PrivateEye | Seaquest | Venture |
|---|
| 외재적 (Extrinsic) | 1060.19 | 42.83 | 88.37 | 942.37 | 391.73 |
| ... | | | | | |
RLLTE's SAC+RLeXplore on Ant-UMaze:
<div align=center>
<img src='https://raw.githubusercontent.com/RLE-Foundation/RLeXplore/HEAD/assets/sac_ant.png' style="width: 70%">
</div>
인용 방법 (Cite Us)
이 저장소를 논문에 인용하려면:
@article{yuan_roger2025rlexplore,
title={RLeXplore: Accelerating Research in Intrinsically-Motivated Reinforcement Learning},
author={Yuan, Mingqi and Castanyer, Roger Creus and Li, Bo and Jin, Xin and Berseth, Glen and Zeng, Wenjun},
...