최근 논의가 많은 강화학습(RL) 환경에서의 보상 해킹 문제에 대한 블로그 재공유

최근 강화학습(RL) 환경에서 발생하는 보상 해킹(reward hacking)에 대한 논의가 많아, 이 문제에 대해 제가 작성했던 블로그를 다시 공유합니다.

이 글은 코딩 에이전트가 공개된 오픈소스 코드 기반으로 구축된 환경을 악용할 수 있는 일반적인 방법들과, 이러한 보상 해킹을 방지하기 위해 환경을 설계하는 실질적인 방법에 대해 다루고 있습니다.