CHERRL: 루브릭 기반 RL 보상 해킹 (reward hacking) 연구를 위한 테스트베드

요약

칭화대학교 연구진이 LLM-as-a-Judge 환경에서 발생하는 보상 해킹(reward hacking)을 연구하기 위한 테스트베드인 CHERRL을 발표했습니다. 편향 주입을 통해 해킹을 유발하고 탐지하는 기술을 제안합니다.

핵심 포인트

• 루브릭 기반 RL 보상 해킹 연구를 위한 CHERRL 테스트베드 공개
• 편향 주입을 통한 보상 해킹 유발 및 시작점 식별 기술
• 훈련 로그 기반 해킹 탐지 에이전트 RHDA 제안