Stable-GFlowNet: 대비적 궤적 균형을 통한 다양하고 강력한 LLM 레드팀(Red-Teaming) 구축 방향

Naver AI가 개발한 Stable-GFlowNet은 생성 흐름 네트워크(Generative Flow Networks)의 불안정한 분할 함수 추정 문제를 해결하여, 모델이 다양한 특성을 유지하면서 모드 붕괴를 방지하는 기술입니다. 이 기술을 활용하여 LLM 레드팀 구축에 있어 다양하고 강력한 방향을 제시합니다.