Stable-GFlowNet: Diverse하고 Robust한 LLM Red-Teaming을 향하여 Contrastive Trajectory Balance

Naver AI는 쌍별 비교(pairwise comparisons)와 견고한 마스킹(robust masking)을 통해 생성 흐름 네트워크(Generative Flow Networks)의 불안정한 분할 함수 추정(unstable partition function estimation)을 제거함으로써, 다양성을 유지하면서도 모드 붕괴(mode collapse)를 방지합니다.

논문:
https://huggingface.co/papers/2605.00553...
S-GFN은 유창성 안정화 장치(fluency stabilizer)를 도입하여 난해한 출력(gibberish outputs)을 방지하고 다양한 red-teaming 벤치마크에서 압도적인 공격 성능을 달성합니다.