인코더만으로 충분한가? LLM 적대적 평가를 위한 인코더 및 디코더 안전성 판사(Safety Judges)의 체계적 비교

요약

LLM의 안전성 평가를 위해 기존 LLM 기반 판사 대신 ModernBERT와 같은 인코더 분류기를 사용하는 방식의 성능을 체계적으로 비교 연구했습니다. 인코더 분류기가 비용과 지연 시간을 줄이면서도 유해 출력을 효과적으로 식별할 수 있는지 다양한 공격 기법과 지표를 통해 검증했습니다.

핵심 포인트

• LLM 기반 판사의 높은 비용과 지연 시간 문제를 해결하기 위한 대안 제시
• ModernBERT 등 현대적 인코더 분류기의 안전성 평가 성능 분석
• 다양한 공격 기법(문맥 조작, 에스컬레이션 등)에 따른 인코더의 대응력 확인
• 인코더 분류기가 LLM 판사를 대체할 수 있는 효율적인 가이드라인 제공