ML-Bench&Guard: 정책 기반 다국어 안전 벤치마크 및 대형 언어 모델용 방벽

요약

본 기술 기사는 LLM의 글로벌 배포에 따른 안전성 확보 문제를 다루며, 14개 언어를 포괄하는 정책 기반 다국어 안전 벤치마크인 ML-Bench를 소개합니다. ML-Bench는 지역 규정 및 법적 텍스트에서 파생된 위험 범주와 세부 규칙을 사용하여 문화적/법적으로 정렬된 평가가 가능하게 합니다. 또한, 이를 기반으로 다국어 안전 판단과 정책 조건부 준수 평가를 지원하는 Diffusion LLM(dLLM) 기반 방벽 모델인 ML-Guard를 개발했으며, 기존 벤치마크 대비 우수한 성능을 입증했습니다.

핵심 포인트

• ML-Bench는 지역 규정 및 법적 텍스트에 기반하여 설계된 정책 기반 다국어 안전 벤치마크입니다.
• 기존 벤치마크의 한계(사전 정의된 범주 의존성)를 극복하고 문화적/법적 정렬을 가능하게 합니다.
• ML-Guard는 dLLM 기반 방벽 모델로, 빠른 '안전/위험' 확인용 경량 모델과 상세 준수 확인용 강력 모델 두 가지 변형을 제공합니다.
• 광범위한 실험 결과, ML-Guard가 기존 다국어 안전 벤치마크 대비 일관되게 우수한 성능을 보였습니다.