요약

Opir는 LLM 애플리케이션을 위한 실시간 안전 필터링을 목표로 하는 인코더 기반 가드레일 모델군입니다. 이 모델은 독성, 탈옥 시도, 혐오 발언 등 다양한 유해 콘텐츠를 다중 작업으로 탐지하며, 996개에 달하는 세분화된 분류 체계를 학습했습니다. 특히 작은 배포 규모와 낮은 지연 시간(엣지 모델 p50 <10ms)을 유지하면서 높은 성능을 보여줍니다.

핵심 포인트

• GLiClass 기반의 인코더 아키텍처를 활용하여 효율적인 안전 필터링 제공
• 독성, 탈옥, 프롬프트 주입 등 다중 작업을 동시에 처리하는 모델 구조
• 996개에 달하는 세분화된 분류 체계(taxonomy)로 광범위한 위험 탐지 가능
• 엣지 변형 모델은 p50 지연 시간이 10ms 미만으로 작동하여 실시간 적용 용이