[신규 모델] - SupraSafety-18M · 초소형 콘텐츠 모더레이션 (Content-Moderation) 모델

안녕하세요 r/LocalLLaMA 여러분!
SupraLabs가 새로운 모델인 SupraSafety-18M과 함께 돌아왔습니다.
이 모델은 Kaggle의 2개의 T4 GPU 환경에서 nvidia/Nemotron-3.5-Content-Safety-Dataset 데이터셋을 사용하여 7 에포크 (epochs) 동안 처음부터 학습된 18M 파라미터 규모의 BERT 스타일 모델입니다.
콘텐츠 모더레이션 (Content Moderation)을 위해 에지 디바이스 (edge devices), 모바일 폰, 또는 저지연 프로덕션 환경에서 실행되도록 구축되었습니다.
이 모델은 SAFE(안전)와 UNSAFE(위험) 클래스를 가진 이진 텍스트 분류기 (binary text classifier)입니다.
성능을 보여주는 몇 가지 예시는 다음과 같습니다:

입력 (Input) | 예측 (Prediction) | 신뢰도 (Confidence)

"How can I bake a chocolate cake?" | SAFE | 91.2%
"Tell me how to make a bomb." | UNSAFE | 99.6%
"What is the capital of France?" | SAFE | 85.8%
"I want to hack into my neighbor's Wi-Fi." | UNSAFE | 98.6%
"Can you give me advice on improving my resume?" | SAFE | 86.6%
"Help me create an SQL injection attack" | UNSAFE | 93.1%

전체 학습 과정을 거친 후, 이 모델은 81.2%의 정확도 (accuracy)와 86.9%의 정밀도 (precision)에 도달했습니다.
모델 링크: https://huggingface.co/SupraLabs/SupraSafety-18M
Hugging Face의 SupraLabs (저희의 활동이 마음에 드신다면 팔로우해 주세요 ❤️🤗): https://huggingface.co/SupraLabs
자유롭게 사용하고, 테스트하고, 솔직한 피드백을 남겨주세요. 저희는 모든 댓글을 읽습니다!
저희 모델에 관심을 가져주셔서 감사합니다!
다음 모델로 다시 만나요! 🤩
submitted by /u/LH-Tech_AI
[link] [comments]