SciRisk-Bench: AI4Science 안전성을 위한 위험 차원 인식 벤치마크

요약

AI4Science 워크플로우의 안전성을 평가하기 위해 설계된 새로운 벤치마크인 SciRisk-Bench를 소개합니다. 이 벤치마크는 7개 학문 분야와 10개의 위험 차원을 통해 LLM의 과학적 위험 인식 능력을 정밀하게 진단합니다.

핵심 포인트

• AI4Science 분야의 안전성 평가를 위한 SciRisk-Bench 제안
• 7개 학문 분야 및 31개 세부 분야를 포괄하는 광범위한 데이터셋
• 10개의 명시적인 위험 차원을 통한 체계적인 안전성 진단
• 주요 LLM 및 과학 특화 모델의 안전성 취약점 파악 가능