대규모 언어 모델(LLM)을 위한 견고한 확률적 안전 경계(Sound Probabilistic Safety Bounds)

요약

LLM이 유해한 출력을 생성할 확률에 대한 엄격한 확률적 경계를 계산하는 새로운 프레임워크를 제안합니다. 잠재 공간의 특징을 활용해 유해 가능성이 높은 생성 경로를 우선 탐색함으로써, 유해 확률이 매우 낮은 상황에서도 견고한 하한을 효율적으로 도출합니다.

핵심 포인트

• PAC(Probably Approximately Correct) 경계 계산을 위한 새로운 프레임워크 제안
• 잠재 공간 특징을 활용한 자기 회귀 생성 트리 탐색 알고리즘 개발
• 실제 유해 확률보다 작음이 증명된 견고한(sound) 하한 계산 가능
• LLM의 통계적 인증 및 안전성 평가를 위한 새로운 방법론 제시