‘유해한 거부’ 탐색: AI 안전 벤치마크에 대한 심리측정학적 감사

안전 벤치마크는 일반적으로 여러 데이터셋의 전체 점수를 보고하는데, 각 데이터셋은 하나 이상의 안전 관련 속성을 목표로 할 수 있어 유사한 전체 점수를 가진 모델이라도 매우 다른 속성 프로필을 가질 수 있습니다. 개별 속성 수준에서 모델을 비교하는 것이 더 용이하지만, 심지어 단일 데이터셋의 점수가 특정 단일 속성을 분리하여 측정하고 있는지 여부는 종종 불분명합니다. 이러한 속성의 그럴듯한 후보 중 하나는 '유해한 거부(harmful refusal)'로, 이는 모델이 위험하거나 정책을 위반하는 프롬프트를 거부하려는 경향입니다. 우리는 이것이 HELM Safety에서 단일하고 측정 가능한 속성을 구성하는지 검토합니다. 속성이 존재해야만 테스트가 이를 측정할 수 있다고 규정하는 구성 타당도(construct validity) 프레임워크를 사용하여, 우리는 유해한 거부를 그럴듯하게 목표로 할 수 있는 HELM Safety의 네 가지 데이터셋으로 시작하지만, 세 개는 포화되어 있음을 발견합니다. 우리는 남아있는 데이터셋인 HarmBench에 두 가지 심리측정학적 테스트를 적용하여, 유해한 거부와 같은 단일 속성이 그 점수 뒤에 설 수 있는지 판단했습니다. 첫째, 다차원 문항 반응 이론(multidimensional item response theory) 모델링은 HarmBench가 단일 속성을 측정하지 않음을 강력하게 시사합니다. 둘째, 차별 문항 기능 분석(differential item functioning analysis)은 동일한 거부 능력을 가진 서로 다른 개발사의 모델들이 점수를 다르게 받는 항목들을 찾아냅니다. 이러한 플래그들은 범위 특정 매칭(scope-specific matching) 하에서 크게 사라지는데, 이는 집계 효과와 일치하는 패턴이지만 도메인별 개발사 차이를 배제하기에는 충분하지 않습니다. 더 넓게 보면, HarmBench는 뚜렷한 유해 행동들을 하나의 점수로 통합하고, 전체 HELM 안전 종합 점수는 HarmBench와 다른 데이터셋들의 점수까지 단일한 최상위 수치로 다시 통합합니다. 데이터셋과 항목들에 걸쳐 평균을 내는 모든 안전 점수는 이러한 방식으로 포화 상태를 숨기고 행동들을 혼합할 수 있습니다. 우리는 모델을 비교하기 전에 점수가 단일 속성이라는 해석을 얻어야 한다고 주장합니다.