가중치로부터 CSAM 텍스트-이미지 LoRA 탐지하기

요약

LoRA 미세 조정 모델의 가중치 내 특이 벡터를 분석하여 유해한 콘텐츠(CSAM) 학습 여부를 탐지하는 새로운 연구를 소개합니다. 메타데이터나 출력물 생성 없이 가중치 자체의 지문만으로 유해성을 식별할 수 있어 안전한 모델 관리가 가능합니다.

핵심 포인트

• LoRA 업데이트의 좌상단 특이 벡터($u_1$)를 통해 학습 내용을 식별
• 메타데이터 조작이나 유해 출력물 생성 없이 가중치로 직접 탐지 가능
• 베이스 모델 전반에 걸쳐 일반화 성능을 보임
• 가중치 노이즈, 재스케일링, 정밀도 감소 등 변형에 대해 견고함