위험 제약 기반 강도 할당을 통한 비전-언어 에이전트를 위한 탐지 효율적 워터마킹
요약
본 논문은 비전-언어 에이전트의 진정성 확보를 위해 위험 제약 기반 워터마킹 프레임워크를 제시합니다. 예측 불확실성과 관련성을 결합하여 디코딩 과정 중 워터마크 강도를 할당함으로써, 모델 재학습 없이 탐지 효율적인 품질-탐지 트레이드오프 선택이 가능함을 입증했습니다.
핵심 포인트
- 위험 제약 기반 할당은 모델 재학습 없이 탐지/품질 트레이드오프를 선택하게 합니다.
- 높은 ROC-AUC는 낮은 평균 강도가 아닌 '할당 정책' 덕분임을 입증했습니다.
- 제안된 방식은 고정, 엔트로피 전용 등 기존 정책보다 높은 탐지 효율성을 보입니다.
- 감사 가능한 출처 증명을 위해 임계값 보정 시 분산 보고가 필요합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기