추론 LLM의 숨겨진 기만 행위 해독: 기만 감사(Deception Auditing)를 위한 활성화 설명기(Activation

요약

LLM의 기만적 행동을 탐지하고 그 이유를 설명하기 위한 새로운 활성화 설명기인 STATEWITNESS를 소개합니다. 이 모델은 은닉 상태를 분석하여 자연어 질의에 답하거나 구조화된 보고서를 생성함으로써 기존의 단순 점수 방식보다 높은 성능과 검사 가능한 증거를 제공합니다.

핵심 포인트

• 기만 감사(Deception Auditing)를 위한 STATEWITNESS 모델 제안
• 기존 텍스트 모니터 및 활성화 프로브 대비 높은 AUROC 성능 달성
• 자연어 질의 답변 및 구조화된 보고서를 통한 검사 가능한 증거 제공
• 해석 가능성(Interpretability) 및 정렬(Alignment) 연구의 핵심 도구로 활용 가능