모니터링된 유효성 실패: 진화하는 프레임워크 경계에서의 LLM 안전 증거 경로

요약

본 논문은 LLM 애플리케이션의 런타임 모니터링에서 발생하는 '인터페이스 신뢰성 문제'를 다룹니다. 이는 프레임워크가 정상 작동하더라도 정책 관련 증거가 결정 지점에 도달하지 못하는 안전 취약점을 의미합니다. 연구진은 캐나리 계약(canary contracts)을 활용하여 이러한 복구 경계 서명 프로토콜을 제안하고, 다양한 LLM/에이전트 프로젝트에서 18가지 증거 경로 실패 사례를 식별했습니다.

핵심 포인트

• LLM 모니터링의 핵심 문제는 인터페이스 신뢰성 문제입니다.
• 정책 관련 증거가 결정 지점에 도달하지 못하는 안전 취약점을 다룹니다.
• 캐나리 계약을 통해 복구 경계 서명 프로토콜을 연구했습니다.
• 프레임워크는 진화 스키마에 대한 회귀 테스트가 필요합니다.