제어 경계에서 보험 청구까지: CER 프레임워크를 통한 AI 매개 손실의 재구성

피보험 기관의 생성형(Generative) 또는 에이전트형(Agentic) AI 시스템을 통해 발생하는 AI 손실은 단순한 사건 재구성(Event reconstruction)이 아닌 상태 재구성(State reconstruction)을 필요로 합니다. 이는 시스템이 추론(Reasoning), 검색(Retrieval), 도구 호출(Tool calling) 및 행동(Acting)을 수행함에 따라 관련 상태가 변화하기 때문입니다. 핵심적인 질문은 단순히 어떤 손실이 발생했는가뿐만 아니라, 시스템이 무엇을 할 수 있도록 허용되었는지, 실제로 무엇을 수행했는지, 그리고 재구성된 손실이 보험 청구(Insurance claim) 회수를 뒷받침할 수 있는지 여부입니다. 본 논문은 프롬프트 인젝션(Prompt injection), 검색 증강 생성(RAG) 오염(Poisoning), 악의적인 도구 출력(Malicious tool output), 자격 증명 오용(Credential misuse), 데이터 오염(Data poisoning)과 같이 외부에서 트리거된 실패를 포함하여, 피보험자의 AI 시스템이 인과 관계(Causal chain) 내에 있는 손실 문제를 다룹니다. 구체적으로, 본 논문은 AI 잔여 위험 전가(Residual risk transfer)를 위한 유스케이스 수준의 진단 도구인 CER을 소개합니다. C (Control boundary, 제어 경계)는 시스템이 집행 가능한 운영 범위(Operating envelope)를 가졌는지 묻습니다. E (Evidence reconstruction, 증거 재구성)는 보존된 아티팩트(Artifacts)로부터 시스템 상태와 인과 관계를 재구성할 수 있는지 묻습니다. R (Insurance response, 보험 대응)은 재구성된 손실이 보험 적용 대상인지, 즉 시장에서 보험 담보가 가능하며 피보험자를 위해 체결되었는지와 함께 보험 청구 회수를 뒷받침하는 데 필요한 증거가 있는지 묻습니다. 본 논문은 세 가지 기여를 합니다: AI 특화 재구성 문제를 정의하고, CER을 통해 해당 문제를 실행 가능하게 만들며, AI 재구성을 위한 청구 등급(Claim-grade) 증거를 명시합니다. 공개된 사례로는 보고된 PocketOS 및 Replit의 에이전트형 데이터베이스 삭제 사고와 판결된 출력/신뢰 사례인 Moffatt v. Air Canada가 포함됩니다. 키워드: AI 시스템; CER 프레임워크; 잔여 위험 전가; 에이전트형 AI; 생성형 AI; AI 보험; 증거 재구성.