Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
생성형 및 에이전트형 AI 시스템에서 발생하는 손실을 분석하기 위한 CER(Control, Evidence, Response) 프레임워크를 제안합니다. 단순 사건 재구성을 넘어 시스템의 상태 재구성을 통해 보험 청구 가능성을 진단하는 방법론을 다룹니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기피보험 기관의 생성형(Generative) 또는 에이전트형(Agentic) AI 시스템을 통해 발생하는 AI 손실은 단순한 사건 재구성(Event reconstruction)이 아닌 상태 재구성(State reconstruction)을 필요로 합니다. 이는 시스템이 추론(Reasoning), 검색(Retrieval), 도구 호출(Tool calling) 및 행동(Acting)을 수행함에 따라 관련 상태가 변화하기 때문입니다. 핵심적인 질문은 단순히 어떤 손실이 발생했는가뿐만 아니라, 시스템이 무엇을 할 수 있도록 허용되었는지, 실제로 무엇을 수행했는지, 그리고 재구성된 손실이 보험 청구(Insurance claim) 회수를 뒷받침할 수 있는지 여부입니다. 본 논문은 프롬프트 인젝션(Prompt injection), 검색 증강 생성(RAG) 오염(Poisoning), 악의적인 도구 출력(Malicious tool output), 자격 증명 오용(Credential misuse), 데이터 오염(Data poisoning)과 같이 외부에서 트리거된 실패를 포함하여, 피보험자의 AI 시스템이 인과 관계(Causal chain) 내에 있는 손실 문제를 다룹니다. 구체적으로, 본 논문은 AI 잔여 위험 전가(Residual risk transfer)를 위한 유스케이스 수준의 진단 도구인 CER을 소개합니다. C (Control boundary, 제어 경계)는 시스템이 집행 가능한 운영 범위(Operating envelope)를 가졌는지 묻습니다. E (Evidence reconstruction, 증거 재구성)는 보존된 아티팩트(Artifacts)로부터 시스템 상태와 인과 관계를 재구성할 수 있는지 묻습니다. R (Insurance response, 보험 대응)은 재구성된 손실이 보험 적용 대상인지, 즉 시장에서 보험 담보가 가능하며 피보험자를 위해 체결되었는지와 함께 보험 청구 회수를 뒷받침하는 데 필요한 증거가 있는지 묻습니다. 본 논문은 세 가지 기여를 합니다: AI 특화 재구성 문제를 정의하고, CER을 통해 해당 문제를 실행 가능하게 만들며, AI 재구성을 위한 청구 등급(Claim-grade) 증거를 명시합니다. 공개된 사례로는 보고된 PocketOS 및 Replit의 에이전트형 데이터베이스 삭제 사고와 판결된 출력/신뢰 사례인 Moffatt v. Air Canada가 포함됩니다. 키워드: AI 시스템; CER 프레임워크; 잔여 위험 전가; 에이전트형 AI; 생성형 AI; AI 보험; 증거 재구성.