인간이 작성한 온톨로지(Ontology)를 통한 증명 가능한 감사 가능성 및 안전한 LLM 에이전트

우리는 선형적 감사 가능성(linear auditability)이 요구되는 비사소한(nontrivial) 문제 도메인에서 사용하도록 설계된 LLM 에이전트 아키텍처인 Agentic Redux를 소개합니다. 우리는 타입 람다 계산법(typed lambda calculus)을 사용하여, 적절한 도메인에서 실행될 경우 Agentic Redux의 실행이 의미론적으로 올바름이 보장되며, 모든 결정 사항이 추가 전용 원장(append-only ledger)에 기록됨을 증명합니다. 우리는 의료 청구 준수(healthcare billing compliance) 및 보안 취약점 공개(security vulnerability disclosure)라는 두 가지 프로덕션급(production-grade) 적합 도메인을 제시합니다. 두 도메인 모두에서 실행되는 Agentic Redux의 작동 코드는 지원 코드 저장소(code repository)에서 확인할 수 있습니다. 또한 우리는 온톨로지 우선 에이전트 설계(Ontology-First Agent Design)를 소개합니다. 이는 문제 도메인에 대한 에이전트 프레임워크를 구축하기 위한 방법론으로, 인간 전문가가 기본 형식 온톨로지(Basic Formal Ontology)를 사용하여 문제 도메인을 온톨로지화(ontologizes)한 다음, 도메인의 문제를 해결하기 위해 에이전트와 인간 참여형(human-in-the-loop)이 수행할 수 있는 역할을 도출하도록 LLM을 할당하는 방식입니다.