사후 설명(Post-hoc Explanation)을 넘어: 확률적 매개(Probabilistic Mediation)를 통한

대규모 언어 모델(Large language models)은 공공 행정, 법률 추론, 의료와 같이 불투명성(opacity)이 단순히 불편함을 넘어 제도적·법적으로 용납될 수 없는 고위험 기관 환경에서 빠르게 기반 시설 구성 요소로 자리 잡고 있습니다. 기존의 설명 가능성(explainability) 접근 방식은 주로 사후적(post-hoc)이며, 출력을 생성한 추론 과정과 공식적인 관계가 없는 불안정하고 논쟁의 여지가 있는 설명을 제공합니다. 우리는 이 문제가 설명의 부재가 아니라, 애초에 구조화된 추론(structured reasoning)이 부재하기 때문이라고 주장합니다. 본 논문은 근본적으로 다른 아키텍처를 제안하며, 이를 글래스박스 프레임워크(Glassbox Framework)라고 명명합니다. 이 프레임워크에서는 베이지안 네트워크(Bayesian networks)가 생성 모델(generative models)을 위한 투명한 사전적(ante-hoc) 매개 계층(mediation layers) 역할을 수행합니다. 베이지안 네트워크는 추론이 일어나기 전에 도메인 지식, 인과적 가정(causal assumptions), 확률적 의존성(probabilistic dependencies)을 인코딩하여, 감사 가능한 추론 흔적(auditable reasoning traces), 불확실성 정량화(uncertainty quantification), 그리고 논쟁 가능한 출력(contestable outputs)을 가능하게 합니다. 우리는 이 프레임워크의 아키텍처를 규정하고 이를 수혜 자격(benefit eligibility) 시나리오에 적용하여 기초를 다졌으며, 이를 대규모로 실현하기 위해 해결해야 할 의미론적 정렬(semantic alignment), 동적 모델 구축(dynamic model construction), 확률적 근거 설정(probabilistic grounding), 인간 거버넌스(human governance)를 아우르는 근본적인 과제들을 식별합니다. 사후적 설명(post-hoc explanation)에서 사전적 확률 매개(ante-hoc probabilistic mediation)로 전환함으로써, 본 연구는 강력할 뿐만 아니라 근본적으로 책임 있는(accountable) AI 시스템을 향한 원칙적인 경로를 제시합니다.