Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
기존 LLM의 사후적(post-hoc) 설명 방식의 한계를 극복하기 위해, 베이지안 네트워크를 활용한 'Glassbox Framework'를 제안합니다. 이 프레임워크는 추론 과정에 확률적 매개 계층을 도입하여 투명하고 감사 가능한 구조적 추론을 가능하게 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델(Large language models)은 공공 행정, 법률 추론, 의료와 같이 불투명성(opacity)이 단순히 불편함을 넘어 제도적·법적으로 용납될 수 없는 고위험 기관 환경에서 빠르게 기반 시설 구성 요소로 자리 잡고 있습니다. 기존의 설명 가능성(explainability) 접근 방식은 주로 사후적(post-hoc)이며, 출력을 생성한 추론 과정과 공식적인 관계가 없는 불안정하고 논쟁의 여지가 있는 설명을 제공합니다. 우리는 이 문제가 설명의 부재가 아니라, 애초에 구조화된 추론(structured reasoning)이 부재하기 때문이라고 주장합니다. 본 논문은 근본적으로 다른 아키텍처를 제안하며, 이를 글래스박스 프레임워크(Glassbox Framework)라고 명명합니다. 이 프레임워크에서는 베이지안 네트워크(Bayesian networks)가 생성 모델(generative models)을 위한 투명한 사전적(ante-hoc) 매개 계층(mediation layers) 역할을 수행합니다. 베이지안 네트워크는 추론이 일어나기 전에 도메인 지식, 인과적 가정(causal assumptions), 확률적 의존성(probabilistic dependencies)을 인코딩하여, 감사 가능한 추론 흔적(auditable reasoning traces), 불확실성 정량화(uncertainty quantification), 그리고 논쟁 가능한 출력(contestable outputs)을 가능하게 합니다. 우리는 이 프레임워크의 아키텍처를 규정하고 이를 수혜 자격(benefit eligibility) 시나리오에 적용하여 기초를 다졌으며, 이를 대규모로 실현하기 위해 해결해야 할 의미론적 정렬(semantic alignment), 동적 모델 구축(dynamic model construction), 확률적 근거 설정(probabilistic grounding), 인간 거버넌스(human governance)를 아우르는 근본적인 과제들을 식별합니다. 사후적 설명(post-hoc explanation)에서 사전적 확률 매개(ante-hoc probabilistic mediation)로 전환함으로써, 본 연구는 강력할 뿐만 아니라 근본적으로 책임 있는(accountable) AI 시스템을 향한 원칙적인 경로를 제시합니다.