MAVEN: In-Step Epistemic Auditing을 갖춘 다중 에이전트 검증-정교화 네트워크
요약
MAVEN은 LLM 기반 시스템에서 발생하는 오류 누적 문제를 해결하기 위해 설계된 다중 에이전트 검증-정교화 네트워크입니다. 이 프레임워크는 블랙보드 구조를 활용하여 추론 과정을 모듈화하고, 적대적 회의론자(Skeptic)-연구원(Researcher)-심사위원(Judge) 루프를 통해 논리적 방어 기능을 분리합니다. 이를 통해 초기 오류가 제어 없이 누적되는 것을 막고, 고위험 애플리케이션에 필수적인 인식론적 신뢰와 세밀한 감사 능력을 제공합니다.
핵심 포인트
- MAVEN은 LLM의 해석 가능성 및 신뢰성을 높이는 다중 에이전트 프레임워크입니다.
- 기존 시스템의 단일체 사슬(monolithic chains) 방식에서 발생하는 초기 오류 누적 문제를 해결합니다.
- Skeptic-Researcher-Judge 루프를 도입하여 전문가의 숙고 과정을 시뮬레이션하고 논리적 방어 기능을 분리합니다.
- 블랙보드 기반 구조를 통해 추론 궤적을 모듈화하고 세밀한 감사(granular auditing)가 가능하게 합니다.
명시적인 추론 궤적(reasoning trajectories)은 모델 해석 가능성(interpretability)을 향상시키지만, 기존 패러다임들은 중간 단계의 검증이 부족한 단일체 사슬(monolithic chains)에 의존하는 경우가 많아 초기 오류가 제어 없이 누적되는 경향이 있습니다. 이러한 모듈성의 부족은 세밀한 감사(granular auditing)를 방해하고 고위험 애플리케이션에 필요한 인식론적 신뢰(epistemic trust)를 훼손합니다. 본 논문에서는 LLM을 명시적인 역할 분리를 통해 의도적인 추론가로 변환하도록 설계된, 블랙보드 기반 프레임워크인 MAVEN (Multi-Agent Verification-Elaboration Network with In-Step Epistemic Auditing)을 제안합니다. 핵심적으로, MAVEN은 적대적 회의론자(Skeptic)-연구원(Researcher)-심사위원(Judge) 루프를 작동화하여, 논리적 방어 기능을 기능적으로 분리함으로써 전문가의 숙고 과정을 시뮬레이션합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기