추론 시점 논증을 위한 신경 기호 학습 (Neurosymbolic Learning for Inference-Time Argumentation)

요약

본 논문은 의료 및 금융과 같은 고위험 환경에서 불완전하거나 상충하는 정보에 대응하기 위해 3진 주장 검증(참/거짓/불확실)을 수행하는 신경 기호(neurosymbolic) 프레임워크인 ITA를 제안합니다. ITA는 형식적 논증 의미론을 활용하여 모델이 논증을 생성하고 점수를 매기도록 학습하며, 추론 시에는 사후 설명이 아닌 구조적으로 검증 가능한 논증을 바탕으로 최종 판결을 도출합니다. 실험 결과, ITA는 기존 논증 기반 모델보다 우수한 성능을 보였으며 비논증적 직접 예측 모델과 경쟁할 수 있는 수준의 성능과 함께 명시적인 검사 가능성을 제공합니다.

핵심 포인트

• 3진 주장 검증(참, 거짓, 불확실)을 위한 학습 가능한 신경 기호 프레임워크 ITA 소개
• 형식적 논증 의미론을 사용하여 LLM의 논증 생성 및 점수 부여 과정을 가이드
• 사후 추론(post-hoc reasoning)이 아닌, 생성된 논증과 점수에 기반한 구조적이고 충실한(faithful) 예측 제공
• 기존 논증 기반 베이스라인 대비 성능 향상 및 비논증적 직접 예측 모델과 경쟁 가능한 성능 입증
• 명시적이고 검사 가능한 논증 구조를 통해 결정론적인 판결 도출 가능