SCPRM: 지식 그래프 질문 답변을 위한 스키마 인식 누적 과정 보상 모델

요약

본 논문은 대형 언어 모델(LLM)의 복잡한 추론 과정에서 발생하는 '보상 위험 효과' 문제를 해결하기 위해 스키마 인식 누적 과정 보상 모델(SCPRM)을 제안합니다. SCPRM은 추론 접두사와 쿼리 목표 사이의 스키마 거리를 통합하여 경로 탐색에 대한 정확하고 미래 지향적인 누적 및 미래 보상을 제공합니다. 이를 몬테카를로 트리 검색(MCTS)과 결합한 SCPRM-MCTS는 의료 및 법률 분야의 지식 그래프 질문 답변(KGQA)에서 기존 방법 대비 높은 성능 향상(평균 1.18% 개선)을 보여, 위험 민감도가 높은 추론 평가에 효과적임을 입증했습니다.

핵심 포인트

• SCPRM은 LLM의 과정 평가 시 발생하는 '보상 위험 효과'를 해결하는 새로운 접근 방식입니다.
• 제안된 SCPRM은 스키마 거리를 통합하여 현재 추론 단계와 목표 간의 관계를 고려한 누적 및 미래 보상을 제공합니다.
• SCPRM을 MCTS에 결합한 SCPRM-MCTS는 지식 그래프 상의 다중 홉 추론 성능을 향상시킵니다.
• 실험 결과, SCPRM-MCTS는 의료/법률 KGQA에서 기존 베이스라인 대비 평균 1.18%의 Hits@k 성능 개선을 달성했습니다.