LLM의 구성적 추론을 위한 Operad

요약

본 논문은 복잡한 질문 분해 과정을 수학적 구조인 Operad를 사용하여 모델링하는 프레임워크를 제안합니다. 이를 통해 QA 모델을 $Q$ 위의 대수(algebras over $Q$)로 해석할 수 있음을 보였습니다. 특히 'operadic consistency'라는 새로운 개념을 제시하여, 다단계 추론의 일관성을 측정하고 개선할 수 있는 방법을 제시했습니다.

핵심 포인트

• Operad를 사용하여 질문 분해 과정을 수학적으로 모델링함.
• QA 모델을 Operad 위의 대수(algebras)로 해석하는 관점을 제공함.
• 'operadic consistency'라는 새로운 개념으로 다단계 추론의 일관성을 측정할 수 있음.
• 이 방법은 기존 self-consistency 기준선보다 높은 성능을 보임.