LLM의 구성적 추론을 위한 Operad

질문 분해(Question decomposition), 즉 복잡한 질의를 더 간단한 하위 질의로 나누고 그 답변들을 조합하여 최종 답변을 도출하는 방식은 LLM의 추론 능력을 향상시키는 데 널리 사용되는 전략이지만, 현재까지는 엄밀한 수학적 기반이 부족합니다. 본 논문에서는 다수 입력에 대해 하나의 출력을 내보내는 연산(many-in, one-out operations)과 그 조합을 모델링하는 수학적 구조인 Operad를 질문 분해를 설명하기 위한 자연스러운 프레임워크로 제안합니다. 우리는 질문 operad $Q$를 정의하며, 여기서 연산은 질문 템플릿에 대응하고 조합은 하위 답변의 치환(substitution)에 해당함을 보여줍니다. 그리고 QA 모델이 $Q$ 위의 대수(algebras over $Q$)로 해석될 수 있음을 보입니다. 기존 관행을 재구성하는 것을 넘어, 이러한 operadic 관점은 새로운 방법론, 특히 질문 분해 트리의 부분적 붕괴(partial collapses) 전반에 걸쳐 QA 모델의 답변이 일치하는지 측정하는 'operadic consistency'라는 개념을 제시합니다. operadic consistency에 대한 경험적 평가는 저희 동료 논문 (Bottman, Liu, and Richardson, 2026)에서 보고되었으며, 이는 12개의 LLM과 4개의 다단계 QA 데이터셋 전반에 걸쳐 정확도와 강한 상관관계를 보이며 표준 온도 기반의 self-consistency 기준선(baselines)을 능가합니다. 우리는 operad가 질문 분해를 위한 자연스러운 수학적 영역이며, operadic consistency와 같은 불변량(invariants)이 다단계 추론의 신뢰성을 분석하고 개선하는 새로운 방향을 열어준다고 주장합니다.