Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 LLM의 복잡한 추론 과정에서 발생하는 오류를 효율적으로 수정하는 'Deep Interaction' 메커니즘을 제안합니다. 기존 방식의 한계를 극복하기 위해, 원본 응답을 직접 편집하여 정확한 추론 단계를 유지하면서 오류 부분만 수정할 수 있게 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Chain-of-Thought (CoT) 추론의 등장은 대규모 언어 모델(LLMs)이 복잡하고 다단계적인 작업을 처리하는 능력을 크게 향상시켰습니다. 하지만 오류가 발생했을 때, 현재의 상호작용 방식은 일반적으로 또 다른 응답을 재구성하는 것을 포함하며, 이 과정에서 다시 실수를 저지를 수 있습니다. 또는 사용자가 후속 턴(turns)에서 오류가 있는 단계를 힘들게 표시해야 하며, 이는 <당신 말이 맞아요, 여기서 제가 실수했어요>와 같은 응답에 이어 유사한 오류가 반복되는 상황을 초래할 수 있습니다. 이러한 문제를 해결하기 위해, 우리는 LLMs의 추론 오류를 정확하게 수정하는 효율적인 인간 개입 메커니즘인 Deep Interaction을 제안합니다. 우리의 접근 방식은 원본 응답을 직접 편집할 수 있게 하여, 정확한 추론 단계를 유지하면서 오류가 있는 부분을 수정할 수 있도록 합니다. 우리는 편집된 CoT를 증류 프롬프트(distilled prompt)로 다듬어, 이를 통해 LLM이 수정된 추론 경로를 따라가도록 유도합니다. 실험 결과에 따르면, 우리의 방법은 STEM 과제 추론에서 기준선 접근 방식과 비교하여 수정 성공률을 25% 이상 향상시키고 토큰 사용량을 약 40% 감소시키는 것을 보여줍니다.