패턴 매칭으로서의 추론: 인간과 LLM 일상적 추론에서의 공유 메커니즘

요약

본 연구는 LLM의 오류가 진정한 추론이 아닌 패턴 매칭에 기인할 수 있음을 지적하며, 인간과 LLMs 모두 일상적인 상식 추론에서 유사한 오류 패턴을 보임을 발견했습니다. 특히 LLM의 어텐션 헤드 분석을 통해 이러한 패턴 매칭 메커니즘을 식별했으며, 이는 인간의 인지 과정 역시 세계 모델보다는 패턴 매칭에 더 가깝다는 점을 시사합니다.

핵심 포인트

• LLMs의 오류는 추론 실패가 아닌 패턴 매칭의 증거일 수 있다.
• 인간과 LLM 모두 일상적 상식 추론에서 유사한 오류 패턴을 보인다.
• LLM의 어텐션 헤드 분석으로 패턴 매칭 메커니즘을 식별했다.
• 일상적 인과 추론은 세계 모델보다 패턴 매칭에 더 가깝다.