LLM 시대의 사고 과정: 반 에멘의 관점에서 본 비판적 고찰

1982년 M.H. van Emden은 논문에서 '컴퓨터 보조 사유(Computer-Aided Thought, CAT)'라는 개념을 제시했습니다. 그는 소프트웨어의 복잡성을 다루기 위해 대화형 파트너가 필요하다고 여겼습니다.

반 에멘에게 이상적인 CAT 시스템은 사용자의 생각을 단순히 받아들이는 것을 넘어, 반론을 제기하고 비판하며 아이디어를 확장시키는 '대화 상대' 역할을 해야 했습니다. 그는 이러한 상호작용이 사용자 스스로 자신의 사고를 체계적으로 분해하고 명시적으로 구조화하는 과정을 유도해야 한다고 보았습니다.

문제는 현재의 대규모 언어 모델(LLM) 인터페이스입니다. LLM은 본질적인 모호성을 그대로 유지하며, 사용자가 의도적으로 프롬프트를 주지 않는 한 시스템 내부에서 해석을 선택합니다. 또한, 답변에 대한 명확한 추론 과정이나 오류 피드백을 제공하기 어렵습니다.

결과적으로, 현대의 LLM은 깊이 있는 사고를 촉진하는 '마찰(friction)' 대신, 사용자가 이미 생각했다고 착각하게 만드는 '거울 함정(mirror trap)'을 만들 위험이 있습니다. 따라서 우리는 LLM 기술에 의존하기보다, 반 에멘의 정신을 이어받아 시스템과 상호작용할 체계적인 방식을 설계하는 데 집중해야 합니다.