LLM 추론의 미래에 관한 긴 글을 읽었는데, 도발적인 주장을 담고 있습니다: Chain of Thought (CoT)는 유용한 해킹(hack)이지만, 우리는 읽을 수 있는 추적(trace)과 실제 계산(computation)을 혼동하기 시작했습니다. 요컨대, "텍스트를 생성하는 것이 생각하는 것과 같지는 않습니다." 여기에는 두 가지 실질적인 문제가 있습니다:

충실성 (Faithfulness): CoT 스타일의 추적은 모델이 실제로 "수행한" 것과 분리될 수 있습니다. 틀린 답을 내놓으면서도 그럴듯한 단계를 보여줄 수 있고, 정답을 맞히면서도 엉망인 단계를 보여줄 수 있습니다 (따라서 추적이 신뢰할 수 있는 감사 경로(audit trail)가 되지 못합니다).

시스템 비용 (Systems cost): 자기회귀적 추론 (Autoregressive reasoning)은 중간 작업들을 토큰으로 직렬화합니다. 더 긴 추적은 지연 시간(latency), 비용, 그리고 컨텍스트 사용량을 증가시킵니다.

잠재적 전환 (The latent turn - 모델이 "공개적으로 생각하게" 만드는 것을 중단하기): 최근의 많은 연구가 내부 루프를 잠재 공간 (latent space)으로 옮기고 마지막에만 언어를 디코딩하는 방향으로 이동하고 있습니다:

• Coconut (연속적 / 잠재적 "사고" 단계)
• HRM / HRM Text (느린 계획과 빠른 재귀적 실행의 분리)
• RecursiveMAS (긴 텍스트 메시지 대신 잠재 임베딩 (latent embeddings)을 전달하는 에이전트들)

내가 제안하는 프레임워크: 인터페이스로서의 언어 vs 계산 기질 (compute substrate)로서의 언어. 언어가 의사소통과 추상화를 위해 필수적이라는 점에는 동의하지만, 탐색 (search) / 제약 조건 해결 (constraint solving)을 텍스트로 직렬화하도록 강제하는 것은 어색하고 비용이 많이 듭니다.

블랙박스의 벽 (The black box wall)
만약 "생각"이 수십 개의 잠재 루프 (latent loops)에서 일어난다면, CoT를 통해 가졌던 이미 불완전한 창(window)조차 잃게 됩니다. 실제 운영 환경, 특히 이해관계가 큰 (high stakes) 도메인에서는 "가시성 없음"이 실질적인 차단 요소가 됩니다.

한 가지 제안된 해결책은 외부 루프 거버넌스 계층 (outer loop governance layer)입니다 (예: 하위 목표의 감사 가능한 DAG를 구축하고 각 노드에서 결정론적 검증(unit tests, constraints, rules 등)을 수행하는 기호적 / 계획 관리자 (symbolic / planning manager)). 감사가 가능성 (Auditability)은 "모델의 내적 독백을 읽는 것"에서 "계획 + 체크 + 검증된 출력물을 감사하는 것"으로 전환됩니다.

BDH가 위치하는 곳
BDH (Dragon Hatchling)는 이 지형에서 흥미롭습니다. 왜냐하면 단순히 지도 학습된 퍼즐 해결사 (supervised puzzle solver)가 되는 것이 아니라, 언어 모델링 능력을 유지하면서 재귀적(recurrent) 또는 상태 유지형 잠재 계산 (stateful latent computation)을 추가하는 것을 목표로 하기 때문입니다.

Pathway는 CoT (Chain of Thought)나 솔루션 백트래킹 (backtracking) 없이도 약 25만 개의 Sudoku Extreme 퍼즐에 대해 BDH 기반 시스템이 97.4%의 Top-1 정확도를 기록했다고 보고했습니다. Sudoku는 제약 조건 해결 (constraint solving)을 위한 유용한 진단 도구이지만, 일반적인 추론 (general reasoning)의 완전한 척도는 아닙니다. 제가 명확하게 깨달은 한 가지 지점은 다음과 같습니다: 많은 재귀적 잠재 추론기 (recursive latent reasoners)들이 깊이 재귀 (depth recurrence, 문제의 고정된 스냅샷에 대해 반복 수행)에는 뛰어나지만, 실제 에이전트 (agentic) / 언어 설정은 스트림 (stream) 형태입니다: 즉, 새로운 토큰이 지속적으로 도착합니다. 이는 시간 재귀 (time recurrence) 문제를 야기합니다: 언제 시간을 진행시킬 것인가, 그리고 어떤 상태 (state) / 메모리 (memory)를 앞으로 전달할 것인가? BDH가 명시한 연구 방향은 기본적으로 이들을 결합하려는 것, 즉 고대역폭 잠재 반복 (high bandwidth latent iteration)과 시간에 따른 원칙적인 상태 / 메모리 서사를 가져오는 것입니다. 또한 이는 복구 가능한 그래프 뷰 (graph view)와 희소하고 국소적인 상태 (sparse, localized state)를 제공하여, 시스템 수준의 검증 (verification)을 대체하는 것이 아니라 이를 보완하는 몇 가지 네이티브 해석 가능성 훅 (interpretability hooks)을 제공합니다. 저는 다음 관점들에 대한 의견을 듣고 싶습니다: CoT는 확장 가능한 추론 경로라기보다 점점 더 비용이 많이 드는 인터페이스 아티팩트 (interface artifact)가 되어가고 있는가? 높은 이해관계가 걸린 (high stakes) 사용을 위해, 우리는 필연적으로 DAG (Directed Acyclic Graph) / 검증 외부 루프 (verification outer loop)가 필요한가, 아니면 네이티브 모델 분석 훅이 (비록 그것이 검증을 완전히 대체할 수는 없더라도) 거버넌스 부담을 의미 있게 줄여줄 수 있는가? 만약 잠재 재귀 (latent recursion)가 내부 루프 (inner loop)라면, 실제 환경에서 외부 루프 (outer loop)는 무엇이 되어야 하는가: DAG, 유닛 테스트 (unit tests), 형식 사양 (formal specs), 증명 보조기 (proof assistants), 혹은 다른 무엇인가? /u/meowsterpieces가 r/MachineLearning에 제출함 [link] [comments]