병렬 사고 (Parallel thinking)는 재학습 없이도 추론 (reasoning) 작업에서 LLM의 성능을 높이는 데 큰 성공을 거두었습니다. 그러나 기존 방식들은 '먼저 생각하고 나중에 결정하는 (think-first-then-decide)' 패러다임을 따릅니다. 즉, 먼저 여러 추론 경로를 샘플링하며, 이는 필연적으로 과잉 생성 (overgeneration)을 초래하고, 이를 보완하기 위해 불필요한 경로를 가지치기 (prune)하거나 중단합니다. 이와 대조적으로, '먼저 결정하고 나중에 생각하는 (decide-first-then-think)', 즉 바람직한 생성으로 이어질 가능성이 높은 지점을 먼저 식별하는 방식은 지금까지 충분히 탐구되지 않았습니다. 이러한 패러다임에 따라, 우리는 단일 시딩 경로 (seeding path)에서의 모델 확신도 (model confidence)를 사용하여 분기점 (forking points)을 먼저 식별한 다음, 사고 (thinking)를 트리거하여 여러 연속된 경로를 샘플링하고 이를 최종 응답을 위해 집계하는 'Fork-think with confidence'를 제안합니다. 세 가지 모델과 세 가지 추론 벤치마크에 걸친 실험 결과, Fork-think는 병렬 사고 (parallel thinking)와 대등하거나 더 나은 성능을 보이면서도 토큰 소비량을 최대 30%까지, 실행 시간을 최대 57%까지 줄이는 것으로 나타났습니다. 우리의 분석은 Fork-think가 다운스트림 태스크 (downstream task)와 관련하여 의미 있는 분기점을 식별할 수 있으며, 더 나중 위치에서 샘플링하는 것이 실질적으로 더 나은 생성으로 이어질 수 있음을 보여줍니다. 마지막으로, 우리는 Fork-think를 조기 종료 (early stopping) 및 가중 투표 (weighted voting)와 같은 기존 메커니즘과 결합함으로써, 별도의 웜업 (warm-up)이나 오프라인 학습 없이도 성능을 더욱 높이고 기존의 최첨단 (state-of-the-art) 방식들과 대등한 성능을 낼 수 있음을 입증합니다. 우리의 결과는 사전 결정된 분기 (pre-determined forking)가 효율적인 LLM 추론을 위한 유망한 연구 방향임을 확립합니다.