현대 LLM 모델들의 가장 중요한 문제 중 하나는 요청을 하거나 질문을 했을 때, 응답에서 Chain of Thought 같은 진단

요약

현대 대규모 언어 모델(LLM)들이 사용자 요청에 대해 체인 오브 사고(Chain of Thought, CoT)와 같은 진단 단계를 거치지 않고 바로 여러 해결책과 불필요한 토큰을 제시하는 것이 주요 문제입니다. 이로 인해 과도한 토큰 낭비가 발생하며, 실제로는 정의된 명령 블록만 제공하고 상황 공유 후 간결하게 해결책을 제시하는 방식으로 모델을 미세 조정(SFT/Finetune)해야 합니다.

핵심 포인트

• LLM 응답에서 CoT와 같은 진단 단계가 생략되는 것이 주요 문제점이다.
• 불필요한 여러 해결책과 명령 블록 제시로 인한 과도한 토큰 낭비가 발생한다.
• 효율적인 LLM 사용을 위해 '진단 단계(Diagnostics Steps)' 원칙에 따라 모델을 SFT/Finetune 해야 한다.
• 간결하게 정의된 명령 블록만 제공하고 상황 공유 후 해결책을 제시하는 것이 토큰 절감에 효과적이다.