LLM을 위한 JEV 기반 적응형 사고(Adaptive Thinking)

요약

본 글은 LLM의 사고 과정을 적응적으로 만들기 위해 JEV 로직을 활용하는 아이디어를 제시합니다. 단어별 엔트로피 측정과 게이트(JEV)를 사용하여 모델이 확신하지 못할 때 추가적인 '사고 블록'을 트리거하도록 설계했습니다.

핵심 포인트

• LLM의 사고 과정을 적응적으로 개선하는 아이디어를 제안함.
• 단어 엔트로피와 JEV 게이트를 활용하여 사고 과정을 제어함.
• 추가적인 사고 블록은 병렬 대화의 트리 구조로 정의됨.
• 구현 시 RAM 속도가 디코딩 속도의 병목이 될 수 있음.