GLOBE: Geometry-Led Online Behavioral Early Exit via Unit-Sphere Trajectories
English summary not available yet. You can still read the original source.
Read the Korean summary
본 논문은 추론 과정에서 불필요한 생성을 조기에 종료하는 온라인 알고리즘인 GLOBE(Geometry-Led Online Behavioral Early Exit)를 제안합니다. GLOBE는 생성된 각 세그먼트를 단위 구에 임베딩하여 의미론적 궤적을 분석하고, 신뢰도 기반의 시험 단계나 반복적인 방향 전환 감지를 통해 출력을 효율적으로 중단시킵니다.
- early-exit
- chain-of-thought
- llm
- geometry
- optimization