[연구] 소형 LLM에서의 검증된 솔루션 프로그램에 대한 동적 재실행 (Dynamic Re-Execution)
요약
소형 LLM에서 추론과 실행을 분리하여 정확도를 높이는 동적 재실행(Dynamic Re-Execution) 기술을 제안합니다. 검증된 프로그램을 12B 모델이 토큰 오버헤드 없이 재실행함으로써 비트 단위의 결정론적 결과를 산출합니다.
핵심 포인트
- 추론(Reasoning)과 실행(Execution) 프로세스의 분리
- 12B 모델을 활용한 단계별 프로그램의 동적 재실행
- 토큰 오버헤드 없는 비트 단위의 정확한 결과 산출
- 수학, 코드, 형식 규칙 등 도메인 지식 검증 최적화
우리는 추론 (reasoning)과 실행 (execution)을 분리했습니다. 논리 또는 도메인 지식 (수학, 코드, 형식 규칙)이 검증되고 입력된 후에는, 동결된 (frozen) 12B 모델이 새로운 입력에 대해 단계별 프로그램을 토큰 오버헤드 없이 재실행하여 비트 단위로 정확하고 결정론적인 (deterministic) 결과를 산출합니다. 논문: https://arxiv.org/abs/2607.23806 /u/MindPsychological140에 의해 제출됨 [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기