Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
LLM에 실행 예산을 부여했을 때의 변화를 탐구한 실험 결과입니다. 예산 제한 시 모델은 불필요한 출력을 줄이고 요청된 핵심 작업 완료에 집중하며, 토큰 소비량을 46~60% 절감하는 효과를 보였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기지난 몇 주 동안 저는 LLM(대규모 언어 모델)이 실행 예산(execution budgets)을 가지고 작업할 수 있는지 탐구해 왔습니다. Caveman이나 Ponytail 같은 프로젝트를 통해 모델들이 의미 있는 결과물(artifacts)을 만들어내는 것을 보았지만, 모델에게 제한된 예산(Budget)을 주면 어떤 일이 발생할까요?
최근 arXiv:2606.00198의 연구진은 프런티어 모델(frontier models)들이 예산에 대해 지속적으로 지나치게 낙관적이라는 사실을 발견했습니다. 모델들은 작업을 중단하고 사용자에게 알리는 대신, 성공 가능성이 낮은 작업에 토큰(tokens)을 계속해서 소비합니다.
이 점이 저로 하여금 간단한 실험을 해보게 만들었습니다.
저는 Claude에게 고정된 실행 예산(execution budget)이 있는 구현 과제들을 주기 시작했습니다.
그러자 동작이 변했습니다.
모든 것을 구축하려고 시도하는 대신, 추가 예산을 요청하기 전에 요청된 작업을 완료하는 데 집중했습니다.
예산이 제한되지 않은 버전은 예산이 제한된 버전에 비해 제가 당장 업무에 필요하지 않은 것들을 너무 많이 포함하고 있었습니다.
세 가지 구현 과제(두 개의 REST API와 하나의 Python CLI)를 통해 테스트한 결과, 모든 요청된 작업을 완료하면서도 출력량은 46~60% 감소했습니다.
하나의 북마크 관리자(Bookmark Manager) 작업은 약 1,600 토큰 내에 완료된 반면, 예산이 제한되지 않은 버전은 제가 중단시키기 전까지 계속해서 생성 중이었습니다.
저는 이러한 실행 예산을 강제하는 Token Sensei라는 작은 런타임(runtime)을 구축했습니다. 예산이 소진되면 실행을 일시 중지하고, 무엇이 완료되었고 무엇이 남았는지 보여주며, 인간이 계속 진행할지 아니면 현재 결과물을 배포(ship)할지 결정할 수 있게 합니다.
이 프로젝트는 오픈 소스(MIT)입니다: github.com/shouvik12/token-sensei
이에 대한 여러분의 생각과 이것이 도움이 될지 알려주세요.
submitted by /u/Substantial_Load_690 to r/OpenAI
[link] [comments]