OpenAI 모델의 추론 예산 할당 방식 비교

알려진 바에 따르면, 동일한 OpenAI 모델이 Codex를 통해 사용하는 것보다 API를 통해 훨씬 더 많은 추론(reasoning) 예산을 받을 수 있을 수도 있습니다.

따라서 OpenAI 자체의 Codex 기능을 사용하고 있더라도, 직접 API 비용을 지불하는 사용자들에 비해 모델의 제약된 버전을 받고 있을 수 있습니다.

예를 들어, GPT-6 Astra는 API를 통해 Max에서 약 832의 'juice'를 받는 반면, Codex를 통해서는 128만 받는 것으로 알려졌습니다.

(만약 이것이 사실이고 측정치가 그렇게 시사한다면, OpenAI는 자체 플랜에서는 이 모델들을 제한하는 반면 API 사용자는 진짜 강력한 성능을 얻게 되는 것입니다.)