AI 토큰 지출 1달러당 실제 프로덕션에 도달하는 가치는 18센트에 불과하다는 연구 결과가 나왔다.

Chamath가 운영하는 기업의 CTO가 보고한 내용처럼, 규제 산업의 핵심 시스템을 다루는 곳에서는 frontier 모델을 복잡한 작업에 적용할수록 비용과 성과의 괴리가 커진다. 초기 간단한 PR 생성에서는 생산성 향상이 있었지만, 시스템 간 의존성을 풀고 안정성을 확보하는 단계로 넘어가면서 token 비용은 45일마다 두 배씩 증가했고 실질적인 생산성 개선은 5% 수준에 그쳤다. 모델이 충분한 맥락을 유지하며 일관된 결과를 내지 못하면 엔지니어가 그 격차를 메우기 위해 더 많은 시간과 판단을 투입해야 하는 구조가 된다.

이런 환경에서 엔지니어들이 frontier 모델을 슬롯머신처럼 반복 사용하며 '생각'을 줄이는 습관이 퍼지면 코드베이스에 검증되지 않은 코드 조각이 쌓이고 장기적인 유지보수 비용이 증가한다. 동시에 조직의 OpEx 부담은 커지고, CFO와 CEO는 token bill에 직면하게 된다. Chamath가 지적한 대로 마지막 5%의 진짜 어려운 기술적 도전을 해결하려면 엔지니어에게 최고의 도구를 제공하되 그들이 더 깊이 사고하도록 유도하고, token 비용을 90% 가까이 낮출 수 있는 실질적인 대안을 찾아야 한다.

복잡한 프로덕션 시스템에서는 AI가 엔지니어의 판단을 대체하는 것이 아니라, 인간의 검증과 책임이 핵심 경로에 남아 있는 구조에서만 비용 대비 실효성을 확보할 수 있다.