무슨 일이 일어났는가

2026-07-30, OpenAI가 GPT-5.6 패밀리의 API 가격을 개정했다.

GPT-5.6의 출시가 2026-07-09이므로, 출시 3주 만에 최저가 티어(tier)가 1/5이 된 이례적인 속도다.

OpenAI 측의 설명은 추론 효율의 개선으로, "end-to-end 서빙 비용을 20% 절감, 토큰 생성 효율을 15% 이상 개선"했다고 한다.

개인 개발의 비용을 다시 계산하기

Luna의 $0.20 / $1.20가 무엇을 의미하는지, 실제 워크로드(workload)로 산출해 본다.

케이스 1: 사내 문서 QA 봇

• 1질문당: RAG로 취득한 컨텍스트(context) 8,000 tok + 답변 500 tok
• 입력: 8,000 / 1e6 × $0.20 = $0.0016
• 출력: 500 / 1e6 × $1.20 = $0.0006
• 합계: $0.0022 / 질문 (약 0.33엔)

월 1만 질문을 처리해도 $22 (약 3,300엔). 인하 전에는 $110였다.

"월 3,000엔으로 사내 봇을 납품"하는 것이 적자 라인에서 흑자 라인으로 이동하고 있다.

케이스 2: 배치 요약 파이프라인 (Batch Summarization Pipeline)

• 1건당 입력 20,000 tok / 출력 1,000 tok
• 1건: 20,000/1e6 × $0.20 + 1,000/1e6 × $1.20 = $0.0040 + $0.0012 = $0.0052
• 1만 건 시 $52. 인하 전에는 $260.

장문 컨텍스트를 대량으로 흘려보내는 용도일수록 인하의 효과가 크다.

입력 단가가 지배적인 워크로드에서는 실질적으로 비용이 1/5이 된다.

설계상 재검토해야 할 점

1. 라우팅(Routing) 임계값이 변한다

지금까지 "저렴한 모델에 던지고, 실패하면 상위 모델로 재전송"하는

카스케이드(cascade) 구성으로 비용을 최적화해 왔다면, 임계값의 재계산이 필요하다.

Sol ($5)와 Luna ($0.20)의 차이는 25배 (이전에는 5배).

Luna로 2번 리트라이(retry)해도 Sol 1번의 1/12 이하로 해결된다.

"모델을 올리는" 것보다 "Luna로 여러 번 시도 + self-consistency"가 더 저렴한 영역이 넓어졌다.

# 1리퀘스트의 입력 8k/출력 500tok으로 비교
IN, OUT = 8_000, 500
price = { # (input, output) per 1M tokens
...

Luna는 Sol의 1/25이다. 3번 던져서 다수결을 취해도 Sol 1번의 1/8로 해결된다.

2. 캐시 전략의 우선순위가 낮아진다 (단, 출력은 별개)

입력이 $0.20까지 내려가면, 프롬프트 캐시(prompt cache)의 투자 대비 효과는 상대적으로 떨어진다.

반면 출력은 $1.20로 입력의 6배이므로, 줄여야 할 것은 출력 토큰이다.

max_tokens를 제한하거나, 구조화된 출력(structured output)에서의 중복성을 줄이는 것이 더 효과적이다.

3. Sol이 유지된 것은 시사하는 바가 크다

인하된 것은 Luna와 Terra뿐이며, 플래그십(flagship)인 Sol은 $5/$30 그대로다.

**"어려운 일의 가격은 내려가지 않는다. 쉬운 일의 가격만 내려간다"**라는 구도가

그대로 가격표에 나타나 있다.

이는 아키텍처의 지침이기도 하다.

Sol에 던질 태스크를 엄격하게 구분해낼 수 있는지가 그대로 비용 차이로 이어진다.

요약

• Luna: $0.20 / $1.20로, 실질적 1/5
• 입력 지배적인 워크로드일수록 혜택이 큼
• 카스케이드의 임계값과 Sol/Luna의 구분을 재설계할 가치가 있음
• 출력 토큰의 절감은 인하 후에도 계속해서 유효함

참고

참고

• OpenAI API 가격 (2026년 7월 31일 기준): https://www.aipricing.guru/openai-pricing/
• CNBC (2026년 7월 30일): https://www.cnbc.com/2026/07/30/open-ai-price-cut-gpt.html
• VentureBeat (2026년 7월 30일): https://venturebeat.com/technology/ai-price-wars-openai-cuts-gpt-5-6-luna-prices-by-80-as-model-competition-shifts-toward-cost

논의