모델 값을 비교할 때 보통 토큰 단가를 봅니다. 그런데 그게 잘 안 맞습니다.

https://t.co/V643NsM70F의 GLM-5.2를 보면 공식 단가는 6월 출시 이후 한 번도 안 바뀌었습니다. 입력 100만 토큰에 1.4달러, 출력에 4.4달러 그대로죠. 서드파티 경유 최저가는 오히려 90일 사이 34% 내렸고요.

그런데 인공분석의 과업당 비용은 어제 0.29달러에서 오늘 0.69달러가 됐습니다. 2.4배입니다. 단가가 안 움직였는데 이만큼 벌어질 수 있는 건, 그 지표가 단가에 실제로 쓴 토큰 수를 곱한 값이기 때문입니다. 사용량이 늘어난 건지 측정을 다시 한 건지는 아직 확인이 안 됩니다.

어제 올린 클립에서 차마스 팔리하피티야가 짚은 게 이 지점이었습니다. AI로 코드를 짜면 다시 짜는 일이 굉장히 많고, 두 번 재고 한 번 자르는 방식이 아니라 계속 자르는 방식이라 토큰이 그만큼 더 들어간다는 것.

그래서 저는 단가표 비교가 갈수록 의미를 잃는다고 봅니다. 같은 문제를 던졌을 때 얼마가 찍히느냐가 진짜 값이니까요.

인공분석이 이번에 파레토 선을 그어놓은 것도 결국 같은 얘기입니다. 딥시크 V4 플래시가 과업당 3센트로 그 선의 왼쪽 끝을 잡고 있고, 오른쪽 끝은 클로드 오퍼스 5의 2달러 34센트입니다. 78배 차이인데, 이 숫자는 어느 단가표에도 안 나옵니다.