AI 에이전트가 동일한 지침을 다시 읽는 데 20배나 너무 많은 비용을 지불하고 있습니다.

호출(call)할 때마다 시스템 프롬프트, 도구 목록, 그리고 프로젝트 노트를 다시 전송합니다.

Opus 5.5에서는 새로운 입력이 백만 토큰당 $4의 비용이 발생합니다.

캐시된 입력은 $0.20입니다.

같은 토큰을 사용하지만, 20배 더 저렴합니다.

해결책은 5분밖에 걸리지 않습니다:

절대 변하지 않는 모든 내용을 프롬프트의 맨 위(TOP)에 배치하세요.
cache_control로 표시하세요.
매 호출마다 변경되는 부분은 맨 아래(BOTTOM)에 배치하세요.

그게 전부입니다. 다음 청구서에서 그 차이를 확인할 수 있을 것입니다.

잊어버리기 전에 이 글을 북마크해 두세요.

follow @cyrilXBT

요약