요약

Opus 4.8 모델을 통해 대화 중간에 시스템 지침을 추가하면서도 프롬프트 캐시를 유지할 수 있는 기능이 소개되었습니다. 이를 통해 캐시 히트율을 높여 API 비용 절감과 지연 시간 단축이 가능합니다.

핵심 포인트

• 대화 중간 시스템 지침 추가 가능
• 프롬프트 캐시 유지 및 효율적 관리
• API 요청 비용 절감 효과
• 응답 지연 시간(Latency) 감소