LangChain-OpenAI v1.1.16: 스트리밍 프롬프트 캐시 드리프트 수정
요약
LangChain-OpenAI 라이브러리의 최신 버전 1.1.16이 출시되었습니다. 이번 릴리스는 스트리밍 응답 처리 시 발생할 수 있는 'prompt_cache_retention' 값의 불일치 (drift) 문제를 해결합니다. 이 수정은 OpenAI API 와 LangChain 을 연동하여 실시간으로 데이터를 전송받는 애플리케이션의 안정성을 높여줍니다. 개발자는 즉시 의존성 업데이트를 통해 이 버그를 피할 수 있습니다.
핵심 포인트
- LangChain-OpenAI v1.1.16 에서 스트리밍 처리 시 'prompt_cache_retention' 드리프트 문제가 수정됨
- 이전 버전 (1.1.15) 과 달리 캐시 유지 시간의 불일치를 더 잘 견디도록 개선됨
- LangChain #36927 및 #36925 이슈를 통해 해결된 안정성 향상
LangChain-OpenAI v1.1.16 릴리스 노트
변경 사항 (langchain-openai==1.1.15 에서부터)
버그 수정 (openai)
- 스트리밍 처리 시 프롬프트 캐시 유지 시간 드리프트 허용: 스트리밍 응답을 처리하는 과정에서 발생할 수 있는
prompt_cache_retention값의 불일치 (drift) 문제를 해결했습니다 (#36925).
AI 자동 생성 콘텐츠
본 콘텐츠는 LangChain Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기3