AI Gateway에서 OpenAI Responses API를 위한 WebSocket 지원 시작

요약

Vercel AI Gateway가 OpenAI Responses API를 위한 WebSocket 지원을 시작했습니다. 이를 통해 전체 컨텍스트를 매번 다시 보낼 필요 없이 이전 응답 ID만으로 지속적인 연결을 유지할 수 있습니다.

핵심 포인트

• WebSocket 사용 시 에이전트 실행 속도가 최대 40% 향상됨
• 매 턴마다 전체 컨텍스트를 전송할 필요가 없어 효율적임
• OpenAI의 response.create 및 store=false 사양과 호환됨
• 지속적인 연결을 통해 에이전트 배포 성능 최적화 가능