다른 탭이나 창에서 로그인했습니다

요약

PS 출력 시 모델의 최대 컨텍스트 대신 스케줄러가 선택한 컨텍스트 크기를 보고합니다. 이를 통해 클라이언트가 VRAM 용량에 맞춰 컨텍스트 크기를 조절함으로써 성능 저하를 방지할 수 있습니다.

핵심 포인트

• 모델 최대 컨텍스트 대신 스케줄러 선택 크기 노출
• VRAM 용량이 적은 시스템에서의 페이징 방지
• 클라이언트가 최적의 컨텍스트 크기를 유지하도록 힌트 제공