b11534: CUDA: SSM_SCAN 후 중복된 CUDA 복사 제거 (#29807)

요약

CUDA 관련 업데이트 내용으로, 상태 스냅샷을 재귀 캐시(recurrent cache)에 ssm_scan을 이용해 융합하는 기능이 추가되었습니다. 이를 통해 K==1 (non spec-dec) 시나리오에서도 중복된 CUDA 복사본 제거가 가능해져 효율성이 향상됩니다.

핵심 포인트

• CUDA에서 상태 스냅샷 재귀 캐시(recurrent cache)에 ssm_scan 융합 기능 추가
• K==1 (non spec-dec) 시나리오에서도 중복된 CUDA 복사 제거 가능
• 전반적인 메모리 및 연산 효율성 향상 기대