b11530: llama: ubatch 전반에 걸쳐 백엔드 샘플링 그래프를 정적하게 유지 (#30223)

요약

llama 모델의 ubatch 처리 방식에 대한 기술적 개선 사항을 다루고 있습니다. 기존에는 샘플러와 디코더가 출력 행별로 체인을 구축하는 차이가 있었으나, 이제 모든 샘플러가 패딩된 ubatch 행과 선택되지 않은 체인들을 포함하여 일관되게 n_outputs_max_per_seq 개의 체인을 구축하도록 변경되었습니다.

핵심 포인트

• llama 모델의 백엔드 샘플링 그래프 구조 개선
• 샘플러와 디코더 간의 체인 구축 방식 불일치 문제 해결
• 모든 샘플러가 일관된 n_outputs_max_per_seq 개의 체인을 사용하도록 통일