b12006: 메모리 기능 개선 - 마지막 ubatch 스냅샷을 넘어선 롤백 거부 구현 (#31368)
요약
본 업데이트는 메모리 기능 개선을 통해 마지막 ubatch 스냅샷 이후의 무분별한 롤백을 거부하도록 구현했습니다. 재귀(recurrent) 및 DSV4 캐시는 이제 각자의 최종 ubatch가 보장하는 가장 깊은 롤백 지점을 기록하여, 이전 상태로의 접근을 엄격하게 제한합니다.
핵심 포인트
- 마지막 ubatch 스냅샷 이후의 무분별한 롤백이 거부됩니다.
- 재귀 메모리와 DSV4 캐시가 독립적인 롤백 경계를 설정했습니다.
- 각 메모리는 최종 상태를 보장하는 가장 깊은 롤백 지점을 기록합니다.
- rollback_bound 테스트로 정확한 메모리 경계 확인이 가능해졌습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기