b11735: metal 백엔드에서 moe_reduce 융합 경합 조건 수정 (#30795)
요약
Metal 백엔드에서 moe_reduce 융합 커널의 경합 조건 문제를 수정하는 내용입니다. 이 융합은 입력 메모리를 dst로 재활용하려 할 때 스레드그룹 간 경합 조건을 발생시켜 비결정적인 오류를 초래할 수 있습니다. 따라서 특정 조건에서는 융합을 거부하도록 보호 장치를 추가했습니다.
핵심 포인트
- Metal 백엔드의 moe_reduce 융합 커널에서 경합 조건 문제가 발견됨.
- 입력 메모리를 dst로 재활용하는 과정에서 스레드그룹 간 비결정적 오류가 발생함.
- 안전성을 위해 특정 조건(dst와 입력 중 하나가 겹칠 때)에서는 융합을 거부하도록 수정함.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기