GPU가 왜 필요하죠?? 6년 된 CPU에서 gemma-4-26B-A4B UD-Q4_K_XL로 64 t/s 생성, 285 PP 달성

요약

6년 된 Xeon CPU 환경에서 llama.cpp 최적화를 통해 Gemma-4 모델을 초당 64토큰의 속도로 구동하는 데 성공했습니다. 이는 고가의 멀티 GPU 장비 없이도 에이전트 기반 코딩이 가능한 수준의 성능을 보여줍니다.

핵심 포인트

• 6년 된 Xeon CPU로 64 t/s 및 285 PP 달성
• MTP drafting 및 NUMA mirror fork 최적화 활용
• 고가 GPU 장비 대비 CPU 최적화의 경제적 가치 강조
• 에이전트 기반 코딩이 가능한 실용적 성능 확보