Valve의 Timur Kristóf가 진행한 Linux 구형 AMD GPU 개선 작업
요약
작성자는 구형 AMD GPU가 Linux 환경에서 예상보다 뛰어난 성능을 보여 놀라움을 표하며, 이는 하드웨어의 수명 연장 가능성을 시사합니다. 특히 Valve와 같은 커뮤니티 주도의 최적화 작업이 중요함을 강조합니다. 다만, LLM 추론과 관련하여 구형 GPU는 저정밀도 연산(FP8) 지원 부족 및 메모리 한계로 인해 근본적인 아키텍처 혁신이 필요하다고 지적합니다.
핵심 포인트
- 구형 AMD GPU가 Linux에서 높은 성능을 보여 하드웨어 수명 연장 가능성을 제시함.
- Linux 환경에서는 최적화된 구형 중급 하드웨어가 유리할 수 있음.
- AMD의 Mesa 지원은 열성적인 개발자 커뮤니티 덕분이며, Nvidia는 그렇지 않음.
- LLM 추론을 위해서는 저정밀도 연산(FP8) 및 메모리 용량 확보가 핵심 과제임.
최근 중고 Ayaneo 2 휴대용 게임기를 샀는데, 구형 모바일 RDNA 2 GPU가 Linux에서 보여주는 성능에 깜짝 놀랐음. 최신 AAA 게임을 제외하면 거의 모든 게임이 아주 잘 돌아가고, Windows보다 훨씬 빠르고 매끄러움. 만족도가 높아서 9070XT를 장착한 주력 PC도 Linux로 옮길까 고민 중임.
Valve의 Steam Deck도 매우 비슷하지만 더 느린 GPU를 쓰는 만큼, Timur의 기여가 컸을 거라고 봄. 요즘 하드웨어 가격을 생각하면 구형 하드웨어의 성능을 최대한 끌어내는 작업이 정말 반가움!
Steam Deck이 RDNA 2 GPU를 쓰는 만큼 Valve의 공로는 분명 크겠지만, 기사에서 Timur가 작업한 대상은 GCN 1.0 GPU라고 명시함. 무려 2012년에 나온 Radeon HD 7800/7900 같은 제품임!
Steam Deck은 몇 년째 쓰고 있는데도 전혀 낡았다는 느낌이 들지 않아 놀라움.
내 경험상 Linux용으로는 출시된 지 좀 된 중급 하드웨어를 사는 편이 늘 더 나았음. 문제 해결과 최적화가 이미 이뤄지고 배포판에도 반영된 상태라 커널 업데이트를 기다릴 필요가 없음.
AMD가 Mesa를 지원하는 이유가 바로 열성적인 개발자들이 이런 작업을 할 수 있게 하기 위해서임. Nvidia는 그렇지 않으며, Linux에서 자사 Vulkan 스택의 성능도 상당히 떨어짐.
AMD가 굳이 나설 만한 금전적 유인이 있을까?
이런 개선 중 일부를 LLM 추론에도 적용할 수 있을지 궁금함. 전자 폐기물이 될 GPU를 LLM용으로 쓸 만한 연산 장치로 더 많이 되살릴 수 있다면 좋겠음.
Radeon RX 6900 XT를 쓰고 있는데, VRAM은 16GB이고 2021년에 처음 나온 제품임. 가벼운 모델은 속도와 출력 품질이 그럭저럭 쓸 만하지만, 지금까지 돌려본 것 중 OpenCode Zen이나 Openrouter 무료 요금제에서 쓸 수 있는 모델의 품질에 근접한 것은 없었음.
같은 카드로 모든 처리를 로컬에서 하려면, 사실상 모든 지표에서 외부 무료 모델보다 눈에 띄게 떨어지는 모델을 감수해야 함. 그런데 기사에 나온 GPU들은 내 카드보다 세 배나 오래된 제품임.
구형 카드에 들어갈 만큼 작은 모델도 실용적으로 쓸 수 있게 된다면 멋지겠지만, 점진적 개선보다는 근본적인 아키텍처 혁신이 필요할 것 같아 낙관하기 어려움. 그런 혁신이 가능할지, 언제 나올지도 불확실함.
이런 구형 카드 대부분은 양자화 모델이 주로 쓰는 FP8 등 저정밀도 연산을 위한 하드웨어가 부족함. 그렇다고 더 높은 정밀도로 모델을 돌리기에는 메모리가 부족함.
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기