소비자용(ish) 하드웨어에 H200 NVL 구축하기
요약
Threadripper 프로세서와 H200 NVL을 활용하여 소비자용 등급의 하드웨어에 고성능 GPU를 구축한 사례를 소개합니다. 성공적인 구축을 위해 BIOS의 PCIe 관련 세부 설정과 커스텀 쿨링 시스템이 필수적임을 강조합니다.
핵심 포인트
- Threadripper 기반의 소비자용 하드웨어에 H200 NVL 구축 성공
- Re-Size BAR, SR-IOV 등 정밀한 BIOS 설정 필요
- 고성능 GPU 운용을 위한 커스텀 쿨링 시스템 구축 필수
- 서버급 설정 대비 비용 효율적인 하드웨어 구성 가능
구축 내역 :
MB ASUS WRX90E - SAGE SE
64 Core Threadripper 프로세서
H200NVL
많은 BIOS 설정, 특히 PCIe BUS 설정이 필요했습니다.
CSM 비활성화 (ReBAR 설정이 가능함을 통해 확인됨)
Re‑Size BAR → 활성화 (Enabled)
SR‑IOV → 활성화 (Enabled)
IOMMU / PCIe ARI / Ten Bit Tag → 활성화 (Enabled)
그리고 마침내 nvidia-smi ----> H200
그리고 네, 엄청나게 커스텀된 쿨링 시스템이 필요했습니다. H200을 하나 더 추가하여 한계까지 밀어붙일 계획입니다.
이것은 정확히 소비자용 등급(consumer-grade)의 하드웨어는 아니지만, 제대로 된 서버 설정보다는 훨씬 저렴합니다.
submitted by /u/heybigeyes123
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0