여러분, 제가 이 유튜브 영상을 접했습니다:

. 그 채널은 마이닝 관련 채널이었고, 거기서 NVIDIA 170HX 카드를 10배 오버클럭하여 사용하는데 '64GB'의 VRAM을 가지고 있다고 했습니다. 당연히 궁금했습니다. 구글 검색을 해보니 실제로는 8~10GB밖에 안 된다고 해서 왜 그런지 알 수 없었습니다. 최근에 Pi와 Qwen 36.27b로 실험해 보기 시작하면서, 자연스럽게 Pi에게 저를 위해 조사를 맡겼으니, 이 보고서는 참고만 해주세요: # NVIDIA CMP 170HX — 64GB VRAM 잠금 해제 연구 보고서 ## 실제 카드의 정체 CMP 170HX는 NVIDIA가 2021년 9월에 출시한 암호화폐 마이닝 카드입니다. 이 카드는 GA100 칩을 사용하며, 이는 NVIDIA A100 데이터 센터 GPU와 정확히 같은 실리콘입니다. NVIDIA는 이를 컴퓨팅 및 메모리가 인위적으로 제한된 마이닝 전용 카드로 판매했습니다. ## VRAM 상황 — 물리적 수정 아님 카드는 물리적으로 수정되지 않았습니다. 잠금 해제는 100% 소프트웨어 기반입니다. 그 이유는 다음과 같습니다: - GA100 칩은 GPU 패키지에 직접 내장된 HBM2e 메모리를 사용합니다 (별도의 납땜 가능한 칩이 아님). 가장 낮은 밀도의 HBM2e 스택만으로도 이 메모리 버스 폭에서 최소 40GB 이상을 제공할 수 있습니다. -

It: Falcon 보안 프로세서 (SEC2 Booter)를 악용하여 PLM(Power Limit Management)에 접근합니다. 사용자 지정 구성 값(CFG1, LMR)을 GPU에 쓰기 합니다. 프레임버퍼 및 PMA(Physical Memory Aperture) 설정을 조정합니다. 납땜이나 물리적 수정 없이 — 부팅 시마다 제한 사항을 무효화하는 패치된 커널 모듈만 사용합니다.

커뮤니티의 주의사항 (r/LocalLLaMA와 r/StableDiffusion의 Reddit 토론에서 출처 확보)

• 64GB에서의 안정성은 보장되지 않습니다 — 원래 연구 논문에서는 스트레스 하에서 40GB만 신뢰성 있게 작동했습니다. 일부 사용자는 64GB가 작동한다고 보고하지만, 다른 사용자들은 불안정성을 보고합니다.
• PCIe는 Gen2 x4로 제한됩니다 (x16 Gen1을 얻고 Gen2를 해제하려면 물리적 납땜이 필요합니다).
• FP8/FP4 지원 없음 — 따라서 VRAM에도 불구하고 5090만큼 빠르지 않습니다.
• 일부 카드는 결함 있는 메모리 스택을 가질 수 있습니다 — NVIDIA가 테스트에 실패한 부분을 비활성화했을 가능성이 높으므로, 카드마다 성능 차이가 있을 수 있습니다.
• 이 카드들은 원래 약 200달러였지만, 언락이 공개된 후 가격은 400달러에서 3000달러 이상으로 급등했습니다.

---

요약 (TL;DR)

이 카드들은 물리적으로 개조되지 않았습니다. 이들은 A100의 GA100 칩과 전체 HBM2e 메모리가 이미 다이에 있는 마이닝 GPU(CMP 170HX)입니다. NVIDIA는 소프트웨어/펌웨어를 통해 메모리를 잠가 두었고, 드라이버 패치가 그들의 보안 프로세서를 악용하여 이를 해제합니다. 64GB는 항상 물리적으로 존재했으며 — NVIDIA가 단지 사용자에게 숨기고 있었을 뿐입니다. 그러니 누군가가 이것이 재미있거나 도움이 되기를 바랍니다. 감사합니다. /u/CabinetNational3461이 r/LocalLLaMA에 제출함 [링크] [댓글]