Unpopular Opinion: The DGX Spark Forum community of devs is talented AF and

이 서브에서 DGX Spark에 대한 경멸적인 태도가 많습니다. 그리고 그건 이해합니다. 많은 사람들이 "더 나은 메모리 대역폭이 있었다면 훌륭했을 것", "SM-121 은 Blackwell 칩의 가짜/2 차 칩"이라고 말합니다. 이 비판은 타당합니다.

그럼에도 불구하고 저는 하나를 사서 AI 석사 학위를 pursue 하고 모델 훈련, 도구 개발, 테스트 등에 사용했습니다.
저는 초기 adopter 였고, 많은 사람들과 마찬가지로 추론 성능과 소프트웨어 스택에 대해 처음에는 실망했습니다. 최근에는 제 의견과 경험이 변했습니다.

NVIDIA 는 "공식" DGX Spark Development 커뮤니티 포럼이 있습니다. 이 포럼의 사람들은 제가 만난 가장 친절하고 똑똑하며 끈기 있는 개발자 그룹 중 하나입니다. 이 guys 는 하나의 공통된 목표를 가지고 있습니다: 이 하드웨어에서 최대한의 성능을 짜내서 스스로와 세상에 Spark 를 사서 잘못된 구매를 했다고 증명하지 않았음을 보여줍니다. 이게 사나운 소리 같지만, 나쁜 목표라고 생각하지 않습니다.

포럼의 분위기는 "Ok bros, 우리가 다 이걸 샀는데, r/LocalLLama 의 사람들은 지금 우리를 웃기고 있는데, 그 자식들한테 우리가 할 수 있는 것을 보여줘야겠다"입니다. 아니요, 그들은 모두 정말 친절하고 도움이 되는 사람들이라 그런 말은 절대 하지 않을 거예요. 하지만 포럼을 보며 그런 분위기를 느낍니다. 그곳의 모든 사람은 DGX Spark 를 최대한 최적화하는 것이 같은 목표입니다. 이렇게 조화로운 분위기가 느껴져서 wild 합니다. 누구도 서로 논쟁하거나, troll 하거나, rage bait하지 않습니다. 그냥 같은 배에 있는 사람들이 함께 일하고 서로를 격려하며 벤치마크, 코드, vLLM 레시피 등을 공유합니다. 2 년 전 이 서브가 모든 봇 포스트로 가득 찬 상태였던 때의 분위기와 비슷합니다.

저에게 DGX 개발 커뮤니티에 대해 믿어지지 않는다면, 직접 확인해 보세요:

그들이 만든 멋진 프로젝트들 중 몇 가지를 확인해 보세요: Sparkrun (http://sparkrun.dev), PrismaQuant, Spark Lesderboard, eugr vLLM, 그리고 이 guys 가 작업하고 있는 모든 멋진 프로젝트들.

DGX 하드웨어의 가장 큰 장점은 HW 와 OS 가 모두 동일하다는 것입니다. 다른 DGX Spark 박스에서도 작동할 거라는 걸 알 수 있고, 이는 하나의 공통된 목표를 가진 통일된 커뮤니티에 매우 강력합니다.

네, 맞습니다. DGX Spark 는 훨씬 더 잘 될 수 있었을 것이고 아마도 의도적으로 제한되었을지도 모릅니다. 하지만 DGX Spark 포럼 커뮤니티는 그 어떤 것에도 멈출 것이 없습니다. 이 MFers(말씀하신 대로)는 자신의 sheer force of will(의지력)과 재능으로 이 일을 성공시키려 할 것입니다. 모든 비평자들을 기쁘게 하기 위해요. 제 의견은 무엇인가요? 동의하시나요? 아니면 반대하시나요?