16xGB10 (DGX Spark) 클러스터 구축

요약

Deepseek v4 pro 등 대규모 오픈 모델을 로컬에서 실행하기 위해 16xGB10 클러스터를 구축하는 과정을 설명합니다. 고속 네트워크 연결을 통해 2T+ 규모의 모델 실행 가능성을 목표로 합니다.

핵심 포인트

• 16xGB10(DGX Spark) 기반의 로컬 클러스터 구축
• Mikrotik 스위치를 활용한 400G/100G 고속 네트워크 구성
• Deepseek v4 pro, Kimi K3 등 프런티어급 모델 실행 목적
• 2T+ 파라미터 규모의 대형 모델 구동 환경 마련