랙 규모의 AI 구매는 데이터 센터의 계획 경계를 변화시킵니다. 납품 팀은 조립된 시스템이 건물과 어떻게 연결되는지, 어떻게 서비스될 것인지, 그리고 각 인터페이스를 누가 소유하는지 알아야 합니다. 이러한 결정들은 첫 번째 워크로드가 할당되기 전에 배포 일정을 형성할 수 있습니다.
Giga Computing은 10월 12일 발표에서 계획된 OCP Global Summit 전시를 설명합니다. 여기에는 구성된 NVIDIA Vera Rubin NVL72 플랫폼, 대표적인 Vera CPU 및 Groq 3 LPX 노드, 그리고 컴퓨팅, 스토리지, 관리 및 GPU 시스템을 아우르는 OCP ORV3 랙이 포함됩니다. 이 회사는 자사의 OCP 서버 라인업이 직접 액체 냉각(direct liquid cooling)을 통합하며, 부스에는 파트너 TaiSol Electronics의 냉각 분배 장치(cooling distribution unit)가 포함될 것이라고 밝힙니다.
이는 전시회 발표입니다. 사이트 시운전 기록이나 독립적으로 검증된 애플리케이션 벤치마크를 출판하기보다는 포트폴리오와 디스플레이를 설명합니다. 구매자는 공급업체의 성능 언어를 용량 또는 재무 계획에 사용하는 전에 배포별 증거(deployment-specific evidence)를 요청해야 합니다.
제 평가로는, 유용한 조달 논의는 랙과 시설 간의 문서화된 인터페이스 세트로 시작됩니다. 이 쇼케이스는 이러한 대화의 여러 부분을 한 번에 보여줍니다.
공간을 예약하기 전에 연결을 명시하라
랙 위치에는 합의된 전기적 및 열적 사양이 첨부되어야 합니다. 공급 구성, 지원 부하(supported load), 보호 요구 사항, 그리고 시스템이 작동할 수 있는 조건들을 정의해야 합니다. 정상 운영 사례와 함께 유지보수 및 장애에 대한 가정을 기록하십시오.
냉각의 경우, 시설 루프(facility loop)와 장비 루프(equipment loop) 사이의 경계를 확정합니다. 실제 구매하는 구성에 필요한 온도, 유량 조건, 물 품질 및 연결 지점을 파악해야 합니다. 이러한 조건을 확인하고, 합의된 범위를 벗어날 때 대응할 책임을 할당하십시오.
호환 가능한 커넥터는 그 합의 중 일부일 뿐입니다. 시설 팀은 또한 냉각 흐름이 중단되거나 전원이 복구되거나 장비가 서비스에서 제외될 때 어떤 일이 발생하는지 알아야 합니다. 이러한 시퀀스는 설치 작업이 시작되기 전에 공급업체와 검토되어야 합니다.
배송 경로 및 서비스 경로를 함께 계획하기
최종 위치에 들어가는 시스템이라도 그 위치까지 도달해야 합니다. 배송 구성, 취급 요구 사항, 그리고 조립된 랙이 홀(hall)로 진입하기 전에 필요한 모든 작업을 문의하십시오. 로딩 구역, 문, 복도를 통과하는 경로를 실제로 도착할 장비와 대조하여 확인하십시오.
다음으로 유지보수 공간을 검토합니다. 어떤 구성 요소가 제자리에서 교체될 수 있는지, 그리고 어떤 개입이 배수(draining), 격리(isolating) 또는 장비 이동을 필요로 하는지 확인하십시오. 도구, 리프팅 접근성, 제거된 부품의 임시 보관 공간을 고려하십시오.
이 검토에는 작업을 수행하는 사람들도 포함되어야 합니다. 시설 엔지니어, 서버 기술자, 냉각 계약자는 각각 다른 경계를 볼 수 있습니다. 이러한 차이를 도면에서 해결하는 것이 서비스 시간 중에 발견하는 것보다 쉽습니다.
관리 신호를 시설 결정에 연결하기
통합 랙은 광범위한 운영 팀에 상태를 보고할 합의된 경로가 필요합니다. 어떤 경보가 서버에서 오는지, 어떤 경보가 냉각 장비에서 오는지, 그리고 어떤 경보가 시설 공급을 설명하는지 정의하십시오. 이러한 신호가 랙을 사용하는 워크로드와 어떻게 매핑되는지 파악하십시오.
대응은 명시적이어야 합니다. 누가 경고를 조사하는지, 누가 워크로드를 줄일 수 있는지, 그리고 누가 종료를 승인할 수 있는지 명시하십시오. 일반적인 관리 경로가 사용할 수 없을 때 기술자가 접근 권한을 얻는 방법을 확립하십시오.
핸드오버(handover)에서 자동화의 한계를 보존하십시오. 자동 응답은 좁게 정의된 조건에 적절할 수 있지만, 운영자는 여전히 무슨 일이 일어났는지, 그리고 시스템을 서비스로 되돌리는 방법의 기록이 필요합니다. 구성 소유권과 변경 승인은 동일한 운영 문서에 속해야 합니다.
지원되는 구성을 구매하고, 이를 유지하기
컴퓨팅(compute), 스토리지(storage), 관리(management), 냉각(cooling)을 포함하는 포트폴리오는 여러 공급업체를 포함할 수 있습니다. 구성 요소 간의 문제에 대한 명확한 소유자(named owner)와 제공된 하드웨어, 펌웨어(firmware), 관리 소프트웨어를 아우르는 지원되는 구성 기록(supported configuration record)을 요청하십시오.
인계 후 해당 기록을 변경하는 프로세스를 요구해야 합니다. 교체 부품이나 펌웨어 업데이트는 승인 경로(approval route)와 시스템이 지원되는 운영 조건 내에 남아 있음을 확인할 수 있는 방법을 가져야 합니다.
기술적인 B2B 공급업체의 경우, 이는 고객에게 제공할 실질적인 작업입니다. 인터페이스 검토를 조정하고, 책임 소재를 문서화하며, 제공된 구성이 운영 기록과 일치하도록 유지하는 것입니다. Giga Computing의 새로운 쇼케이스는 랙 규모 구매의 폭넓은 범위를 가시적으로 보여줍니다. 구매자에게 유용한 결과물은 그 폭넓은 범위와 건물을 연결하고, 이를 유지할 팀과 연결하는 배포 계획(deployment plan)입니다.