Larch와 Dorado의 이더넷 AI 데모: 패브릭 뒤에 숨겨진 운영 증거를 요구하라

AI 네트워크 시연은 클러스터가 변화하는 상황에서 어떻게 작동하는지를 보여줄 때 인프라 구매자에게 유용해집니다. 연결된 랙이 시작점입니다. 조달 결정은 팀이 워크로드가 실행되는 동안 패브릭을 구성하고, 관찰하며, 복구할 수 있는지에 달려 있습니다.

Larch Networks와 Dorado는 OCP Global Summit에 앞서 10월 9일에 공동 시연을 발표했습니다. Larch는 Marvell TeraLynx 10 스위치를 사용한 스파인-리프 이더넷 패브릭과 ConnectX-7 어댑터가 장착된 Hardened SONiC 및 GPU 서버를 설명합니다. Dorado Cruz는 오케스트레이션, 모니터링 및 튜닝을 제공할 예정입니다. 두 회사는 10월 13일~15일 전시회 기간 동안 시스템을 선보일 계획입니다.

이것은 곧 있을 시연에 대한 공급업체 발표입니다. 가용성, 지연 시간(latency), 전력 소비 및 비용에 대한 주장은 구매자의 워크로드에 대한 측정된 결과를 확립하지 못합니다. 이 발표는 프로덕션 설계에서 그러한 이점을 가정하는 것을 정당화할 비교나 벤치마크 방법을 제공하지 않습니다.

제 평가로는 여기서 유용한 기회는 네트워크와 그 운영 도구를 함께 평가하는 것입니다. 다음 확인 사항들은 부스 시연을 보다 정보가 풍부한 조달 대화로 바꿀 수 있습니다.

구매자가 인식할 수 있는 워크로드부터 시작하라

어떤 워크로드가 실행되고 있으며 그것이 무엇을 보여주기 위한 것인지 물어보십시오. 서버 구성, 네트워크 어댑터, 소프트웨어 버전, 토폴로지 및 제공되는 트래픽을 기록하십시오. 이러한 조건 없이 얻은 결과는 장비가 도착한 후에 재현하기 어려울 것입니다.

애플리케이션의 결과가 네트워크 카운터와 함께 보이도록 하십시오. 학습(training)의 경우, 구매자는 동일한 모델 및 배치 설정에서 작업 완료 및 통신 동작을 관찰할 것을 요청할 수 있습니다. 추론(inference)의 경우, 관련 데모는 정의된 요청 혼합 조건에서 응답 지연 시간과 처리량(throughput)을 추적할 수 있습니다. 핵심은 의도된 서비스에 중요한 결과를 선택하는 것입니다.

또한 데모가 무엇을 제외하는지 물어보십시오. 스토리지 트래픽, 동시 테넌트(concurrent tenants), 유지보수 이벤트 등이 그 범위를 벗어날 수 있습니다. 이러한 경계를 문서화하면 작은 테스트가 전체 데이터 센터에 대한 지원되지 않는 주장으로 변질되는 것을 방지할 수 있습니다.

변경 사항을 테스트하고, 그 반전도 테스트하라

중앙 집중식 오케스트레이션(orchestration)은 변화를 예측 가능하게 만들 때 가장 가치가 높습니다. 시연자들에게 제안된 구성을 보여주고, 그것이 영향을 미칠 장치들과 적용되기 전에 수행되는 검사들을 요청하십시오.

그런 다음 두 관점에서 결과를 관찰하십시오: 컨트롤러가 보고하는 것과 장치 및 워크로드가 실제로 하는 것이 무엇인지입니다. 실패하거나 부분적인 배포(rollout)가 오해를 불러일으키는 성공 메시지 대신 조치 가능한 상태를 생성하는지 확인하십시오.

롤백(rollback) 역시 같은 주의를 기울여 시연되어야 합니다. 어떤 이전 구성이 복원되는지, 종속성들이 올바른 순서로 돌아오는지, 그리고 팀이 어떻게 복구를 확인하는지를 파악하십시오. 감사 추적(audit trail)을 기록하여 다른 엔지니어가 기억에서 재구성하지 않고도 그 순서를 이해할 수 있게 하십시오.

이것들은 제안된 승인 점검 항목이며, 어느 벤더의 제품이 그러한 기능을 부족하다는 주장은 아닙니다.

대시보드를 넘어 실패를 가시화하라

상태 보기(health view)는 운영자가 증상에서 영향을 받은 워크로드로 이동하는 데 도움을 주어야 합니다. 링크 오류, 혼잡(congestion), 장치 결함이 작업이나 서비스와 어떻게 연결되어 있는지 물어보십시오. 어떤 원격 측정 데이터(telemetry)가 네트워크에서 직접 오는지, 그리고 관리 소프트웨어가 어떤 결론을 추론하는지 파악하십시오.

안전한 테스트가 가능하다면 링크를 제거하거나 컴포넌트를 재시작하고 전체 시퀀스를 관찰하십시오. 워크로드가 계속 진행되는지, 일시 중지하는지, 아니면 실패하는지? 경보가 올바른 오류를 식별하는지? 엔지니어가 초기 이벤트를 2차 경보와 구별할 수 있는지?

관리 접근(management access)을 논의에 포함시키십시오. 문제가 발생한 스위치에 도달할 수 없는 오케스트레이션 서비스는 별도의 복구 경로가 필요할 수 있습니다. 그 경로, 사용되는 자격 증명(credentials), 그리고 조치를 취할 권한이 있는 사람을 문서화하십시오.

개방된 컴포넌트를 지원 가능한 시스템으로 전환하기

이더넷 및 SONiC 설계는 여전히 명확한 지원 경계가 필요합니다. 스위치 이미지, 어댑터 호환성, 오케스트레이션 통합, 그리고 인시던트 분류(incident triage)를 누가 소유하는지 물어보십시오. 지원되는 버전 매트릭스(supported version matrix)와 업그레이드 승인 프로세스를 요청하십시오.

기술적인 B2B 공급업체에게 이는 실질적인 서비스 기회를 창출합니다: 재현 가능한 수용 테스트(reproducible acceptance test)를 조립하고 인계 과정에서 그 증거를 보존하는 것입니다. 고객은 구성 정보, 테스트 조건, 복구 기록, 그리고 명시된 에스컬레이션 경로를 받아야 합니다.

Larch와 Dorado의 발표는 운영 계층을 패브릭 자체와 나란히 놓습니다. 구매자들은 다가오는 시연을 사용하여 더 강력한 질문을 할 수 있습니다: 자신들의 팀이 그 결과를 반복하고, 변경 사항을 관리하며, 문서화된 조건 하에서 서비스를 복구할 수 있는가? 그러한 증거는 전시장을 훨씬 넘어서도 시연을 유용하게 만들 것입니다.