에너지 사각지대: NVIDIA의 플래그십 Edge AI 하드웨어는 프로세스 수준의 에너지 귀속을 지원할 수 없다

에이전트형 AI (Agentic AI) 워크로드 — 단일 사용자 목표가 다단계 오케스트레이션 (orchestration), 도구 호출 (tool calls), 재시도 (retries) 및 실패 복구 (failure recovery)를 트리거하는 형태 — 는 엣지 배포를 목표로 하고 있으며, NVIDIA, Dell, HP, ASUS, MSI, Acer, Gigabyte 모두 2026년에 GB10 기반 데스크톱 AI 시스템을 출시할 예정입니다. 우리는 최근 오케스트레이션 구조가 에이전트형 에너지 비용을 지배한다는 것을 입증했습니다. 워크플로우는 선형 베이스라인 (linear baselines)보다 성공적인 목표당 4.33배 더 많은 에너지를 소비하며, 다단계 추론 (multi-step reasoning) 작업의 경우 OOI (Overhead of Intelligence)가 7.63배에 달합니다. 이와 별개로, Rajat 등은 에이전트형 워크로드에서 CPU 측 프로세싱이 전체 지연 시간 (latency)의 최대 90.6%, 전체 동적 에너지 (dynamic energy)의 44%를 차지한다는 것을 보여주었습니다. 우리는 ASUS Ascent GX10 (GB10 SoC)에 대한 체계적인 에너지 관측 가능성 (energy-observability) 감사를 보고하며, 해당 플랫폼이 지원되는 모든 소프트웨어 인터페이스를 통해 CPU 에너지 카운터 (CPU energy counter), INA 전원 레일 모니터 (INA power-rail monitor), IPMI/BMC, 그리고 SCMI 파워캡 (powercap) 프로토콜을 전혀 노출하지 않는다는 것을 발견했습니다. 기기 내 유일한 에너지 텔레메트리 (telemetry)는 NVML을 통한 순간적인 GPU 전력입니다. 우리는 더 나아가 MediaTek 펌웨어가 이미 문서화되지 않은 ACPI 인터페이스 (SPBM)를 통해 레일별 에너지를 내부적으로 계산하고 있지만, NVIDIA는 "CPU 레일 정보를 노출할 계획이 없다"고 밝힌 것을 발견했습니다. 따라서 x86에서 RAPL을 통해 수행되는 것과 같은 기기 내 프로세스별 에너지 귀속 (per-process energy attribution)은 지원되는 인터페이스를 통해 이 플랫폼에서 재현할 수 없습니다. 우리는 에너지 귀속형 AI를 위한 하드웨어 요구 사항 사양을 공식화하고, 외부 DC 계측과 GPU 차감 방식을 결합한 임시 보정 브리지 (calibration bridge)를 제안하며, SCMI 파워캡을 통한 표준화 경로를 식별합니다. 우리의 연구 결과는 저탄소 컴퓨팅 커뮤니티가 에너지 관측 가능성을 일급 하드웨어 요구 사항 (first-class hardware requirement)으로 요구하도록 촉구합니다.