대규모 언어 모델(LLMs)을 모바일 장치에 배포하는 것은 개인 정보 보호 기능을 향상시키고 지연 시간을 줄이지만, 하드웨어 비효율성에 의해 심각하게 제약받는다. 우리는 다섯 가지 주요 프레임워크(예: llama.cpp, GENIE)와 세 가지 하드웨어 백엔드(CPU, GPU, NPU)에 걸쳐 모바일 LLM 추론의 최초 포괄적인 교차 계층 측정 연구를 제시한다. 이 분석을 가능하게 하기 위해, 우리는 기존 장치 수준 측정 방식을 넘어 최초로 백엔드별 에너지 기여도를 제공하는 세밀한 프로파일링 도구인 PowerBench를 개발했다. 우리의 연구는 세 가지 중요한 통찰력을 얻었다: (1) 프레임워크가 유발하는 성능 격차는 NPU에서 상당히 증폭되어, 상이한 오프로딩 및 양자화 전략으로 인해 사용자 정의 연산자를 사용할 경우 최대 10배에 달한다. (2) 우리는 NPU가 컴퓨팅 바운드(compute-bound)의 프리필링(prefilling)에서는 탁월하지만, 메모리 바운드(memory-bound) 디코딩(decoding)에서는 CPU가 다른 모든 백엔드를 능가하는 뚜렷한 단계 분할을 식별했다. 이는 NPU가 크고 고정된 모양의 워크로드(workload)를 선호하는 경향이 디코딩의 작고 동적인 특성과 충돌하기 때문이다. (3) 백엔드별 프로파일링은 이전 연구에서 놓쳤던 상당한 스케줄링 여유 공간을 발견했다. 최적화되지 않은 쓰레드 구성, 비조정된 NPU 절전 대기 시간(sleep latency), 그리고 CPU 폴링 간격은 최대 40%의 에너지 낭비를 초래한다. 이러한 발견을 활용하여, 우리는 모바일 LLM 추론을 위한 에너지 지향적인 최적 사례 구성을 제시한다. 우리는 이 구성이 세 가지 데이터셋에 걸쳐 NPU 백엔드에서 에너지 소비를 최대 54.8%까지 줄일 수 있을 것으로 추정한다.