Mixture-of-Experts (MoE) 추론은 런타임 라우팅 분포(routing distribution)에 따라 형태가 변하는 희소 전문가 GEMM(General Matrix Multiply)으로 구성됩니다. 기존의 서빙 시스템은 타일 패딩(tile padding), 메모리 재사용 및 커널 효율성을 결정하는 전문가별 라우팅 분포를 무시한 채, 정적인 토큰 수 버킷(token-count buckets)을 사용하여 융합된 MoE(fused-MoE) 커널을 선택하는 것이 일반적입니다. 우리는 MoE 추론을 모델링하고 벤치마킹하기 위한 분포 인식(distribution-aware) 프레임워크를 소개합니다. 이 프레임워크는 컴팩트한 유효 전문가(Effective Experts) 지표와 체계적인 하드웨어 연구를 위해 제어 가능한 라우팅 분포를 생성하는 디리클레(Dirichlet) 기반 역모델링(reverse-modeling) 절차를 결합합니다. 이를 통해 우리는 최적의 fused-MoE 커널이 라우팅 왜곡(routing skew)과 토큰 수에 따라 변한다는 것을 보여줍니다. 나아가 우리는 NVIDIA GPU를 위한 GPU 상주형 커널 디스패치 런타임인 DA-MoE를 제시합니다. DA-MoE는 실시간 라우팅 히스토그램을 오프라인으로 튜닝된 분포에 맞추고, CPU-GPU 동기화 없이 최적에 가까운 fused-MoE 커널을 선택합니다. HumanEval-X 서빙 트레이스에서 DA-MoE는 DeepSeek-V3에서 fused-MoE 기하 평균 지연 시간(geomean latency)을 1.16배, Kimi K2에서 1.29배 개선하였으며, 최대 속도 향상은 각각 1.40배와 1.56배를 기록했습니다.