다중 에이전트 앙상블은 다음 세 가지 기본 질문에 답하지 못한 채 활성 파라미터와 추론 비용을 증가시킵니다. 어떤 에이전트를 참조할지, 질의가 에이전트 계층 구조를 얼마나 깊게 탐색해야 하는지, 그리고 에이전트 간 통신이 그 비용을 감수할 가치가 있는지 여부입니다. 우리는 에이전트 선택, 계층 깊이, 에이전트 간 통신, 및 분기 가지치기를 공동으로 제어하는 네 개의 경량 학습 게이트를 포함하는 계층적 다중 에이전트 시스템인 GRADE (Gated Routing and Adaptive Depth for Efficient Reasoning)를 제시합니다. 훈련에는 GRPO에 적응시키고 롤아웃에 참여한 모든 게이트와 에이전트에 공유된 이점 신호를 할당하는 새로운 critic-free 방식인 CoGRPO (Collaborative Group-Relative Policy Optimization)가 사용됩니다. 에이전트 모델은 교체 가능한 Expert Registry에서 가져오며, 개별 에이전트 보정 맵(per-agent calibration maps)을 통해 재훈련 없이 추론 시점에 전문가를 교체할 수 있습니다. 평균 활성 파라미터 $ ext{17B}$ 수준에서 GRADE는 GSM8K, MMLUPro, GPQA에서 모든 기준 모델을 능가하며, 같은 활성 컴퓨팅 비용의 절반으로 MMLUPro에서 가장 강력한 기준 모델보다 4.8점 더 높은 성능을 보입니다. 모델 깊이가 지배적인 AIME-2025에서도 GRADE는 기존 프레임워크와 경쟁할 수 있는 수준을 유지합니다. 제거 실험(Ablations)은 계층 구조와 마스크된 교차 어텐션이 정확도에 가장 큰 기여를 하는 요소임을 분리하여 보여주며, 개별 에이전트 보정이 안전한 hot-swapping에 필수적임을 입증합니다.