Multi-agent Reinforcement Learning (MARL)은 로봇 군집에 큰 잠재력을 가지고 있지만, 신경 정책(neural policies)의 블랙박스 특성은 전략적 분석을 어렵게 하여 다중 로봇 애플리케이션을 제한합니다. 게다가, 복잡한 군집 행동은 명시적인 집계 인센티브 없이도 단순한 보상으로부터 놀랍게 나타날 수 있습니다. 이러한 출현(emergence) 뒤에 숨겨진 메커니즘을 밝히는 것은 매우 중요하지만, 단순한 보상과 집단 행동 사이의 단절성은 해석 가능성(interpretability) 문제를 악화시킵니다. 본 논문은 이 과정에 숨겨진 메커니즘을 밝히는 것을 목표로 합니다. 우리는 두 단계의 EEC (……) 설명 프레임워크를 제안합니다. 여기에는 Agent Response Map (ARM)이라는 새로운 분석 도구가 포함되는데, 이는 공간 전반에 걸쳐 에이전트의 의사 결정 패턴을 밝히고 집계 및 회피 영역을 식별합니다. ARM은 로봇들이 환경의 기하학적 장(geometric fields)을 암묵적으로 학습하고 이러한 구조를 협력적인 움직임을 위한 원하는 목표로 활용한다는 것을 보여줍니다. 우리는 이 발견을 두 가지 뚜렷한 작업, 즉 협력적인 다중 로봇 형태 조립과 경쟁적인 포식자-피식자 추격-회피에 걸쳐 검증합니다. 1) 협력적 작업에서 ARM은 비점유된 목표 내부를 로봇 탐색의 원하는 목적지로 식별합니다. 중심부가 점유됨에 따라 이 목표 영역은 자동으로 경계 쪽으로 이동하며, 이는 로봇들이 비점유 영역을 자율적으로 탐색하는 능력을 보여줍니다. 2) 경쟁적 작업에서 ARM은 놀랍게도 포식자(predators)의 Voronoi 다이어그램 경계를 피식자 에이전트(prey agents)의 수렴 목적지로 식별합니다. 이 두 가지 작업을 통해, 우리는 로봇 군집 내 MARL 정책을 뒷받침하는 숨겨진 기하학적 구조를 발견할 수 있는 ARM의 능력을 입증합니다.