대규모 언어 모델 (LLMs) 기반의 자율 멀티 에이전트 시스템은 광범위한 응용 분야에서 복잡한 작업을 독립적으로 해결하는 놀라운 능력을 보여주었습니다. 그러나 이러한 시스템은 작업의 규모와 복잡성이 증가함에 따라 핵심적인 추론 (reasoning), 조정 (coordination), 그리고 계산 확장성 (computational scaling) 측면에서 병목 현상에 직면합니다. 이러한 한계는 기반이 되는 LLMs에 병렬 컴퓨팅 및 추론 프리미티브 (reasoning primitives)가 존재함에도 불구하고, 멀티 에이전트 시스템이 고도로 병렬화 가능한 작업에 대해 높은 처리량 (high-throughput) 처리를 달성하는 것을 방해합니다. 우리는 대규모 병렬화가 가능한 에이전트 워크로드 (agentic workloads)의 효율적인 처리를 위해 설계된 분산 멀티 에이전트 시스템 아키텍처인 Agent-Parallel Workload Architecture (APWA)를 소개합니다. APWA는 워크플로우를 상호 간섭하지 않는 하위 문제 (subproblems)로 분해하여, 교차 통신 (cross-communication) 없이 독립적인 리소스를 사용하여 처리할 수 있도록 함으로써 병렬 실행을 촉진합니다. 이는 이기종 데이터 (heterogeneous data)와 병렬 처리 패턴을 지원하며, 광범위한 도메인의 작업을 수용할 수 있습니다. 평가를 통해, 우리는 APWA가 복잡한 쿼리를 병렬화 가능한 워크플로우로 동적으로 분해할 수 있으며, 기존 시스템들이 완전히 실패하는 설정에서도 더 큰 작업에 대해 확장 (scales)할 수 있음을 입증합니다.