양자 링 올리듀스(Quantum ring all-reduce): 분산 학습을 위한 통신 및 개인정보 보호 이점

머신러닝 (Machine learning) 모델이 전례 없는 규모로 확장됨에 따라, 분산된 장치들 간의 학습이 이 분야의 사실상 표준 (de facto standard)이 되었습니다. 본 연구에서는 양자 통신 (quantum communications)이 고전적 (classical) 및 양자 학습 (quantum learning) 모델 모두에 대해 분산 학습을 어떻게 통신 효율적이고 정보 이론적으로 (information-theoretically) 프라이버시를 보호할 수 있는지 탐구합니다. 링 올리듀스 (Ring all-reduce)는 대규모 분산 학습을 위한 기초적인 통신 프리미티브 (communication primitive)입니다. 우리는 학습 모델이나 그래디언트 (gradient) 계산을 변경할 필요 없이, 사전 공유된 얽힘 (pre-shared entanglement)과 초밀도 코딩 (superdense coding)을 사용하여 링크당 온라인 통신을 증명 가능한 최적의 인자인 2배만큼 줄이는 양자 버전을 제시합니다. 대역폭을 넘어, 이 프리미티브는 검증된 얽힘 (verified entanglement)을 통해 GHZ 복사본의 2배 오버헤드로 결합 가능한 $\epsilon$-보안 집계 (composable $\epsilon$-secure aggregation)를 달성함으로써, 어떠한 고전적 프로토콜에서도 정보 이론적으로 불가능한 프라이버시 보장을 가능하게 합니다. 우리의 하이브리드 양자-고전 통신 아키텍처는 학습 자체가 양자이든 고전적이든 관계없이 대규모 분산 학습에 대해 통신 및 보안 이점을 동시에 제공합니다. 마지막으로, 우리는 대역폭 제약 하에서 서버 대 클라이언트 통신 시 그래디언트 충돌 탐지 (gradient conflict detection)의 양자 이점을 특성화합니다. 이는 링 올리듀스가 완료된 후, 외부 클라이언트로의 전체 그래디언트 브로드캐스트 (gradient broadcast)가 불가능한 상황에서 발생하는 설정입니다. 이 문제의 두 가지 변형은 서로 다른 격차 (separations)를 허용합니다. 마진 기반 정렬 테스트 (\textsc{GapIP}\tau)의 경우, 양자 이점은 마진 파라미터에 대해 이차적 (quadratic)입니다: $\widetilde{O}(\tau^{-1}\log P)$ 큐비트 (qubits) 대 $\widetilde{O}(\min(\tau^{-2},P))$ 비트 (bits). 프라이빗 파라미터 매칭에 대한 부호 일관성 감사 (\textsc{TieAudit}\epsilon)의 경우, 이점은 통신 복잡도 (communication complexity)에서 지수적 격차 (exponential separation)를 나타냅니다: $\Omega(\sqrt{P})$ 비트인 반면 $O(\epsilon^{-2}\log P)$ 큐비트면 충분합니다.