부호 기반 방법(Sign-based methods)은 분산 환경에서 통신 비용을 줄여주지만, 데이터가 이질적(heterogeneous)일 경우 로컬 부호를 집계하는 과정에서 편향(bias)이 발생할 수 있습니다. 그 결과, 기존의 부호 기반 분산 감소 방법들은 최적의 수렴 속도를 얻지 못합니다. 본 논문에서는 이 문제를 해결하고 비볼록 확률 및 유한 합(finite-sum) 최적화 모두에 대해 최적의 비율을 얻습니다. 먼저, 정확한 로컬 기울기(local gradients)를 사용하더라도 다수결 투표(majority voting)가 정상점(stationary points)에 접근하는 데 실패할 수 있음을 보여주는 반례(counterexample)를 제시합니다. 이러한 한계에서 영감을 받아, 우리는 재귀적 기울기 증가분(recursive gradient increments)의 편향되지 않은 압축을 통해 서버에서 전역 기울기(global gradient)를 추적할 것을 제안합니다. 그 결과, $ ext{l}_1$-노름에 대해 $O(rac{
oot{2}{} ext{d/K}+ ext{d} (a/(nK))^{1/3}})$ 및 $ ext{l}_2$-노름에 대해 $O(rac{
oot{2}{} ext{a/K}+ ext{a}/(nK)^{1/3}})$의 수렴 속도를 얻을 수 있습니다. 여기서 $K$는 반복 횟수, $n$은 워커(worker) 수, $d$는 차원(dimension), 그리고 $a=1+\omega$이며 $\omega$는 압축기(compressor)의 상대 분산(relative variance)을 나타냅니다. $M$개의 구성 요소로 이루어진 유한 합 문제의 경우, 주기적인 정확 기울기 새로고침과 압축된 구성 요소-기울기 차이를 결합합니다. 그 결과 얻어지는 총 표본 복잡도(total sample complexities)는 $ ext{l}_1$ 및 $ ext{l}_2$ 기울기 노름이 최대 $\epsilon$일 때 각각 $O(M+d\sqrt{aM}\epsilon^{-2})$와 $O(M+a\sqrt M\epsilon^{-2})$이며, 이는 중앙 집중식 설정(centralized settings)의 해당 경계와 일치합니다.