PACI는 비동기 파이프라인 병렬성 (asynchronous pipeline parallelism)을 저해하는 버블 (bubbles)을 제거하며, 가장 빠른 동기식 플러시 (synchronous flush) 베이스라인과 비교했을 때 정확도 도달 시간 (time-to-accuracy)을 최대 1.69배 단축합니다. 이 논문은 동일한 피크 메모리 사용량을 유지하면서 GPT-2 Medium 사전 학습 (pre-training) 과정에서 이러한 이득을 입증합니다. PACI는 그래디언트 (gradients)를 로컬하게 누적함으로써 마이크로 배치 (micro-batch)가 현재 가중치 (weight) 버전으로부터 멀어지는 정도를 제한하며, 이를 통해 글로벌 동기화 (global synchronization) 없이도 파이프라인을 완전히 가동 상태로 유지합니다.

PACI 이전의 지배적인 전략은 1F1B-flush 스케줄이었습니다. 이는 순전파/역전파 (forward/backward) 가중치 일관성을 보장하지만, 스테이지 (stages)가 그래디언트 반환을 기다릴 때마다 빈 슬롯 (empty slots)을 강제합니다. 비동기 대안들은 이러한 유휴 사이클 (idle cycles)을 피할 수 있었으나, 가중치 저장 (weight stashing), 버전 예측 (version prediction), 또는 매개변수 복제 (duplicate parameter copies)와 같은 무거운 기법들을 필요로 했으며, 종종 불안정한 학습 역학 (training dynamics) 문제를 겪었습니다. 따라서 커뮤니티는 버블 없는 실행 (bubble-free execution)을 수렴 신뢰성 (convergence reliability)과의 트레이드오프 (trade-off) 관계로 취급해 왔습니다.

PACI는 동기식 1F1B-flush의 안정성과 최종 퍼플렉시티 (perplexity)를 일치시키고, 동일한 피크 메모리 점유율 (peak memory footprint)을 유지하며, 완전히 활용된 파이프라인 처리량 (pipeline throughput)을 달성하고, 가장 빠른 플러시 베이스라인 대비 학습 정확도 도달 시간을 최대 1.69배 개선합니다 [1]. 보고된 GPT-2 Medium 실험에서 이 방법은 목표 퍼플렉시티에 도달하는 실제 시간 (wall-clock time)을 1.69배 단축했으며, 이는 제한된 불일치 (bounded inconsistency)가 모델 품질을 희생하지 않으면서도 상당한 효율성으로 교환될 수 있음을 보여줍니다.

처리량 이점은 플러시 베이스라인을 넘어 확장됩니다: “결과적인 비교는 PACI의 주요 스케일링 함의를 보여줍니다: 이는 ZB-2p의 처리량 영역에 도달하며 여러 경우 이를 초과하면서도, 1F1B-flush 및 ZB-1p의 메모리 점유율을 유지합니다” [1]. 이는 단일 8-스테이지 파이프라인이 두 개의 프로세스 ZeRO-2 구성만큼 빠르게 실행될 수 있음을 의미하며, 그러면서도 해당 구성들이 통상적으로 부과하는 추가적인 메모리 오버헤드 (memory overhead)가 없습니다.

본 연구는 단일 GPT 스타일의 사전 학습 (pre-training) 워크로드와 8단계 파이프라인 (8-stage pipeline)에 국한되어 있습니다. 매우 깊은 파이프라인, 인코더 전용 모델 (encoder-only models), 또는 극단적인 학습률 스케줄 (learning-rate schedules)을 사용하는 학습 체제는 탐구하지 않았습니다. 또한, 버전 드리프트 (version drift)의 상한선은 선택된 누적 윈도우 (accumulation window)와 연관되어 있으므로, 파이프라인 깊이나 마이크로 배치 크기 (micro-batch size)가 급격히 변할 경우 튜닝이 필요할 수 있습니다. 이는 PACI의 이점이 플러시 스케줄 (flush schedules)을 대체하는 보편적인 방법이라고 선언하기 전에, 더 광범위한 아키텍처 제품군에 대한 검증이 필요함을 시사합니다.

보고된 속도 향상이 다른 모델 제품군에서도 유지된다면, 엔지니어링 팀은 추가적인 GPU를 구매하거나 메모리를 늘리지 않고도 현재의 1F1B 구현을 PACI로 교체함으로써 학습된 모델당 하드웨어 비용을 약 40% 절감(1.69배 속도 향상에 해당)할 수 있습니다. 실질적인 적용 경로는 명확합니다. 저자의 저장소(repository)에 포함된 로컬 누적 래퍼 (local-accumulation wrapper)로 플러시 동기화기 (flush synchronizer)를 교체하고, 표준 시간 대비 정확도 (time-to-accuracy) 벤치마크를 다시 실행하여 기대되는 이득을 확인하면 됩니다.

참고 문헌

1. Breaking the Bubble: Asynchronous Pipeline Parallel Training with Bounded Weight Inconsistency