MPS 및 MIG 기술을 활용한 GPU 공간 공동 실행에 대한 종합 평가

요약

본 기사는 GPU 자원의 과소 활용 문제를 해결하기 위한 NVIDIA의 두 가지 주요 기술인 MPS(Multi-Process Service)와 MIG(Multi-Instance GPU)를 비교 평가합니다. 연구 결과에 따르면, MPS는 유연성을 바탕으로 최적화된 시나리오에서 성능을 향상시키고 에너지 효율을 높일 수 있지만, 메모리 경쟁 상황에서는 심각한 성능 저하를 겪습니다. 반면, MIG는 완전한 하드웨어 격리를 제공하여 일관적인 성능 개선을 보장하지만, 높은 오버헤드와 경직성으로 인해 특정 상황에서 성능 저하가 발생할 수 있습니다.

핵심 포인트

• MPS는 유연성이 높고 최적화된 환경에서 최대 30%의 성능 향상 및 20% 에너지 절감을 제공합니다.
• MPS는 메모리 경쟁(memory contention) 상황에 취약하여 심각한 성능 저하를 경험할 수 있습니다.
• MIG는 완전한 하드웨어 격리를 통해 일관되고 예측 가능한 성능 개선을 보장합니다.
• MIG의 이점은 높은 오버헤드로 인해 일부 완화될 수 있으며, 경직성 때문에 특정 상황에서 성능이 저하될 위험이 있습니다.