DRAM 내 처리(Processing-in-DRAM, PID) 통합 및 트랜스포머 추론 서버 대체 방안에 대한 지속 가능성 분석

요약

본 연구는 Processing-in-DRAM (PID) 가속기를 트랜스포머 추론 서버를 위한 GPU 대안으로 제시하며, PID 기반 추론 서버의 탄소 모델링 프레임워크를 제안합니다. 이 프레임워크는 유휴 및 활성 운영 탄소와 내재 탄소를 모두 포착하여 종합적인 평가를 수행했습니다.

핵심 포인트

• PID가 메모리 대역폭 제한을 완화하고 에너지 발자국을 줄이는 대안입니다.
• 총 내재 탄소는 증가할 수 있으나, 특정 워크로드(인코더/디코더)에서는 전체 탄소가 감소합니다.
• 고성능 GPU 서버에 PID를 도입하면 유휴 및 내재 탄소가 크게 높아질 수 있습니다.
• 노화 인식 모델을 통해 10년 기간 동안의 최적 교체 시점을 찾을 수 있습니다.