DEX: 에너지 효율적인 MSDF 신경망 추론을 위한 디지털 수준 조기 종료 기법

뇌종양 분할(segmentation)을 위한 U-Net 추론은 수십억 개의 곱셈-누적 연산(multiply-accumulate operations)을 필요로 하므로, 고정된 정밀도나 정적인 모델 압축에만 의존하기보다 계산량을 동적으로 줄일 수 있는 하드웨어가 요구됩니다. 가장 유의미한 자릿수 우선(Most-significant-digit-first, MSDF) 연산은 계산 과정 중 결과의 선행 자릿수를 노출하여, 전체 값이 생성되기 전에도 출력에 의존하는 결정을 가능하게 합니다. 본 논문은 부호 있는 INT8 피연산자를 지원하고 인스트림 바이어스 누적(in-stream bias accumulation) 기능을 갖춘 2단계 그룹 처리 요소(two-stage grouped processing element)를 이용한 양자화된 U-Net 분할을 위한 MSDF 가속기를 제시합니다. 네 가지 런타임 메커니즘이 출력 자릿수 스트림에 직접 작동합니다: ReLU 레이어에서의 정확한 조기 음수 감지(exact early negative detection, END), 분할 헤드에서의 정확한 부호만 결정(exact sign-only decision making), 보정된 낮은 순서 자릿수 건너뛰기(calibrated low-order-digit skipping), 그리고 보정된 가지치기(calibrated pruning)입니다. 두 근사 메커니즘은 정확도 제약 조건 하에 오프라인으로 선택되며, 실행 시에는 가벼운 제어만 필요하고 저장된 가중치를 수정하지 않습니다. BraTS용 nnU-Net으로 훈련된 잔여 U-Net(residual U-Net)에서, 제안된 메커니즘들은 디지털 사이클을 38.38% 감소시키면서도 평균 Dice 점수 80.58%를 달성했습니다 (73개의 홀드아웃 케이스 기준). 이는 부동 소수점 모델의 81.20%와 비교한 수치입니다. 정확한 메커니즘만으로도 양자화된 출력값을 변경하지 않으면서 사이클을 18.79% 감소시킵니다. 45nm 공정으로 합성된 이 처리 요소는 500MHz에서 작동하며, $0.858 ext{mm}^2$의 면적을 차지하고, 스위칭 활동 주석(switching-activity-annotated) 전력 분석 하에 $192 imes192$ 패치당 $0.726 ext{mJ}$를 소비합니다. 활성화 전달이 공유되는 예상 8출력 가속기는 16.6ms의 지연 시간과 패치당 $1.67 ext{mJ}$를 달성합니다.