WBMM: 효율적인 대규모 수용 영역 컨볼루션을 위한 윈도우 기반 배치 행렬 곱셈

요약

대규모 커널 depthwise convolution의 메모리 액세스 문제를 해결하기 위해 윈도우 기반 배치 행렬 곱셈(WBMM) 방식을 제안합니다. WBMM은 윈도우 크기가 커질수록 처리량이 향상되며, 기존 방식보다 훨씬 큰 수용 영역을 제공하면서도 높은 훈련 속도와 정확도를 달성합니다.

핵심 포인트

• 불규칙한 메모리 액세스를 규칙적인 배치 행렬 곱셈으로 전환
• 커널 크기가 커질수록 처리량이 향상되는 구조적 특징
• 기존 5x5 depthwise convolution 대비 7.8배 큰 수용 영역 제공
• GPU, CPU, 에지 디바이스 전반에서 일관된 성능 이점 확인
• ImageNet-1K 등 주요 데이터셋에서 훈련 속도 1.31-1.88배 향상