하드웨어 인지적 Transformer 적응을 위한 계층별 특화 스칼라 함수 진화

요약

Vision Transformers(ViT)를 엣지 디바이스에 배포할 때 발생하는 계층 정규화의 계산 복잡성과 병목 현상을 해결하기 위한 새로운 프레임워크를 제안합니다. 유전 프로그래밍(GP)을 통해 각 계층에 최적화된 이질적인 스칼라 함수를 진화시킴으로써, 모델의 전면적인 재학습 없이도 높은 정확도를 유지하며 하드웨어 효율성을 극대화합니다.

핵심 포인트

• 계층 정규화(Layer Normalization)를 하드웨어 친화적인 스칼라 근사치로 교체하여 전역 리덕션 병목 현상 해결
• 유전 프로그래밍(GP)을 활용하여 사전 학습된 가중치로부터 계층별로 특화된 스칼라 함수를 직접 진화
• 사후 학습 재정렬(Post-training Re-alignment) 전략을 통해 모델 전체 재학습 없이 효율적인 최적화 가능
• 기존 균질한 방식 대비 높은 분산 포착 능력($R^2$ 91.6%)과 엣지 가속기에서의 낮은 산술 복잡도 및 메모리 트래픽 달성