Interflow: 에지 환경의 프라이빗 AI를 위한 오프라인-온라인 장벽 해소

요약

본 글은 개인정보 보호 머신러닝(PPML)의 배포 제약을 해결하기 위해 Interflow라는 알고리즘-하드웨어 공동 설계를 제안합니다. 기존 MPC 시스템이 가진 높은 통신 및 메모리 오버헤드를 줄이기 위해, 배치 처리와 상관관계 무작위성 생성을 병렬로 파이프라이닝하는 것이 핵심입니다. 이를 통해 엣지 환경에서 효율적인 비선형 AI 연산을 가능하게 합니다.

핵심 포인트

• Interflow는 MPC의 통신/메모리 오버헤드를 줄이는 알고리즘-하드웨어 공동 설계이다.
• 배치 처리와 무작위성 생성을 병렬 파이프라이닝하여 메모리 발자국과 데이터 이동을 최적화한다.
• Zynq UltraScale+ ZCU102에 구현되어 CNN, Transformer 등에서 높은 처리량 향상을 입증했다.