Learned Neighbor Trust for Collaborative Deployment in Model-Agnostic

요약

기존 분산 디스틸레이션 기법들은 훈련 시 협력에 초점을 맞추었으나, 실제 IoT 환경과 같이 이종적이고 자원이 제한적인 노드들이 존재하는 추론 단계에서는 각 노드를 고립시켜 배포하는 한계가 있었습니다. 본 연구는 모델에 구애받지 않는(model-agnostic) 프로토콜을 통해, 노드가 로컬 검증 증거를 기반으로 이웃의 신뢰도를 학습하고 이를 활용하여 훈련 중 협력을 정의하며 추론 시 배포 앙상블을 구성하는 방법을 제안합니다. 이 접근 방식은 적은 통신량으로도 높은 정확도를 달성하여 실제 분산 환경에 효과적으로 적용될 수 있습니다.

핵심 포인트

• 기존 디스틸레이션 방법의 한계: 훈련 시 협력 중심, 추론 시 노드 고립 배포 문제.
• 제안된 접근 방식: 모델 무관(model-agnostic) 프로토콜을 사용하여 신뢰 기반의 협력을 학습.
• 신뢰 함수 학습: 각 노드는 로컬 검증 증거를 통해 이웃에 대한 컴팩트한 신뢰 함수를 학습함.
• 실제 적용성: 훈련 중 학습된 협력이 추론 시 배포 앙상블로 직접 전달되어 성능 향상을 가져옴.
• 효율성: 이전 방법 대비 통신량을 크게 줄이면서도 높은 배포 정확도를 유지함.