Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
FedXDS는 연합 학습의 데이터 이질성 문제를 해결하기 위해 XAI(설명 가능한 AI)를 활용하는 새로운 연구입니다. 특징 기여도 기술을 통해 작업 관련 특징을 식별하고, 메트릭 프라이버시를 적용하여 데이터 보안과 모델 성능을 동시에 확보합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기설명 가능한 인공지나 (Explainable AI (XAI)) 방법론은 최근 몇 년 동안 딥러닝 모델의 의사결정을 주도하는 입력 데이터 내의 관련 특징 (features)을 식별함으로써 사용자에게 해석 가능성을 높여주는 데 상당한 성공을 거두었습니다. 그러나 모델 투명성을 제공하는 것 이상의 XAI 잠재력은 인접한 머신러닝 (machine learning) 분야에서 여전히 미개척 상태로 남아 있습니다. 본 논문에서 우리는 XAI가 연합 학습 (federated learning) 맥락에서 어떻게 활용될 수 있는지를 최초로 보여줍니다. 구체적으로, 연합 학습은 원시 데이터 (raw data) 공유 없이 협력적인 모델 학습을 가능하게 하지만, 클라이언트 데이터 분포가 통계적 이질성 (statistical heterogeneity)을 보일 때 성능 저하를 겪습니다. 우리는 이질성을 완화하기 위해 어떤 데이터 요소가 클라이언트 간에 선택적으로 공유되어야 하는지를 정확하게 식별하기 위해 특징 기여도 (feature attribution) 기술을 활용하는 최초의 접근 방식인 FedXDS (Federated Learning via XAI-guided Data Sharing)를 소개합니다. 전파 기반 기여도 (propagation-based attribution)를 채택함으로써, 우리의 방법은 단 한 번의 역전파 (backward pass)를 통해 작업 관련 특징 (task-relevant features)을 식별하며, 클라이언트의 기여도를 일치시키는 선택적 데이터 공유를 가능하게 합니다. 민감한 정보를 보호하기 위해, 우리는 유용성을 유지하면서도 공식적인 프라이버시 보장을 제공하는 메트릭 프라이버시 (metric privacy) 기술을 통합합니다. 실험 결과에 따르면, 우리의 접근 방식은 다양한 클라이언트 수와 이질성 설정에 걸쳐 기존 방법들과 비교했을 때 일관되게 더 높은 정확도와 더 빠른 수렴 (convergence)을 달성함을 보여줍니다. 우리는 이론적인 프라이버시 보장을 제공하며, 멤버십 추론 (membership inference) 및 특징 역전 (feature inversion) 공격 모두에 대한 강건성 (robustness)을 실증적으로 입증합니다. 코드는 https://github.com/MaxH1996/FedXDS 에서 확인할 수 있습니다.