심층 신경망 (DNN)을 위한 증명 가능한 공정성 복구 (Provable Fairness Repair)

요약

심층 신경망(DNN)의 윤리적 편향 문제를 해결하기 위해 증명 가능한 공정성 보장을 제공하는 새로운 프레임워크인 ProF를 제안합니다. ProF는 구간 경계 전파(IBP) 기술을 활용하여 편향된 샘플 주변의 전체 집합에 대한 모델 출력을 포착하고, 이를 혼합 정수 선형 계획법(MILP) 문제로 변환하여 공정성을 복구합니다. 실험 결과, ProF는 높은 일반화 성능과 함께 약 90%의 공정성 개선 효과를 입증하였습니다.

핵심 포인트

• 기존 데이터 중심적 공정성 복구 방식의 한계인 증명 가능한 보장 및 일반화 능력 부족을 해결함
• 구간 경계 전파(Interval Bound Propagation)를 사용하여 샘플 주변 집합에 대한 모델 출력을 건전하게 포착
• 공정성 제약 조건과 모델 수정을 MILP(Mixed-Integer Linear Programming) 문제로 통합하여 해결
• 벤치마크 데이터셋에서 최대 95.93%의 데이터셋 내 공정성 및 93.16%의 입력 공간 일반화 성능 달성
• 다양한 민감한 속성과 실용적인 공정성 정의를 지원하도록 유연하게 구성 가능