특성 간 제약 조건 하에서의 분류기의 공정성

요약

본 논문은 머신 러닝 분류기에서 '공정성'을 다루며, 전통적인 보호 대상 특성에 대한 의존성 정의가 특성 간 제약 조건에 의해 가려질 수 있는 문제를 지적합니다. 이를 해결하기 위해 결정의 공정성을 판단하는 기준을 '설명(explanation)'의 공정성으로 재정의하고, 특히 원리(prime-implicant reason)를 기반으로 합니다. 연구진은 보호 대상 특성과 비보호 대상 특성 간의 제약 조건이 없더라도 이를 무시하면 결정의 공정성이 크게 달라질 수 있음을 보였으며, 세 가지 다른 공정성 정의 간의 관계와 테스트의 계산 복잡도를 분석합니다.

핵심 포인트

• 전통적인 분류기 공정성 정의는 특성 간 제약 조건 하에서 문제가 발생할 수 있다.
• 공정성을 판단하는 새로운 접근법으로 '결정에 대한 설명(explanation)'의 공정성을 제시한다.
• 제시된 원리(prime-implicant reason)를 사용하여 보호 대상 특성이 포함되지 않은 설명을 공정하다고 정의한다.
• 보호 대상 특성 간 제약 조건이 없더라도 이를 무시하면 결정의 공정성이 완전히 바뀔 수 있음을 입증했다.
• 세 가지 다른 공정성 정의(공정한 설명 존재 여부 등) 사이의 관계와 계산 복잡도를 연구한다.