설명 가능한 AI를 넘어 알고리즘 이의 제기 가능성(Contestability)의 재고

요약

본 논문은 기존의 설명 가능한 AI(XAI)가 제공하는 '알고리즘적 구제'의 한계를 지적하며, 잘못된 결정을 검토하고 수정할 수 있는 '알고리즘적 이의 제기 가능성(Contestability)'의 중요성을 강조합니다. 저자들은 기존 XAI 방식이 결정 자체를 뒤집기 위한 충분한 근거를 제공하지 못함을 밝히고, 결정을 반박할 수 있는 세 가지 핵심 증거 유형을 제안합니다.

핵심 포인트

• 알고리즘적 구제(Recourse)는 결정의 유효성을 가정하고 변경 경로를 제공하지만, 이의 제기 가능성(Contestability)은 결정의 오류 가능성을 전제로 합니다.
• 기존의 XAI 방식(LIME, Anchors 등)은 국소적인 오류는 드러낼 수 있으나 결정을 뒤집기 위한 충분한 근거를 제공하기 어렵습니다.
• 성공적인 이의 제기를 위해 예측 다중성, 잘못된 특성 값, 간과된 우선 적용 증거라는 세 가지 증거 유형을 식별합니다.
• 제안된 프레임워크는 EU 법안 등 기존 법적 권리와의 연결성을 가집니다.