신뢰할 수 있는 AI 는 불변성 충돌에 고통받고 있으며 인과성이 해결책이다

요약

AI 모델이 고위험 도메인에 배포되면서 신뢰성 확보가 중요해지고 있지만, 공정성, 강건성, 프라이버시 등 여러 목표 간의 상충 관계(trade-off) 문제가 발생하고 있습니다. 이 논문은 이러한 신뢰할 수 있는 AI의 트레이드오프를 데이터 생성 과정의 불변성 충돌 문제로 재해석하며, 인과적 추론이 이 문제를 이해하고 해결하는 데 필수적인 접근 방식임을 주장합니다. 나아가 선택적 불변성을 통해 여러 목표 간의 상충 관계를 완화하거나 해소할 수 있는 통합 프레임워크를 제시합니다.

핵심 포인트

• AI 모델의 신뢰성 확보는 공정성, 강건성, 프라이버시 등 여러 목표가 서로 충돌하는 트레이드오프 문제에 직면해 있습니다.
• 이 논문은 이러한 AI의 트레이드오프를 데이터 생성 과정에서 발생하는 '불변성(invariance)' 요구사항 간의 충돌로 재정의합니다.
• 인과적 추론(Causality)은 신뢰할 수 있는 AI가 직면하는 성능 및 여러 목표 간의 상충 관계를 이해하고 균형을 맞추는 핵심 도구입니다.
• 선택적 불변성(selective invariance) 개념을 통해 기존의 트레이드오프 문제를 완화하거나 해결할 수 있는 통합 프레임워크를 제공합니다.