신뢰할 수 있는 AI 는 불변성 충돌에 고통받고 있으며 인과성이 해결책이다

인공지능 (AI), 기계학습 (ML) 모델 및 기반 모델 (FMs) 을 포함한 AI 가 점점 더 고위험 도메인에 배포되고 있기 때문에, 그 신뢰성을 보장하는 것이 핵심적인 과제가 되고 있다. 그러나 공정성, 강건성, 프라이버시, 설명 가능성과 같은 핵심 신뢰할 수 있는 AI 목표는 특히 유틸리티를 유지하면서 동시에 달성하기 어렵다. 이 위치 논문의 주장은 인과성이 신뢰할 수 있는 AI 의 성능 및 여러 목표 간의 트레이드오프를 이해하고 균형을 맞추기 위해 필요하다고 주장한다. 우리는 신뢰할 수 있는 AI 의 트레이드오프를 데이터 생성 과정의 다른 변화에 대한 서로 호환되지 않는 불변성 요구사항으로 재해석함으로써 우리의 주장을 근거로 한다. 그 후, 인과성이 신뢰할 수 있는 AI 의 트레이드오프가 어떻게 발생하는지 이해하는 통합 프레임워크를 제공하고, 선택적 불변성을 통해 이러한 트레이드오프를 완화하거나 해결할 수 있음을 보여준다. 이 관점은 고전 ML 모델과 대규모 FMs 모두에 적용된다. 본 논문은 현대 대규모 시스템에서 인과 가정이 명시적이거나 암묵적으로 어떻게 적용될 수 있는지를 논의한다. 마지막으로, 인과성을 사용하여 더 신뢰할 수 있는 AI 를 구축하기 위한 열린 과제와 기회를 요약한다.