체인은 가장 약한 고리만큼만 강하다: AI 시스템 통합 감사에 관한 범위 검토 (Scoping Review)

요약

본 논문은 AI 시스템이 복잡하게 통합됨에 따라 모델 중심의 감사만으로는 위험 파악이 불충분함을 지적하며, '시스템 통합'을 평가의 핵심 원칙으로 다루는 범위 검토 결과를 제시합니다. 분석 결과, 현재 AI 감사는 파편화되어 있으며, 통합 특화 위험 측정 및 전통적인 감사 기대치 충족에 큰 격차가 있음을 발견했습니다.

핵심 포인트

• AI 시스템은 모델 중심 감사만으로는 위험을 포괄할 수 없습니다.
• 시스템 통합은 평가의 핵심 원칙으로 다루어져야 합니다.
• 현재 AI 감사는 파편화되어 있으며, 격차가 존재합니다.
• 통합 평가는 구성 요소 간, 시스템-환경 간, 다중 시스템 간 세 영역으로 분류됩니다.