요약

본 논문은 AI 시스템의 안전성 검증에 필요한 기술적 공백을 메우는 새로운 접근 방식을 제안합니다. 현행 EU AI Act 등 규제들이 고위험 AI 시스템의 안전성을 요구하지만, '허용 가능한 위험'을 정량적으로 측정하고 이를 증명할 수 있는 방법론이 부재합니다. 저자들은 항공기 인증 패러다임을 차용하여 2단계 프레임워크를 제시하며, 모델 내부 접근 없이도 시스템의 실제 실패율에 대한 감사 가능하고 확정적인 상한(upper bound)을 계산하는 통계적 검증 도구(RoMA, gRoMA)를 개발했습니다. 이는 규제 준수 의무를 개발사

핵심 포인트

• AI 시스템의 안전성 요구에도 불구하고, '허용 가능한 위험'을 정량적으로 측정하고 증명할 수 있는 기술적 방법론이 부족합니다.
• 본 논문은 항공기 인증 패러다임을 기반으로 AI 위험 규제를 공학적 실무(engineering practice)로 전환하는 2단계 프레임워크를 제안합니다.
• Stage One에서 권한 기관이 허용 실패 확률($ ext{acceptable failure probability } oldsymbol{\delta}$)과 운영 입력 도메인($oldsymbol{\varepsilon}$)을 정의하고, Stage Two에서 RoMA/gRoMA 도구로 시스템의 실제 실패율 상한을 계산합니다.
• 제안된 인증서(certificate)는 모델 내부 접근 없이도 작동하며, 기존 법적 규제 의무를 충족시키고 책임 소재를 개발사에게 명확히 합니다.