데이터 기반 시스템은 언제 추론 능력을 나타내는가?

유럽 AI 법(European AI Act)은 인공지능(AI)에 대한 최초의 포괄적인 규제로, 특히 소위 고위험(high-risk) 및 범용 AI 시스템에 대해 광범위한 의무를 규정하고 있습니다. AI 법에 따른 AI 시스템의 핵심적인 구별 특징은 추론(infer) 능력입니다. AI 법이 추론이 무엇인지 명확하게 정의하지 않기 때문에, 특정 데이터 기반 시스템에 대해서는 회색 지대가 존재합니다. 구체적인 예로 AI 법의 부속서 III(Annex III)에 나열된 신용 점수 산정(credit scoring) 시스템이 있습니다. 그러나 동시에, 이러한 시스템들은 종종 통계 모델(statistical models)을 사용하여 구현되는데, 이 모델들이 추론 능력을 갖추고 있는지, 따라서 AI 법의 AI 정의에 해당하는지 여부가 불분명합니다. 통계적 학습 이론(statistical learning theory)에 착안하여, 본 연구는 다양한 수준의 추론 능력을 등급화하기 위한 프레임워크를 개발합니다. AI 법과 인공지능 시스템의 정의에 관한 위원회 가이드라인(Commission Guidelines)을 바탕으로, 우리는 어떤 수준이 AI 법의 의미 내에서 충분한 추론 능력을 구성하는지, 그리고 어디에 추가적인 규제적 명확성이 필요한지를 분석합니다. 우리는 두 가지 현실적인 신용 점수 산정 워크플로우(workflows)를 생성하여 프레임워크를 설명하고, 그 과정에서 추론이 발생하는지 여부와 그 위치를 보여줍니다. 우리의 분석은 개별 모델뿐만 아니라 전체 데이터 처리 워크플로우를 반드시 고려해야 함을 보여줍니다. 또한 개발 과정 중 인간 전문가의 참여가 추론 능력에 상당한 영향을 미칠 수 있음을 보여줍니다. 코드는 https://github.com/fraunhofer-iais/inference-framework-creditscorecards 에서 확인할 수 있습니다.