Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
유럽 AI 법(EU AI Act)의 규제 대상인 '추론 능력'의 모호성을 해결하기 위해 통계적 학습 이론 기반의 프레임워크를 제안합니다. 신용 점수 산정 시스템을 사례로 데이터 처리 워크플로우와 인간의 개입이 추론 능력에 미치는 영향을 분석합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기유럽 AI 법(European AI Act)은 인공지능(AI)에 대한 최초의 포괄적인 규제로, 특히 소위 고위험(high-risk) 및 범용 AI 시스템에 대해 광범위한 의무를 규정하고 있습니다. AI 법에 따른 AI 시스템의 핵심적인 구별 특징은 추론(infer) 능력입니다. AI 법이 추론이 무엇인지 명확하게 정의하지 않기 때문에, 특정 데이터 기반 시스템에 대해서는 회색 지대가 존재합니다. 구체적인 예로 AI 법의 부속서 III(Annex III)에 나열된 신용 점수 산정(credit scoring) 시스템이 있습니다. 그러나 동시에, 이러한 시스템들은 종종 통계 모델(statistical models)을 사용하여 구현되는데, 이 모델들이 추론 능력을 갖추고 있는지, 따라서 AI 법의 AI 정의에 해당하는지 여부가 불분명합니다. 통계적 학습 이론(statistical learning theory)에 착안하여, 본 연구는 다양한 수준의 추론 능력을 등급화하기 위한 프레임워크를 개발합니다. AI 법과 인공지능 시스템의 정의에 관한 위원회 가이드라인(Commission Guidelines)을 바탕으로, 우리는 어떤 수준이 AI 법의 의미 내에서 충분한 추론 능력을 구성하는지, 그리고 어디에 추가적인 규제적 명확성이 필요한지를 분석합니다. 우리는 두 가지 현실적인 신용 점수 산정 워크플로우(workflows)를 생성하여 프레임워크를 설명하고, 그 과정에서 추론이 발생하는지 여부와 그 위치를 보여줍니다. 우리의 분석은 개별 모델뿐만 아니라 전체 데이터 처리 워크플로우를 반드시 고려해야 함을 보여줍니다. 또한 개발 과정 중 인간 전문가의 참여가 추론 능력에 상당한 영향을 미칠 수 있음을 보여줍니다. 코드는 https://github.com/fraunhofer-iais/inference-framework-creditscorecards 에서 확인할 수 있습니다.