ML 해석 가능성 검증을 위한 출처(Provenance) 활용 방안

요약

기계 학습 (ML) 시스템의 신뢰성과 엄격한 개발이 중요해지면서, 모델의 '해석 가능성(Interpretability)'과 같은 비기능적 요구사항(NFRs) 검증이 핵심 과제로 떠올랐습니다. 본 논문은 ML 출처 정보(Provenance)를 활용하여 이 해석 가능성 NFR을 정량적으로 검증할 수 있는 새로운 접근 방식을 제시합니다. 모델 및 데이터의 다양한 출처 정보를 기록하고 저장함으로써, 모델의 동작을 투명하게 만들고 이를 기반으로 측정 가능한 기능적 요구사항(FRs)을 도출해 해석 가능성을 최종적으로 검증하는 방법을 제안합니다

핵심 포인트

• ML 개발의 엄격성 증가에 따라 '해석 가능성'과 같은 NFR 검증이 주요 과제가 되고 있습니다.
• 기존 연구는 해석 가능성을 정의만 할 뿐, 측정 불가능하여 검증이 어려웠습니다.
• 본 논문은 ML 출처 정보(Provenance)를 활용하여 모델의 동작을 투명하게 만드는 방법을 제시합니다.
• 출처 정보를 저장하는 것이 정량적인 기능적 요구사항(FRs)의 기반이 되며, 이를 통해 해석 가능성 NFR 검증이 가능해집니다.