ML 해석 가능성 검증을 위한 출처(Provenance) 활용 방안

기계 학습 (ML) 엔지니어링 분야가 성장함에 따라, ML 개발 과정 전반에 걸쳐 높은 수준의 엄격성이 요구되고 있습니다. 이 분야는 소프트웨어 공학(Software Engineering) 및 특히 요구사항 공학(Requirements Engineering)에서 많은 아이디어를 차용하고 있습니다. 기존 문헌들은 해석 가능성(Interpretability)을 포함하여 ML 특유의 품질 모델과 비기능적 요구사항(Non-Functional Requirements, NFRs)들을 정의해 왔습니다.

하지만 주요 난관은 이러한 ML NFR들, 특히 '해석 가능성' 자체를 어떻게 검증할 것인가에 있습니다. 기존 연구들은 해석 가능성을 개념적으로만 정의할 뿐, 측정 가능한 지표로 확정하기 어려워 모델이 요구되는 수준의 해석 가능성을 충족하는지 명확하게 입증하는 것이 불가능했습니다.

본 논문은 이러한 문제를 해결하기 위해 **ML 출처 정보(Provenance)**를 활용하여 ML 해석 가능성 요구사항을 검증할 수 있는 방법을 제시합니다. 이 접근 방식에 따르면, ML 엔지니어들은 모델과 데이터의 다양한 종류의 출처 정보를 체계적으로 저장해야 합니다. 이렇게 기록된 출처 정보는 모델의 동작 과정을 투명하고 해석 가능하게 만드는 기초 자료가 됩니다.

더 나아가, 이러한 출처 데이터를 저장하는 과정 자체가 **정량적인 기능적 요구사항(Functional Requirements, FRs)**을 형성하는 기반이 됩니다. 즉, 단순히 '해석 가능해야 한다'라는 추상적 NFR을 넘어, '어떤 데이터가 어떤 과정을 거쳐 모델에 영향을 미쳤는지'와 같은 측정 가능한 FR로 변환되는 것입니다. 궁극적으로, 이처럼 도출된 FR들을 검증함으로써 최종적으로 해석 가능성이라는 NFR을 효과적으로 검증할 수 있게 됩니다.

결론적으로, 본 연구는 ML 모델의 신뢰성을 높이는 데 기여하는 방법론으로, 출처 정보 기록 및 관리를 통해 추상적인 해석 가능성 요구사항을 구체적이고 측정 가능한 형태로 전환하여 검증하는 방법을 제공합니다.