Rashomon Alignment (RA)
요약
두 모델 간의 기능적 유사성을 평가하기 위한 새로운 척도인 Rashomon Alignment(RA)를 제안합니다. 기존의 분포 기반 방식에서 벗어나 결정 경계 정렬을 통한 기하학적 관점의 유사성을 측정하며, 모델 선택 및 해석 가능성 향상에 기여할 수 있습니다.
핵심 포인트
- 기존 분포 기반 척도의 한계를 극복하는 기하학적 관점 도입
- 전체 데이터 공간에 대한 결정 경계 정렬(decision boundary alignment) 제공
- 90개 이상의 데이터셋을 통해 모델 정렬과 정확도 간의 관계 검증
- 모델 선택, 앙상블 구축, 모델 해석 가능성 향상에 활용 가능
우리는 두 모델 간의 기능적 유사성(functional similarity)을 평가하기 위한 새로운 척도인 Rashomon Alignment (RA)를 제안합니다. 기존의 기능적 유사성 척도들은 분포 기반(distributional)으로, 실제 데이터에 적용된 모델 출력 간의 차이를 정량화합니다. 그러나 이러한 척도들은 가용한 데이터에 의해 표현되는 입력 공간(input space) 내의 영역에 대해서만 생태학적 타당성(ecologically valid)을 갖는 것으로 간주될 수 있습니다. 우리는 전체 데이터 공간에 걸쳐 이를 추정하는 기능적 모델 유사성에 대한 기하학적 관점(geometrical perspective)을 도입하며, 이는 특정 데이터 분포와 무관하게 결정 경계 정렬(decision boundary alignment)에 대한 포괄적인 시각을 제공합니다. 또한 우리는 인스턴스 공간(instance space)에서 균일하게 샘플링된 데이터를 사용하여 계산되는 기하학적 유사성의 척도로서 기하학적 Rashomon Alignment를 제안합니다. 우리는 90개 이상의 데이터셋에 대해 실험적 분석을 수행하여, 모델 정렬(model alignment)이 예측 정확도(predictive accuracy)와 일치하지 않는 임계 사례들을 조사합니다. 우리의 결과는 기하학적 정렬(geometrical alignment)과 분포 기반 정렬(distributional alignment)이 모델과 알고리즘 간의 유사성에 대해 서로 다르고 상호 보완적인 관점을 제공함을 보여줍니다. RA는 모델 선택(model selection), 앙상블 구축(ensemble construction), 그리고 머신러닝 모델 및 알고리즘의 해석 가능성(interpretability) 향상을 포함한 다양한 목적으로 사용될 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기