자기 적응형 및 자기 조직화 시스템에서의 자기 설명 가능성 (Self-Explainability): 현황 및 연구 방향

인공지능 (AI)의 발전으로 인해 자기 적응형 (self-adaptive) 및 자기 조직화 (self-organising) 시스템의 복잡성이 증가하면서, 이러한 시스템을 이해하고 신뢰하는 것이 점점 더 어려워지고 있습니다. 설명 가능한 인공지능 (Explainable AI)이 AI의 의사 결정에 대한 통찰력을 제공하는 것을 목표로 한다면, 더 진보된 목표는 시스템이 스스로를 설명하는 것인데, 이러한 능력을 자기 설명 가능성 (Self-Explainability, SX)이라고 합니다. 본 논문은 SX에 대한 체계적인 문헌 검토 (systematic literature review)를 제시하며, 적용 분야, 대상 및 평가 방법을 포함한 기존 접근 방식들을 분석합니다. 본 검토를 통해 SX에 대한 통합된 정의와 분류 체계 (taxonomy)를 개발하고, 현재 및 미래의 연구를 배치하기 위한 프레임워크로서 자기 설명 가능성 단계 (Levels of Self-Explainability)를 도입합니다. 연구 결과에 따르면 대부분의 SX 접근 방식은 개념적인 수준에 머물러 있으며, 실제 구현 사례는 거의 없는 것으로 나타났습니다. 또한, 현재 SX를 평가하기 위한 공식적 또는 사실상의 표준 (de facto standard)이 존재하지 않으며, 이는 주요한 연구 공백임을 시사합니다. 따라서 본 연구는 복잡한 시스템에서 자기 설명 가능성을 발전시키기 위한 토대와 로드맵을 구축합니다.