Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
네트워크 운영의 투명성을 높이기 위해 LLM과 SHAP을 결합한 새로운 XAI 프레임워크를 제안합니다. 상호 특징 상호작용 데이터를 활용한 구조화된 프롬프트를 통해 인간이 이해하기 쉬운 자연어 설명을 생성합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기인공지능 및 머신러닝 (AI/ML) 모델이 네트워크 운영의 필수적인 부분이 됨에 따라, 이들의 투명성 부족은 운영자의 신뢰를 구축하는 데 큰 장벽이 되고 있습니다. 기존의 설명 가능한 인공지능 (XAI) 기술은 비전문가를 위한 간극을 메우는 데 종종 실패하며, 실행 가능한 통찰력 (actionable insights)으로 변환하기 어려운 기술적인 결과물을 생성합니다. 본 논문은 이러한 단점을 해결하기 위해 특별히 설계된 프레임워크를 제시합니다. 이 프레임워크는 중간 규모의 거대 언어 모델 (LLM)을 활용하며, SHapley Additive exPlanations (SHAP) 특징 영향력 값의 표준적인 사용 범위를 넘어 확장합니다. 이 프레임워크는 상호 특징 상호작용 (mutual feature interaction) 데이터로 풍부해진 구조화된 프롬프트를 사용하여 인간이 이해할 수 있는 자연어 설명을 생성합니다. 우리 프레임워크를 검증하기 위해, 우리는 인간 평가자를 대상으로 광 전송 품질 (QoT) 추정 유스케이스에 대한 실증적 평가를 수행했습니다. 우리는 전문가들로부터 독립적인 성능 평가를 수집하였으며, 이는 높은 평가자 간 일치도 (inter-evaluator agreement)를 보여주었습니다. 단순한 프롬프트에서 SHAP 특징 영향력 값만을 사용하는 최신 기술 (state-of-the-art) 베이스라인과 비교했을 때, 우리의 접근 방식은 97.5%의 정확도를 달성하는 동시에 설명의 유용성과 범위를 각각 12.2%와 6.2% 향상시켰습니다.