Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
의료 AI의 불투명성을 해결하기 위해 과학 철학적 관점에서 설명 가능한 AI(XAI)를 재검토합니다. 인과관계, 신뢰, 설명적 적절성을 중심으로 임상 의사결정에 적합한 XAI 설계 원칙을 제안합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기의료 인공지능 (Medical Artificial Intelligence (AI))은 임상 실무를 변화시킬 것으로 널리 기대되고 있지만, 많은 머신러닝 (Machine Learning (ML)) 모델의 의사결정 과정은 여전히 불투명합니다. 설명 가능성 (Explainability)은 특히 이해관계가 큰 상황에서 AI가 왜 예측을 생성하는지 명확히 하기 위한 부분적인 해결책으로 제시되어 왔습니다. 지속적인 노력에도 불구하고, 무엇이 적절한 의료적 설명이 되는지에 대한 논쟁은 여전히 해결되지 않은 상태로 남아 있습니다. 그러나 설명은 오랫동안 과학 철학 및 의학 연구의 중심 주제였습니다. 하지만 이러한 분야에서 발전된 통찰력은 현대의 설명 가능한 AI (Explainable AI (XAI)) 연구에서 대체로 간과되어 왔으며, 이로 인해 그 기초적인 가정들이 충분히 검토되지 못했습니다. 이러한 간극을 메우기 위해, 본 논문은 과학 철학과 XAI의 교차점에서 비판적 검토를 수행합니다. 본 논문은 보건 과학에서 무엇을 설명으로 간주하는지에 대한 기존의 설명들을 조사하고, 이것이 의학 분야의 XAI에 정보를 제공하기 위한 적절성을 평가하며, 이러한 설명들이 이 영역에서 철학적 근거를 갖춘 설명 가능성 접근법을 위한 필요조건을 제공한다고 주장합니다. 이러한 기초적인 철학적 문헌을 바탕으로, 본 논의는 세 가지 핵심 분석 축을 식별합니다: 의료적 추론에서 인과관계 (Causality)의 역할, 의료적 신뢰 (Medical Trust)의 인식론적 및 관계적 차원, 그리고 다양한 이해관계자의 실용적 요구에 의해 형성되는 설명적 적절성 (Explanatory Adequacy)의 기준입니다. 철학적 분석을 의료 AI의 현재 발전 사항과 통합함으로써, 본 논문은 인식론적으로 견고할 뿐만 아니라 임상 의사결정의 인식론적 및 실용적 요구사항과 일치하는 설명을 제공하는 XAI 시스템을 설계하기 위한 원칙을 개괄하며, 의료 XAI의 지속적인 논쟁을 아직 충분히 탐구되지 않은 개념적 토대로 이끌어 나갑니다.