의료 영상 AI의 환각(Hallucination): 규제 제약 하에서의 분류, 탐지 및 완화를 위한 교차 모달리티 분석 프레임워크

AI 시스템은 그 실패 모드(failure modes)가 이해되는 속도보다 더 빠르게 의료 영상 분야 전반에 배치되고 있습니다. 현 시점에서 임상적으로 가장 우려되는 실패는 환각(hallucination)입니다. 이는 임상적으로는 그럴듯해 보이지만 사실과 다른 출력물로, 조작된 해부학적 구조, 발견 사항 누락, 잘못된 측방성(laterality), 생성된 보고서 내의 허구적인 측정값 등을 포함하며, 이는 예를 들어 생검 결정, 병기 결정(staging), 치료 계획 수립 등에 직접적인 영향을 미칩니다. 본 구조적 서사는 5가지 영상 모달리티(modalities)에 걸친 동료 검토(peer-reviewed) 연구, 벤치마크 데이터셋, 그리고 FDA 규제 지침을 합성하여 환각의 분류(taxonomy), 병인(etiology), 탐지 및 완화에 대한 교차 모달리티 분석을 수행합니다. 구체적으로, 본 연구에서는 세 가지 질문을 다룹니다: (1) 기존의 분류 체계들을 모달리티 전반에 걸쳐 어떻게 통합할 수 있는가?, (2) 의료 특화 파운데이션 모델(medical-specialized foundation models)은 범용 모델(general-purpose models)보다 어떻게 환각을 덜 일으키는가?, (3) 어떤 완화 전략이 효과적이며 FDA의 라이프사이클 감독(lifecycle oversight)과 호환되는가? 우리는 세 가지 분류 프레임워크가 결합되었을 때 단일 프레임워크로는 불가능한 방식으로 영상 파이프라인(imaging pipeline)을 포괄한다는 점에 주목합니다. 또한, 범용 파운데이션 모델이 환각 특화 벤치마크에서 의료 특화 모델보다 더 나은 성능을 보인다는 점을 강조하며, 이는 좁은 도메인 미세 조정(fine-tuning)이 과적합(overfitting)으로 인한 작화(confabulation)를 유발할 수 있음을 시사합니다. 동시에 영상의학 전문의의 감독은 여전히 필수적입니다. 예를 들어, AI가 생성한 플래그(flags) 중 매우 높은 비율이 임상 사용 전 전문가의 수정이 필요했습니다. 물리 정보 기반의 아키텍처 제약(Physics-informed architectural constraints), 생각의 사슬(Chain-of-Thought) 프롬프팅, 그리고 인간 참여형(human-in-the-loop) 안전장치는 각각 서로 다른 실패 모드를 해결하며, 이들을 결합했을 때 효과적입니다. 모든 연구 결과는 FDA의 총 제품 라이프사이클(Total Product Lifecycle) 및 사전 결정된 변경 제어 계획(Predetermined Change Control Plan) 프레임워크에 매핑되며, 이는 환각 관리를 배포 전 체크리스트가 아닌 라이프사이클상의 의무로 취급합니다.