의생명 이미지에 유용한 비강인성 특징이 널리 존재한다

요약

본 연구는 의료 이미지 분석을 위한 딥러닝 모델이 인간에게 해석 불가능하고 적대적 교란에 취약한 '유용한 비강인성 특징'을 학습하는지, 그리고 이것이 실제 성능에 미치는 영향을 조사했습니다. 오직 이러한 비강인성 특징만을 사용해 훈련된 모델은 표준 데이터 분포 내(in-distribution)에서 높은 정확도를 보였으나, 적대적으로 훈련되어 강인성에 초점을 맞춘 모델들은 분포 외(out-of-distribution) 환경에서 훨씬 우수한 성능을 나타냈습니다. 결론적으로, 의생명 영상 분류 작업에서는 실용적인 강인성-정확도 트레이드오프를 고려하여 모델을 조정해야 함을 시사합니다.

핵심 포인트

• 의료 이미지 딥러닝 모델은 인간이 해석하기 어렵고 적대적 교란에 취약한 '유용한 비강인성 특징'을 학습하는 경향이 있다.
• 비강인성 특징만을 사용한 모델은 표준 데이터 분포 내(in-distribution)에서 높은 정확도를 달성하지만, 외부 환경 변화에 취약하다.
• 적대적으로 훈련되어 강인성에 초점을 맞춘 모델은 인-분포 성능은 다소 희생되지만, 통제된 분포 이동(out-of-distribution) 하에서 월등히 좋은 성능을 보인다.
• 의료 영상 분류 시스템 배포 시에는 높은 정확도와 외부 환경에서의 안정성 사이의 실용적인 트레이드오프를 고려해야 한다.