자기 지도 학습(Self-supervision)이 임상 지도 학습(Clinical supervision)보다 의료 파운데이션 모델의 표현

요약

의료 이미지 인코더 간의 표현 수렴 현상을 분석한 연구로, 이러한 수렴이 모델 규모나 임상 지도 학습이 아닌 자기 지도 학습(Self-supervision) 목표에 의해 주도됨을 밝힙니다. 연구 결과, 인코더 간 정렬은 양상 내에서만 제한적으로 발생하며 임상적 판단과는 차이가 있음을 확인했습니다.

핵심 포인트

• 의료 모델의 표현 수렴은 임상 지도 학습보다 자기 지도 학습 목표에 의해 결정됨
• 자기 지도 학습 인코더가 레이블 지도 학습보다 높은 정렬도를 보임
• 수렴 현상은 모델의 규모나 능력에 비례하여 증가하지 않음
• 인코더 간 상호 운용성을 위해서는 사전 학습 목표 설계가 핵심임