MedCore: MedSAM을 위한 경계 보존형 의료 코어 프루닝 (Boundary-Preserving Medical Core Pruning)
요약
본 논문은 MedSAM과 같은 의료 세그멘테이션 모델을 위한 구조적 프루닝 프레임워크인 MedCore를 제안합니다. MedCore는 SAM에서 MedSAM으로의 적응 과정에서 중요해진 구조와 높은 경계 레버리지를 가진 구조 두 가지를 보존하는 것이 핵심입니다. 이 방법론은 '경계 레버리지 원리'를 도입하여 압축이 경계 지표에 미치는 영향을 분석하고, 용종 세그멘테이션 벤치마크에서 파라미터와 FLOPs를 대폭 줄이면서도 높은 Dice 및 Boundary F1 점수를 유지함을 입증했습니다.
핵심 포인트
- MedCore는 MedSAM을 위한 구조적 프루닝 프레임워크로, 모델 경량화와 성능 유지를 동시에 목표합니다.
- 프루닝은 SAM→MedSAM 적응 과정에서 중요해진 구조와 높은 경계 레버리지를 가진 구조를 보존하는 것이 핵심입니다.
- 경계 레버리지 원리를 통해 압축으로 인한 경계 변위가 로짓 공간 기울기에 의해 제어됨을 설명합니다.
- 용종 세그멘테이션 벤치마크에서 MedCore는 파라미터와 FLOPs를 크게 줄이면서도 높은 Dice 및 Boundary F1 점수를 달성했습니다.
SAM 및 MedSAM과 같은 의료 세그멘테이션 (Segmentation) 파운데이션 모델 (Foundation Models)은 강력한 프롬프트 기반 세그멘테이션을 제공하지만, 이들의 이미지 인코더 (Image Encoder)는 여전히 많은 임상 환경에서 사용하기에 너무 큽니다. 의료 분야에서 압축 (Compression)은 모델이 높은 Dice 점수를 유지하면서도 경계 충실도 (Boundary Fidelity)를 잃을 수 있기 때문에 위험할 수 있습니다. 우리는 MedSAM을 위한 구조적 프루닝 (Structured Pruning) 프레임워크인 MedCore를 제안합니다. 핵심 아이디어는 두 가지 종류의 구조를 보존하는 것입니다: SAM에서 MedSAM으로의 적응 (Adaptation) 과정에서 중요해진 구조와, 높은 경계 레버리지 (Boundary Leverage)를 가진 구조입니다. 우리는 첫 번째 유형을 특정 그룹을 0으로 만드는 것과 원래의 SAM 가중치로 재설정하는 것을 비교하는 이중 개입 점수 (Dual-intervention Score)를 통해 식별합니다. 두 번째 유형은 경계 인식 피셔 추정 (Boundary-aware Fisher Estimation)을 통해 식별합니다. 또한 우리는 압축으로 인한 경계 변위 (Boundary Displacement)가 경계에서의 로짓 섭동 (Logit Perturbation)을 로짓 공간 기울기 (Logit Spatial Gradient)로 나눈 값에 의해 제어된다는 것을 보여주는 경계 레버리지 원리 (Boundary Leverage Principle)를 도입합니다. 이 원리는 Dice 점수가 높게 유지되더라도 왜 경계 지표 (Boundary Metrics)가 저하될 수 있는지를 설명합니다. 용종 세그멘테이션 (Polyp Segmentation) 벤치마크에서 MedCore는 복구 미세 조정 (Recovery Fine-tuning) 후 파라미터 (Parameters)를 60.0% 줄이고 FLOPs를 58.4% 줄이면서 Dice 0.9549, Boundary F1 0.6388, HD95 5.14를 달성했습니다. 또한 강력한 경계 품질과 함께 86.6%의 파라미터 감소 및 90.4G FLOPs에 도달합니다. 우리의 분석은 더 나아가 MedSAM이 헤드 취약 경계 영역 (Head-fragile Boundary Regime)에 있음을 보여줍니다: 헤드 프루닝 (Head-pruning) 단계는 MLP 프루닝 (MLP-pruning) 단계보다 95백분위수 경계 레버리지가 2.887배 더 크며, 이러한 로짓 수준의 효과는 BF1 및 HD95 저하와 일치합니다. 우리의 코드는 https://github.com/cenweizhang/MedCore 에서 확인할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기