ICU 시계열 데이터의 모델 이식성을 평가하는 도메인 인크리멘탈 지속 학습 벤치마크

최근 몇 년간 머신러닝은 임상 결과 예측 분야에서 큰 진전을 이루었으며, 점점 더 정확한 결과를 보여주고 있습니다. 그러나 이러한 모델을 개발하기 위해 병들이 필요한 상당한 자원 (데이터 수집, 라벨링, 컴퓨팅 파워) 은 소규모 병들의 자체 모델 개발을 제한합니다. 대안적인 접근법은 대형 병에서 훈련된 머신러닝 모델을 소규모 병으로 이식하여, 해당 병의 특정 환자 데이터로 모델을 미세 조정 (fine-tune) 하는 것입니다. 그러나 이러한 모델은 종종 단일 병의 데이터에서 훈련되고 검증되므로, 새로운 데이터에 대한 일반화 능력에 대한 우려가 있습니다. 우리의 연구는 미국 전역 다양한 지역 간 측정 분포와 빈도에 유의미한 차이가 있음을 보여줍니다. 이를 해결하기 위해 우리는 머신러닝 모델이 소스 도메인 (source domain) 에서 국가 내 다른 지역으로 이식되는 능력을 테스트하는 벤치마크를 제안합니다. 이 벤치마크는 모델이 각 새로운 도메인에 대해 의미 있는 정보를 학습할 수 있으면서도 원래 도메인의 핵심 특징을 유지할 수 있는 능력을 평가합니다. 이 벤치마크를 통해 머신러닝 모델을 한 지역에서 다른 지역으로 이식하는 문제를 도메인 인크리멘탈 학습 (domain incremental learning) 문제로 프레임워크화했습니다. 환자 결과 예측 작업은 동일하지만, 입력 데이터 분포가 달라지므로 이러한 변화를 효과적으로 관리할 수 있는 모델이 필요합니다. 우리는 두 가지 인기 있는 도메인 인크리멘탈 학습 방법을 평가했습니다: 이전 데이터 소스 예제를 현재 소스에서 미세 조정하기 위해 저장하는 데이터 리플레이 (data replay) 와, 두 데이터 소스의 중요한 특징을 유지하기 위한 모델 파라미터 정규화 방법인 탄성 가중치 응집 (Elastic Weight Consolidation, EWC) 입니다.