미issing 값 예측: 좋은 아이디어인가?

평균 제곱 오차 (MSE) 최소화는 기계 학습의 핵심 목표 중 하나이며, 결측값 채우기 (imputation) 에 널리 사용됩니다. 이 접근법은 정확한 점 추정을 제공하지만, 후속 분석에 체계적 편향을 도입합니다. 이러한 편향은 분산, 발생률, 상관관계, 기울기, 설명된 분산과 같은 핵심 파라미터에 영향을 미칩니다. 그 근본적인 원인은 MSE 를 최적화하기 위해 채워진 값들이 평균이기 때문에 데이터의 자연스러운 변동성이 감소한다는 것입니다. 이 논문은 채워진 값에 노이즈를 추가함으로써 이러한 편향을 효과적으로 제거할 수 있음을 보여줍니다. 필요한 노이즈 수준은 MSE 에 비례합니다. 다변량 정규 분포 설정에서 토이 예제를 통해 예측적 채우기 (predictive imputation, MSE 최소화) 와 확률적 채우기 (stochastic imputation, 랜덤 노이즈 포함) 두 방법을 비교했습니다. 시뮬레이션 결과는 예측적 방법이 체계적으로 편향을 도입한다는 것을 보여주며, 확률적 방법은 데이터의 자연스러운 변동성을 보존하고 편향 없는 추정을 생성합니다. 또한 missForest, softImpute, mice 와 같은 인기 있는 채우기 도구를 평가하여 예측적 방법 일관된 편향을 관찰했습니다. 이러한 결과는 MSE 가 채우기 품질을 측정하는 부적절한 지표임을 강조하며, 정확성보다 변동성을 우선시하기 때문입니다. 채우기 방법에서 노이즈를 포함시키는 것은 편향을 방지하고 유효한 후속 분석을 보장하기 위해 필수적이며, 불완전 데이터를 처리하는 확률적 접근법의 중요성을 강조합니다.