사전 정보 가이드 기반 하이퍼파라미터 최적화에서의 증명 가능한 샘플 비용 감소

자동 머신러닝 (AutoML)에서의 대규모 하이퍼파라미터 최적화 (HPO)는 상당한 계산 자원을 소모하며, 이는 확장성 및 에너지 효율성에 대한 우려를 높이고 있습니다. 기존 방법들은 블랙박스 (black-box) 및 다중 충실도 (multi-fidelity) 설정 모두를 가속화하기 위해 사전 정보 (prior information)를 휴리스틱하게 사용하지만, 사전 정보의 정보량 (informativeness)이 샘플 복잡도 (sample complexity)를 정량적으로 어떻게 감소시키는지에 대한 특성 규명은 부족합니다. 본 연구에서는 고정 예산 최적의 팔 식별 (fixed-budget best-arm identification)이라는 공식적인 관점을 통해, 사전 정보가 포함된 다중 충실도 HPO에 대한 최초의 분포 의존적 샘플 복잡도 경계 (distribution-dependent sample complexity bounds)를 제공합니다. 구성 성능으로서 팔의 평균 (arm means) 위에 직접 사전 정보를 모델링함으로써, 우리는 사전 정보와 평가 예산 (evaluation budget) 사이의 관계를 정량화하는 명시적인 분포 의존적 오차 경계 (distribution-dependent error bounds)를 도출합니다. 우리의 분석은 최적에 가까운 팔에 확률 질량 (probability mass)을 집중시키는 정보가 풍부한 사전 정보가 필요한 평가 횟수의 감소를 가져오는 반면, 정보가 없거나 오도하는 (misleading) 사전 정보의 경우에는 기준 성능 (baseline performance)이 회복됨을 보여줍니다. 우리는 이론적 결과를 확인하기 위해 합성 벤치마크와 딥러닝을 위한 일반적인 다중 충실도 HPO 벤치마크인 LCBench에서 개념 증명 (proof-of-concept) 실험을 수행하였으며, 솔루션 품질을 유지하면서도 최대 90%의 예산 절감을 달성했습니다. 종합적으로, 우리의 결과는 사전 정보 가이드 기반의 계산 효율적인 그린 AutoML (green AutoML)을 위한 원칙적인 토대를 제공합니다.