Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 분포적 강건 최적화(DRO)의 한계를 극복하기 위해 학습된 공칭값 주변의 KL 볼을 제안합니다. 이 방법은 표준 모호성 집합 대신 적응적인 시나리오 생성을 통해, 기록이 희소한 환경에서 분포 변화 하의 비용을 낮추는 것을 목표로 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기분포적 강건 최적화(Distributionally robust optimization, DRO)는 유한한 기록으로부터 추정된 분포의 오류에 대해 데이터 기반 2단계 확률 프로그램(two-stage stochastic programs)을 헤지하며, 표준 모호성 집합(ambiguity sets)은 해당 기록에서 부재한 실현(realizations)을 다루는 방식에서 차이를 보입니다. 경험적 분포 주변의 발산 볼(divergence ball)은 오직 기록의 재가중치화만을 포함하는 반면, 운송 볼(transport ball)은 데이터 생성 과정이 만들어낼 수 없는 실현에 대해서도 결정이 헤지되는 분포를 포함합니다. 대신 우리는 기록에 맞춰 조정된 밀도 모델, 즉 학습된 공칭값(learned nominal)을 중심으로 하는 Kullback-Leibler (KL) 볼을 제안하며, 이는 적대자가 해당 모델이 할당하는 확률에 비례하여 비용이 많이 드는 관측되지 않은 실현에 가중치를 부여하도록 합니다. 결과적으로 발생하는 문제를 해결하는 것은 두 번째 어려움을 야기하는데, 왜냐하면 이 문제는 몇 개의 시나리오만을 수용할 수 있으며, 그 크기의 독립 표본은 최악 사례가 집중되는 희귀한 실현을 누락할 가능성이 높기 때문입니다. 따라서 우리는 시나리오 세트를 적응적으로 구축하며, 유한 문제를 해결하는 것과 학습된 공칭값으로부터 새로운 실현을 도출하는 것을 번갈아 수행하고, 현재 결정에서 최악 사례를 향하도록 조향하면서, 표본을 모델로 되돌리는 중요도 가중치(importance weights)를 사용합니다. 다중 품목 신문 가판대 문제와 현실적인 그리드 데이터에 대한 용량 확장 문제에서 볼의 중심점을 기록이 아닌 학습된 공칭값으로 설정하는 것은, 기록이 희소하고 모델 클래스가 기록을 넘어 외삽할 수 있는 구조를 포착하는 경우, 유사한 분포 내 비용(in-distribution cost) 수준에서 분포 변화 하의 비용을 낮춥니다. 이러한 이점은 기록이 증가하거나 분포 변화가 모델이 학습한 구조에서 벗어날 때 약해집니다.