본문으로 건너뛰기

© 2026 Molayo

arXiv논문2026. 05. 27. 12:01

전역 최적화 (Global Optimization)를 위한 비율 단조 변환 (Ratio-Monotone Transforms) 기반의 확률적

요약

기존 가우시안 커널 기반 확률적 평활화의 하이퍼파라미터 민감도 문제를 해결하기 위해 단조 비율 기반 변환을 결합한 새로운 프레임워크를 제안합니다. 이 방법은 전역 극대값을 보존하며, 정지점이 실제 최적점으로 집중됨을 이론적으로 증명하고 실험을 통해 강건성을 입증했습니다.

핵심 포인트

  • 단조 비율 기반 변환을 통한 유연한 평활화 프레임워크 제안
  • 전역 극대값 보존 및 정지점의 최적점 집중 특성 증명
  • 확률적 경사 상승법에 대한 명시적인 복잡도 경계 제공
  • 고차원 벤치마크 및 적대적 공격에 대한 높은 강건성 확인

확률적 평활화 (Probabilistic smoothing)는 전역 최적화 (Global optimization)를 위한 표준적인 도구이지만, 기존 방법론들은 가우시안 커널 (Gaussian kernels)과 특정 변환 (Transforms)에 의존하여 종종 강한 하이퍼파라미터 민감도 (Hyperparameter sensitivity)와 제한된 강건성 (Robustness)을 초래합니다. 본 논문에서는 유연한 대칭 단봉 커널 (Symmetric unimodal kernels)과 단조 비율 기반 변환 (Monotonic ratio-based transformations)을 결합한 일반적인 평활화 프레임워크 (Smoothing framework)를 제안합니다. 완만한 조건 (Mild conditions) 하에서, 우리는 평활화된 목적 함수 (Smoothed objective)가 전역 극대값 (Global maximizer)을 보존하며, 감소하는 평활화 스케줄 (Decreasing smoothing schedule)을 요구하지 않고도 충분히 큰 증폭 (Amplification)이 이루어질 때 모든 정지점 (Stationary points)이 실제 최적점 (True optimum) 근처로 집중됨을 보여줍니다. 나아가, 우리는 확률적 경사 상승법 (Stochastic gradient ascent)에 대한 명시적인 복잡도 경계 (Complexity bounds)를 제공하며, Leave-one-out 베이스라인이 분산 (Variance)을 입증 가능한 수준으로 감소시킴을 보여줍니다. 고차원 벤치마크 (High-dimensional benchmarks) 및 블랙박스 적대적 공격 (Black-box adversarial attacks)에 대한 실험을 통해 개선된 강건성과 경쟁력 있는 성능을 입증합니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0