Hadamard 다양체 상의 1-Lipschitz 신경망
요약
Hadamard 다양체 상에서 강건성과 안정성을 보장하는 1-Lipschitz 신경망 아키텍처를 제안합니다. Busemann 함수를 활용하여 기하학적 특성을 보존하는 레이어를 설계하였으며, 쌍곡 공간 및 SPD 다양체에서의 실험을 통해 성능을 입증했습니다.
핵심 포인트
- Hadamard 다양체 기반의 1-Lipschitz 신경망 구축
- Busemann 경사 흐름을 활용한 기하학 보존 레이어 설계
- Poincaré 디스크 상의 강건한 분류 성능 확인
- SPD 다양체에서의 효과적인 공분산 재구성 입증
신경망의 Lipschitz 상수 (Lipschitz constant)를 제어하는 것은 강건성 (robustness)과 안정성 (stability)을 증진하기 위한 표준적인 방법입니다. 기존의 대부분의 제약 전략은 유클리드 공간 (Euclidean spaces)을 위해 설계되었습니다. 본 연구에서는 Hadamard 다양체 (Hadamard manifolds) 상의 1-Lipschitz 신경망 클래스를 구축하고 분석합니다. 우리의 레이어는 경사 하강법 (gradient-descent) 유형이며, 1-Lipschitz이고 quasi-$\alpha$-firmly nonexpansive 합니다. 제안된 아키텍처의 핵심 구성 요소는 Busemann 함수 (Busemann functions)이며, 우리는 1-Lipschitz 기하학 보존 레이어 (geometry-preserving layers)를 설계하기 위해 Busemann 경사 흐름 (Busemann gradient flows)의 특성을 활용합니다. 우리는 쌍곡 다양체 (hyperbolic manifolds)와 대칭 양의 정부호 (symmetric positive definite, SPD) 행렬의 다양체에 대한 명시적인 구축 및 예시를 제공합니다. 우리는 두 가지 수치 실험을 통해 제안된 아키텍처를 테스트합니다: Poincaré 디스크 (Poincaré disk) 상의 강건한 분류 (robust classification) 및 마스크된 Wishart 공분산 재구성 (masked-Wishart covariance reconstruction). Poincaré 디스크에서 제안된 네트워크는 쌍곡 섭동 (hyperbolic perturbations) 하에서 강건한 분류기를 생성합니다. SPD 다양체에서는 SPD 값을 갖는 디노이저 (denoisers)를 학습시키고, 이를 마스크된 Wishart 공분산 재구성 문제를 위한 Plug-and-Play 사전 확률 (prior)로 채택합니다. 우리는 비확장적 (nonexpansive) 디노이저가 정적 (static), 데이터 전용 (data-only), 그리고 Log-Euclidean 디노이징 베이스라인보다 개선된 결과를 보여줌을 입증하며, 그 수렴 특성을 경험적으로 테스트합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기