리만 딥러닝 (Riemannian Deep Learning): 모듈, 네트워크, 그리고 기하학
요약
리만 기하학을 기반으로 매니폴드 값 표현을 지원하는 통합 딥러닝 프레임워크를 제안합니다. 배치 정규화와 로지스틱 회귀를 리만 매니폴드로 확장하고, 계산 효율적인 리만 메트릭을 통해 다양한 기하학적 구조를 학습할 수 있는 모듈과 아키텍처를 개발했습니다.
핵심 포인트
- 리 군 및 자이로군으로 확장된 배치 정규화 방법론 제안
- SPD 및 일반 리만 매니폴드 대상 다항 로지스틱 회귀 확장
- 계산 효율적인 Cholesky 기반 리만 메트릭 도입
- 비전, 신호 처리, 그래프 학습 등 다양한 분야에서의 검증
매니폴드 값 표현 (manifold-valued representations) 기반의 심층 신경망 (Deep neural networks)은 점점 더 많은 관심을 끌고 있지만, 많은 기본 구성 요소들이 특정 매니폴드에 국한되어 있거나, 유클리드 근사 (Euclidean approximations)에 의존하거나, 비용이 많이 들고 수치적으로 취약한 기하학적 연산을 필요로 합니다. 본 논문은 재사용 가능한 신경 모듈 (neural modules), 매니폴드 특화 네트워크 아키텍처 (manifold-specific network architectures), 그리고 기초 기하학 (underlying geometries) 설계라는 세 가지 상호 보완적인 관점에서 리만 딥러닝 (Riemannian deep learning)을 위한 통합 프레임워크를 개발합니다. 본 연구는 배치 정규화 (batch normalization)를 유클리드 공간 및 개별 매니폴드에서 광범위한 리 군 (Lie groups) 및 자이로군 (gyrogroups) 클래스로 일반화하며, 다항 로지스틱 회귀 (multinomial logistic regression)를 유클리드 공간에서 SPD 매니폴드로, 나아가 일반 리만 매니폴드 (Riemannian manifolds)로 확장합니다. 또한, 제약 없는 쌍곡 공간 (hyperbolic space) 모델, Busemann 기반 쌍곡 학습 (Busemann-based hyperbolic learning), 그리고 풀 랭크 상관 행렬 (full-rank correlation matrices)을 포함하여 여러 중요한 기하학적 표현을 위한 신경망을 개발합니다. 마지막으로, 학습 가능한 Log-Euclidean 기하학 및 빠르고 안정적인 Cholesky 기반 기하학을 포함하여, SPD 매니폴드 상의 적응형이며 계산 효율적인 리만 메트릭 (Riemannian metrics)을 소개합니다. 제안된 방법론들은 이론적 분석을 통해 뒷받침되며, 비전 (vision), 신호 처리 (signal processing), 그래프 학습 (graph learning), 그리고 유전체학 (genomics) 분야의 수치 실험 및 응용을 통해 검증되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기