진단적 소프트 등변성(Soft Equivariance)을 위한 생성기 정렬 표현 인터페이스
요약
일반적인 시퀀스 백본을 유지하면서도 데이터 변환에 대한 소프트 등변성을 확보하는 GARI 프레임워크를 제안합니다. GARI-Net을 통해 군 특화적 재설계 없이도 유전체, 이미지, 3D 포인트 클라우드 등 다양한 모달리티에서 작업 강건성을 높일 수 있습니다.
핵심 포인트
- GARI: 일반 백본에 변환 생성기를 노출하는 표현 인터페이스 설계
- 소프트 등변성 잔차를 활용해 표현 일관성과 작업 강건성 확보
- GARI-Net을 통한 스트림 간 정보 교환 및 컨텍스트 불일치 복구
- DEE(Direct Equivariance Error)를 통한 등변성 진단 도구 제공
- 다양한 데이터 모달리티(시퀀스, 이미지, 3D)에 대한 범용성 입증
정확한 등변성(Exact-equivariant) 아키텍처는 일반적으로 특화된 연산자에 규정된 군 작용(group actions)을 인코딩하며, 이는 일반적인 백본(backbone)과의 재사용 및 다양한 데이터 모달리티(modalities) 간의 활용을 복잡하게 만들 수 있습니다. 우리는 정렬된 정준(canonical) 뷰와 생성기 유도(generator-induced) 뷰를 통해 선택된 변환 생성기(transformation generators)를 일반적인 시퀀스 백본(sequence backbone)에 노출하는 표현 수준의 설계 원칙인 생성기 정렬 표현 인터페이스(Generator-Aligned Representation Interface, GARI)를 소개합니다. 우리는 선언된 데이터 및 변환 분포에 대해 정의된 프로브 특화 소프트 등변성 잔차(probe-specific soft-equivariance residual)를 사용하여 결과적인 동작을 공식화합니다. 이 프레임워크는 표현 일관성(representation consistency)을 작업 강건성(task robustness) 및 정확한 등변성(exact equivariance)과 구분하며, 잔차 불일치(residual mismatch)를 인터페이스 구축, 공유 스트림 처리 및 터미널 퓨전(terminal fusion)으로 국소화합니다. 우리는 이 인터페이스를 GARI-Net으로 구현하였으며, 이는 생성기 인덱스 스트림을 구축하고, 이를 공통 상호작용 프레임으로 변환하며, 공유 파라미터로 처리하고, 순서로 인해 발생하는 컨텍스트 불일치를 복구하며, 스트림 간 정보 교환을 가능하게 하고, 스트림 간 불일치(inter-stream discrepancy)를 사용하여 이를 집계합니다. 직접 등변성 오차(Direct Equivariance Error, DEE)는 알려진 토큰 또는 복셀(voxel) 작용 하에서 규정된 표현 관계에 대한 동결된 체크포인트(frozen-checkpoint) 진단을 제공합니다. 유전체 시퀀스, 이미지 및 3차원 포인트 클라우드(point clouds)에 대한 실험을 통해 시퀀스 반전, 평면 회전 및 반사, 제어된 축 이동을 조사합니다. 이러한 설정 전반에서, 동일한 인터페이스 원칙은 시퀀스 백본의 군 특화적 재설계 없이도 작업 관련 변환 일관성과 선언된 홀드아웃 프로브(held-out probes)에 대한 일반화를 지원합니다. 따라서 GARI는 하드 등변성(hard-equivariant) 아키텍처에 대한 휴대 가능한 진단 보완책을 제공합니다. 즉, 연속적인 군(continuous group)에 대한 정확한 등변성 인증과 유한한 프로브 증거를 별개로 유지하면서도, 생성기 구조를 접근 가능하고 학습 가능하며 측정 가능하게 만듭니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기