관측 변화에도 구조를 보존하는: 전자기 신호를 위한 시간 정렬 기반 구조적 사전 학습
요약
본 논문은 전자기 신호 모델링의 자가 지도 사전 학습에서 발생하는 외관 및 시간적 불일치(observation bias) 문제를 제기합니다. 이를 해결하기 위해, RoPE-fs를 활용한 '시간 정렬 기반 구조적 사전 학습'을 제안했습니다. 이 방법은 파형 재구성 대신 이산 구조 단위 예측에 초점을 맞춰 신호의 구조적 일관성을 효과적으로 보존함을 입증했습니다.
핵심 포인트
- 기존 방식의 실패 모드를 '관측 편향 사전 학습'으로 정의함.
- RoPE-fs를 사용하여 시간적 불일치를 완화하고 구조적 안정성을 확보함.
- 파형 재구성 대신 이산 구조 단위 마스킹 예측을 통해 외관 의존도를 낮춤.
- 다양한 EM 벤치마크에서 기존 모델 대비 성능 향상을 입증함.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG (Machine Learning)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기