WALoMA: 적응형 저차원 마스크드 오토인코더를 통한 멀티태스크 무선 파운데이션 모델
요약
6G 무선 물리 계층을 위한 통합 멀티태스크 파운데이션 모델인 WALoMA를 제안합니다. MAE 패러다임과 LoRA를 결합하여 라벨링되지 않은 데이터로부터 효율적인 채널 표현을 학습하며, 다양한 무선 통신 태스크에서 뛰어난 성능을 입증했습니다.
핵심 포인트
- MAE 기반의 자기 지도 학습으로 라벨링 의존도 최소화
- 2D 위치 인코딩을 통한 공간-주파수 관계 보존
- LoRA를 활용한 매개변수 효율적 미세 조정
- 기존 LWM 베이스라인 대비 종합 점수(87.80%) 대폭 향상
- 채널 추정, 빔 예측 등 5가지 다운스트림 태스크 검증
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기