TailLoR: 매개변수 효율적 연속 학습 (Parameter-Efficient Continual Learning)에서 주성분 보호하기

스펙트럼 분해 (Spectral decomposition)에 기반한 매개변수 효율적 미세 조정 (Parameter-efficient finetuning) 방법론은 연속 학습 (Continual Learning) 분야의 발전을 가능하게 했습니다. 본 논문에서는 사전 학습된 가중치 (Pre-trained weights)의 특이 기저 (Singular bases) $U$와 $V$를 고정된 참조 프레임 (Fixed reference frame)으로 활용하여, 특이값 행렬 (Singular value matrix)에 적용되는 저차원 업데이트 (Low-rank update)를 학습하는 TailLoR을 소개합니다. 소프트 스펙트럼 페널티 (Soft spectral penalty)는 지배적인 특이 방향 (Dominant singular directions)과 일치하는 업데이트를 억제하여 간섭 (Interference)을 줄이는 동시에, 세밀한 적응 (Fine-grained adaptation)이 매우 유연한 롱테일 스펙트럼 좌표 (Long-tail spectral coordinates)로 향하도록 유도합니다.