Octopus: 멀티모달 거대 언어 모델 (MLLMs)의 지속 학습 (Continual Learning)을 위한 이력 없는 그래디언트 직교화

요약

본 논문은 멀티모달 거대 언어 모델(MLLMs)의 지속 학습(Continual Learning) 문제를 해결하기 위해 Octopus라는 새로운 프레임워크를 제안합니다. 기존 방법들이 가진 계산 오버헤드, 데이터 저장 문제, 파라미터 간섭 등의 한계를 극복하고자 합니다. Octopus는 과거 태스크 데이터를 사용하지 않고도 그래디언트 수준의 직교성(Orthogonality)을 강제하는 이력 없는 그래디언트 직교화(HiFGO)를 기반으로 하며, 2단계 미세 조정 전략을 통해 모델의 가소성과 안정성을 효과적으로 균형 잡습니다.

핵심 포인트

• Octopus는 MLLMs의 지속 학습을 위한 새로운 프레임워크입니다.
• 과거 데이터를 저장할 필요 없이 그래디언트 직교성(HiFGO)을 강제하여 치명적 망각 문제를 완화합니다.
• 2단계 미세 조정 전략은 태스크 적응과 규제를 분리하여 가소성과 안정성의 균형을 달성합니다.
• UCIT 벤치마크에서 기존 SOTA 대비 평균 및 마지막 태스크 성능을 각각 2.14%, 6.82% 향상시켰습니다.