Tunable MAGMAX: 지속적 학습 (CL)을 위한 선호도 인식 모델 병합 (Preference-Aware Model Merging)

요약

Tunable MAGMAX는 지속적 학습(CL) 과정에서 발생하는 파괴적 망각을 완화하면서, 사용자의 선호도에 따라 태스크별 성능을 조절할 수 있는 새로운 모델 병합 프레임워크입니다. 선호도 벡터를 도입하여 각 태스크 벡터의 기여도를 제어하며, 소량의 데이터를 통해 이 벡터를 자동으로 구축함으로써 다양한 배포 환경에 유연하게 적응할 수 있습니다.

핵심 포인트

• 지속적 학습(CL) 시 태스크별 성능을 제어할 수 있는 선호도 인식 모델 병합 기술 제안
• 선호도 벡터(Preference Vector)를 통해 모델 병합 시 각 태스크의 파라미터 기여도를 조정 가능
• 소량의 타겟 데이터를 활용하여 선호도 벡터를 자동으로 생성하는 방법론 제시
• 기존 모델 병합 방식 대비 다양한 배포 요구 사항 및 타겟 환경에 대한 높은 적응력 입증