Few-Shot Adaptation을 통한 지속 학습 (Continual Learning)의 재평가

지속 학습 (Continual learning) 방법론은 일련의 태스크 (tasks)를 통해 학습되는 머신러닝 모델의 안정성 (stability)과 가소성 (plasticity)을 극대화하는 것을 목표로 합니다. 안정성 (즉, 망각 (forgetting))의 표준 척도는 이전에 학습된 태스크들에 대한 모델의 0-shot 성능이며, 가소성은 가장 최근에 학습된 태스크에 대한 성능입니다. 그러나 0-shot 평가는 여러 태스크에 걸친 완벽한 회상을 요구하기 때문에, 학습된 정보를 유지하거나 새로운 정보에 빠르게 적응하는 모델 또는 방법론의 능력을 완전히 측정하지 못합니다. 본 논문에서는 지속 학습 시스템의 안정성과 가소성을 더욱 포괄적으로 평가하기 위한 방안으로 few-shot 평가를 제안합니다. 우리는 지속적 이미지 분류 (continual image classification)를 위한 태스크 시퀀스 (task sequences)에 대해 세밀한 평가를 수행하였으며, 이 패러다임이 대중적인 지속 학습 전략들의 성능에 대해 새로운 통찰을 제공한다는 것을 발견했습니다. 새로운 지표인 'per-shot plasticity'를 이용한 few-shot 평가를 통해, 우리는 짧은 미래 태스크 시퀀스의 메타 학습 (meta-learning)을 통해 지속 학습 방법론에 '선견지명 (foresight)'을 추가하는 것이 태스크 시퀀스 전반에 걸쳐 학습하는 법을 배우는 (learning-to-learn) 행동을 유도한다는 것을 보여줍니다.