TOOD: 지속 학습자를 위한 작업 인식 분포 외 (OOD) 점수 보정
요약
지속 학습(CL) 시스템에서 발생하는 OOD 망각(OOD Forgetting) 현상을 분석하고, 이를 해결하기 위한 TOOD 기법을 제안합니다. 에너지 기반 및 특징 기반 탐지기에서 나타나는 성능 저하 원인을 규명하고, 사후 처리 방식으로 점수를 재보정하여 OOD 탐지 성능을 크게 향상시켰습니다.
핵심 포인트
- 지속 학습 중 발생하는 OOD 성능 저하(OODF)의 메커니즘 규명
- 에너지 기반 탐지기의 로짓 스케일 감소(Confidence Gap) 현상 발견
- 특징 기반 탐지기의 매니폴드 혼잡(Manifold Crowding) 효과 확인
- 훈련이 필요 없는 사후 처리 방식인 TOOD 제안
- CIFAR 및 ImageNet-1K 실험을 통해 OOD 탐지 성능 입증
지속 학습 (Continual Learning, CL) 시스템의 주요 과제는 이전에 학습한 작업들에 대한 성능을 유지하면서 새로운 작업을 학습하는 것입니다. 이와 유사하게 중요하지만 연구가 덜 된 CL 시스템의 측면은, 시스템이 이미 접한 작업 집합 내에서 나올 가능성이 낮은 입력을 구별하는 능력으로, 흔히 분포 외 (Out-of-Distribution, OOD) 탐지라고 불립니다. 본 논문은 CL 시스템에서의 OOD 탐지 역학, 우리가 OOD 망각 (OOD Forgetting, OODF)이라고 부르는 시간에 따른 성능 저하의 원인, 그리고 이러한 저하를 완화하기 위해 제안된 전략과 관련된 몇 가지 발견을 제시합니다. 무엇보다도, 우리는 OODF가 이전 작업들에 대한 분류 성능과 약한 음의 상관관계만을 가진다는 직관에 반하는 결과를 발견했으며, 이는 OODF를 유발하는 근본적인 메커니즘이 서로 다름을 시사합니다. 또한, 이러한 효과는 에너지 기반 (energy-based) 및 특징 기반 (feature-based) OOD 탐지 방법 모두에서 관찰됩니다. 에너지 기반 탐지기는 추가적인 작업이 학습됨에 따라 로짓 스케일 (logit scale)이 감소하는 현상을 겪으며, 이를 신뢰 격차 (Confidence Gap)라고 명명합니다. 반면 특징 기반 탐지기는 우리가 매니폴드 혼잡 (Manifold Crowding)이라고 부르는 상호 보완적인 효과로 인해 성능이 저하됩니다. 이러한 관찰에 착안하여, 우리는 로짓을 작업별 에너지 점수로 분해하고 리플레이 버퍼 (replay-buffer) 통계량을 사용하여 이를 재보정하는 훈련이 필요 없는 사후 처리 (post-hoc) 방법인 TOOD를 제안합니다. CIFAR-10, CIFAR-100, 그리고 100개 작업의 ImageNet-1K 스트림에 대한 실험 결과, TOOD는 대부분의 설정에서 보정되지 않은 에너지 기반 방식보다 OOD 탐지 성능을 향상시켰으며, 10개의 CIFAR 구성 중 9개에서 1위 또는 2위를 차지했습니다. 특히 신뢰 격차가 가장 심각할 때 가장 큰 이득을 보였습니다. 이러한 결과는 지속 학습에서 발생하는 OOD 성능 악화의 상당 부분이 판별 구조의 완전한 상실보다는 점수 미보정 (score miscalibration)에서 기인함을 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기