생성기 리플레이가 저하될 때: 이질적 연합 클래스 증분 학습을 위한 투영된 리허설 오케스트레이션 (Projected Rehearsal

연합 클래스 증분 학습 (Federated class-incremental learning, FCIL)은 클라이언트들이 서로 다른 레이블 서브셋을 관찰하고, 서로 다른 단계로 태스크를 진행하며, 동일한 의미론적 개념에 대해 불균형한 감독 (supervision)을 제공할 때 실질적으로 더 어려워집니다. 기존의 FCIL 방법들은 종종 입력 공간 합성 (input-space synthesis)을 통해 이전 지식을 보존하지만, 이질적인 태스크 스트림 (task streams) 하에서는 취약할 수 있으며 모달리티 (modalities) 간 전이가 어려울 수 있습니다. 이러한 문제를 완화하기 위해, 우리는 합성 입력 리플레이 (synthetic input replay)를 투영된 리허설 오케스트레이션 (projected rehearsal orchestration)으로 대체하는 프레임워크인 PRO를 제안합니다. 외부 사전 학습 (pretraining)을 제거하기 위해, 우리는 모든 방법을 동일한 웜업 (warmup) 하에서 평가합니다. 그 후, PRO는 서버에 컴팩트한 클래스 수준의 투영된 메모리 (projected memories)를 유지하며, 클라이언트가 현재 예시들과 이전의 투영된 메모리들에 대해 균형 잡힌 의사 멀티태스크 학습 (pseudo multi-task training)을 수행할 수 있도록 합니다. 더 강력한 표현 드리프트 (representation drift)를 처리하기 위해, 우리는 서버가 모델 업데이트와 메모리 통계만을 집계한다는 서버 경량 (server-light) 원칙을 유지하면서, 이웃 가중치 메모리 정렬 (neighborhood-weighted memory alignment)을 통해 PRO를 확장한 PRO-MAX를 추가로 도입합니다. 이미지, 텍스트, 그래프 벤치마크 전반에 걸쳐, PRO와 PRO-MAX는 균질한 FCIL에서도 경쟁력을 유지하면서 이질적인 스트림 하에서 유지력 (retention)과 최종 유용성 (utility)을 향상시킵니다. 베이스라인 모델들에게 확장된 리플레이 예산 (replay budgets)이 주어지더라도, 이들은 감독 불균형 (supervision imbalance)과 단계 불일치 (stage misalignment) 하에서 성능이 저하되며, 이는 리플레이 양만으로는 리플레이 품질 실패를 해결할 수 없음을 나타냅니다. 추가적인 약한 태스크 진단 (weak-task diagnostics)은 더 큰 리플레이 불일치 (replay mismatch)가 더 큰 다운스트림 저하와 연관되어 있음을 보여주는 반면, 우리의 방법은 투영된 메모리가 진화하는 표현 (evolving representation)과 더 잘 정렬되도록 유지합니다.