안녕하세요, 저는 지속 학습 (Continual Learning) 분야에서 연구를 진행해 왔으며, 저희가 함께 구축한 Coincidex라는 오픈 소스 프레임워크와 그 과정에서 발견한 아키텍처적 통찰 및 실패 사례(Failure modes)를 공유하고자 합니다. 순차적 작업 학습 (Sequential task learning)에 대한 대부분의 전통적인 접근 방식은 리플레이 버퍼 (Replay buffers)에 크게 의존하거나 (이는 심각한 메모리/개인정보 오버헤드를 유발합니다), 복잡하고 수동으로 조정된 작업 마스크 (Task masks)를 사용합니다. 저희는 데이터 라우팅을 동적으로 처리하기 위해 전적으로 문맥 기반의 작업 유사도 계층 (Context-driven task similarity layer)에 의존함으로써 이 두 가지를 모두 우회할 수 있는지 확인하고 싶었습니다.

접근 방식: 파괴적 망각 (Catastrophic forgetting)을 방지하기 위해 과거의 샘플을 캐싱하는 대신, 이 프레임워크는 단일 계층 교체 (Single layer swap) 방식으로 작동합니다. 순차적인 데이터가 스트리밍됨에 따라, 프레임워크는 실시간으로 작업 유사도 행렬 (Task-similarity matrix)을 계산하고, 해당 문맥에 따라 데이터 경로를 라우팅합니다.

연구 통찰 및 트레이드오프 (Trade-offs): 저희는 이를 베이스라인 (Baselines)과 비교하여 벤치마킹하는 데 많은 시간을 할애했으며, 실제 적용 시 다음과 같은 결과가 나타났습니다:

성공하는 경우: 동적 라우팅 (Dynamic routing)은 깔끔한 작업 경계 (Task boundaries)를 놀라울 정도로 잘 처리합니다. 소규모 지속 비전 (Continual vision) 설정에서, 수동 마스크 조정이나 과거 데이터 저장 없이도 우아한 전이 (Graceful transfer)를 달성합니다.

실패하는 경우 (Failure Modes): 과도한 약속은 하지 않겠습니다. 유사도 계층에는 명확한 한계가 있습니다. 거대한 분포 변화 (Distribution shifts)가 발생하는 매우 혼란스럽고 롱테일 (Long-tail)인 작업 시퀀스에서는, 라우팅 모델이 무거운 리플레이 버퍼 베이스라인에 비해 안정성을 유지하는 데 어려움을 겪습니다.

공유하는 이유: 저희는 메모리나 개인정보 제약으로 인해 리플레이 버퍼를 사용할 수 없는 설정들을 위한 경량 대안으로 이를 구축했습니다. 저희는 커뮤니티가 이 라우팅 아키텍처를 살펴봐 주기를 바라며, 특히 더 거친 작업 시퀀스에서 이러한 실패 사례를 어떻게 해결할 수 있을지, 또는 서로 다른 체크포인트 (Checkpoints)에서의 유사도 행렬 시각화에 대한 의견을 듣고 싶습니다.

소스 코드, 아키텍처 분석(architecture breakdown), 그리고 전체 벤치마크 제품군(benchmark suites)은 여기에서 확인할 수 있습니다: https://github.com/rakib-nyc/coincidex /u/theawkwardbong 님이 r/MachineLearning에 제출함 [link] [comments]