멀티 도메인 동적 그래프 파운데이션 모델을 위한 분리 및 발산 조건부 프롬프트

동적 그래프(Dynamic graphs)는 실제 시스템에서 어디에나 존재하며, 일반화 가능한 동적 그래프 파운데이션 모델(Dynamic Graph Foundation Models)을 구축하는 것은 그래프 학습(graph learning)의 최전선이 되었습니다. 그러나 서로 다른 도메인의 동적 그래프는 그 의미적(semantic) 및 시간적(temporal) 패턴이 본질적으로 일치하지 않기 때문에 통합 모델링에 근본적인 과제를 제기하며, 이는 멀티 도메인 사전 학습(multi-domain pre-training)을 어렵게 만듭니다. 결과적으로, 널리 사용되는 "사전 학습 후 미세 조정(pretrain-then-finetune)" 패러다임은 종종 심각한 부정적 지식 전이(negative knowledge transfer) 문제를 겪습니다. 저희가 알고 있는 바로는, 현재 멀티 도메인 동적 GFM은 존재하지 않습니다. 본 연구에서는 분리 및 발산 조건부 프롬프팅(decoupled and divergence-conditioned prompting)을 기반으로 한 멀티 도메인 대상 동적 그래프 파운데이션 모델인 DyGFM을 제안합니다. 전이 가능한 의미론(transferable semantics)을 도메인 특화 동역학(domain-specific dynamics)으로부터 분리하기 위해, 저희는 의미-시간 분리(semantic-temporal decoupling)를 갖춘 이중 분기 사전 학습(dual-branch pre-training) 전략을 도입합니다. 도메인 적응(domain adaptation) 과정에서의 부정적 전이를 완화하기 위해, 저희는 발산 인지 전문가 선택(divergence-aware expert selection)을 포함하는 교차 도메인 라우팅 메커니즘(cross-domain routing mechanism)을 추가로 개발했습니다. 효율적인 다운스트림 미세 조정(downstream fine-tuning)을 가능하게 하기 위해, 의미적 및 시간적 특성에 맞춤화된 경량의 학습 가능한 그래프 프롬프트(graph prompts)를 주입하는 발산 조건부 프롬프트 생성기(divergence-conditioned prompt generator)를 설계했습니다. 연속적 동적 그래프 벤치마크에 대한 광범위한 실험을 통해, DyGFM이 노드 분류(node classification) 및 링크 예측(link prediction) 작업 모두에서 12개의 최첨단(state-of-the-art) 베이스라인 모델을 일관되게 능가하며, 우수한 효과성과 효율성을 달성함을 입증했습니다.