Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
PromptGNN-sim은 텍스트 속성 그래프(TAGs) 학습을 위해 GNN과 LLM을 양방향으로 융합하는 새로운 프레임워크를 제안합니다. 구조적 어텐션과 텍스트 유사성을 결합하여 구조 인지 프롬프트를 생성하며, 대조 학습을 통해 모달리티 간의 심층적인 상호작용을 최적화합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기텍스트 속성 그래프 (Text-Attributed Graphs, TAGs)는 텍스트 의미론 (textual semantics)과 그래프 구조를 결합하며, 많은 그래프 학습 작업의 중심에 있습니다. 그러나 기존의 융합 방법들은 텍스트와 구조를 얕은 단방향 파이프라인 내에서 별개의 입력으로 취급하는 경우가 많으며, 이는 모달리티 (modalities) 간의 심층적인 상호작용을 제한하고 희소한 연결성 (sparse connectivity) 또는 그래프 간 일반화 (cross-graph generalisation) 상황에서 성능을 약화시킵니다. 이 문제를 해결하기 위해, 우리는 협업적 GNN-LLM 학습을 위한 양방향 구조-의미 융합 프레임워크인 PromptGNN-sim을 제안합니다. PromptGNN-sim은 구조적 어텐션 (structural attention)과 텍스트 유사성 (textual similarity)을 결합하여 의미론적으로 인지된 이웃 선택을 수행하기 위해 그래프 어텐션 네트워크 (Graph Attention Network, GAT)를 사용합니다. 선택된 구조적 컨텍스트 (structural context)는 타겟 노드 요약, 레이블 카테고리, 유사한 이웃으로부터의 대표 키워드를 포함하여 LLM을 위한 구조 인지 프롬프트 (structure-aware prompts)를 생성하는 데 사용됩니다. 학습 과정에서는 GNN과 LLM 구성 요소를 공동으로 최적화하기 위해 양방향 교차 모달 대조 학습 (bi-directional cross-modal contrastive learning)과 교차 어텐션 (cross-attention)이 도입됩니다. Cora, Pubmed, WikiCS를 포함한 6개의 공개 데이터셋에 대한 실험을 통해 교차 작업 전이 (cross-task transfer), 교차 데이터셋 일반화 (cross-dataset generalisation), 그리고 희소 섭동 (sparse perturbations) 하에서의 정확도, 일반화 및 강건성 (robustness)을 평가합니다. 결과에 따르면 PromptGNN-sim은 기존의 GNN, LLM 및 최근의 GNN-LLM 융합 방법들보다 뛰어난 성능을 보이며, 텍스트 속성 그래프 학습을 위한 상호작용적 구조-의미 협업의 효과를 입증합니다.