그래프 생성을 위한 효율적인 Edge-aware Attention Network

요약

본 논문은 그래프 생성 모델의 확장성 한계를 극복하기 위해 Edge-aware Attention 레이어를 제안합니다. 이 레이어는 구조적 정보를 헤드별 스코어 변조와 경량 잔차 메커니즘을 통해 통합하여 엣지 표현을 효율적으로 업데이트합니다. 이를 통해 기존 대비 GPU 메모리를 크게 줄이고 처리량을 향상시킨 확장 가능한 그래프 파운데이션 모델의 실용적인 기반을 제시합니다.

핵심 포인트

• 그래프 생성 모델의 확장성 한계를 해결하는 Edge-aware Attention 레이어 제안.
• 구조적 정보를 헤드별 스코어 변조로 통합하여 효율성을 높임.
• GPU 메모리를 약 65% 절감하고 학습 및 샘플링 처리량을 크게 향상시킴.
• 확장 가능한 그래프 파운데이션 모델 개발에 기여하는 실용적인 아키텍처.