STLGT: 마이크로서비스의 꼬리 지연 시간 예측을 위한 확장 가능한 추적 기반 선형 그래프 트랜스포머

요약

STLGT(Scalable Trace-based Linear Graph Transformer)는 마이크로서비스 시스템의 꼬리 지연 시간(tail-latency)을 정확하게 예측하기 위해 설계된 새로운 모델입니다. 이 모델은 추적 데이터를 스패ن 그래프로 인코딩하고, 구조 인식 선형 그래프 트랜스포머와 디커플링된 시간적 모듈을 결합하여 서비스 간 의존성과 워크로드 동역학을 포착합니다. 실험 결과, STLGT는 기존 방법 대비 높은 예측 정확도를 보였으며, 특히 대규모 스패ن 그래프 환경에서 추론 속도가 크게 향상됨을 입증했습니다.

핵심 포인트

• STLGT는 마이크로서비스의 꼬리 지연 시간(tail-latency) 예측에 특화된 모델입니다.
• 추적 데이터를 스패ن 그래프로 인코딩하여 서비스 간 의존성을 효과적으로 모델링합니다.
• 구조 인식 선형 그래프 트랜스포머를 사용하여 대규모 그래프에서도 추론 시간이 선형적으로 유지됩니다.
• 디커플링된 시간적 모듈을 통해 워크로드의 동역학 변화를 포착하여 예측 정확도를 높입니다.
• 실험 결과, 기존 모델 대비 높은 예측 정확도와 최대 12배 빠른 CPU 추론 속도를 달성했습니다.