요약

대규모 클라우드 네이티브 서비스에서 고객 인시던트 데이터는 중요한 위험 신호원이지만, 노이즈와 복잡성 때문에 활용하기 어렵습니다. 논문 'TingIS'는 이러한 문제를 해결하기 위해 개발된 엔드투엔드 시스템입니다. TingIS는 효율적인 인덱싱 기법과 대규모 언어 모델(LLMs)을 결합한 다단계 이벤트 연결 엔진을 핵심으로 사용합니다. 이 시스템은 2,000 메시지/분 이상의 피크 처리량을 자랑하며, 높은 정확도와 낮은 지연 시간으로 실제 비즈니스 위험을 실시간으로 발견하고 경고할 수 있게 합니다.

핵심 포인트

• TingIS는 고객 인시던트 데이터에서 발생하는 노이즈와 복잡성을 극복하는 엔드투엔드 시스템입니다.
• 핵심은 효율적인 인덱싱과 LLMs를 결합한 다단계 이벤트 연결 엔진으로, 사용자 설명만으로도 실행 가능한(actionable) 인시던트를 추출합니다.
• 실제 운영 환경에서 분당 2,000개 이상의 피크 처리량을 처리하며, P90 경고 지연 시간은 3.5분입니다.
• 기존 방식 대비 라우팅 정확도, 클러스터링 품질, 신호 대 노이즈 비율(Signal-to-Noise Ratio)에서 우수한 성능을 입증했습니다.