GraphRAG를 통한 인도 제약 데이터 기반 LLM 토큰 비용 62% 절감 사례

요약

본 기사는 GraphRAG가 인도 제약 데이터셋을 활용하여 LLM 기반 애플리케이션의 토큰 비용을 획기적으로 절감하고 정확도를 높인 사례를 다룹니다. 기존 벡터 RAG는 복잡한 도메인에서 관계 추론에 한계가 있어, TigerGraph 기반의 GraphRAG는 명시적인 그래프 구조와 멀티 홉 트래버설을 통해 필요한 컨텍스트만을 정밀하게 검색합니다. 그 결과, 토큰 사용량과 비용을 대폭 절감하면서도 높은 정확도를 유지할 수 있음을 입증했습니다.

핵심 포인트

• GraphRAG는 복잡한 도메인(제약 산업)에서 벡터 RAG의 한계를 극복하고 관계 기반 추론을 가능하게 합니다.
• TigerGraph 기반 GraphRAG를 사용했을 때, 토큰 사용량과 비용이 Basic RAG 대비 62%, LLM-Only 대비 79% 절감되었습니다.
• 정확도는 91%의 통과율(pass rate) 및 0.72의 BERTScore F1로 향상되어 성능 개선을 입증했습니다.
• 월 10만 건의 쿼리 기준으로 GraphRAG는 LLM-Only 대비 $7,800 이상의 비용 절감 효과를 가져옵니다.