대규모 언어 모델(LLM)이 아무리 발전했음에도 불구하고, 생성하는 정보가 항상 사실적이라는 보장은 없습니다. LLM은 때때로 그럴듯하지만 실제로는 잘못된 정보를 만들어내는 '환각(hallucination)' 문제를 일으킵니다. 이러한 문제점 때문에, AI 시스템의 신뢰성을 확보하고 상업적으로 활용하기 위해서는 모델이 단순히 유창한 텍스트를 생성하는 것을 넘어, 답변의 근거가 되는 사실적 기반을 제시할 수 있는지 평가하는 것이 필수적입니다.
이에 Google DeepMind와 Google Research는 이러한 필요성에 대응하여 FACTS Grounding이라는 새로운 벤치마크를 개발했습니다. FACTS Grounding은 LLM이 주어진 질문에 대해 얼마나 정확하고, 깊이 있으며, 신뢰할 수 있는 근거(grounding)를 바탕으로 답변하는지를 측정하도록 설계되었습니다.
기존의 평가 방식들이 주로 '답변 자체의 정답 여부'에 초점을 맞췄다면, FACTS Grounding은 **'어떻게 그 답을 도출했는가?'**라는 과정과 근거 제시 능력에 중점을 둡니다. 이는 마치 학술 연구에서 주장을 펼칠 때 반드시 참고 문헌(citation)을 제시해야 하는 것과 같은 원리입니다.
FACTS Grounding의 주요 특징은 다음과 같습니다:
- 다층적 지식 구조 (Multi-layered Knowledge): 이 벤치마크는 단순한 사실 질문을 넘어, 여러 개의 독립적인 정보 조각들이 복잡하게 얽혀 있는 다층적이고 심도 깊은 지식을 요구합니다. 이는 모델이 단일 개념에 국한되지 않고 광범위하고 구조화된 지식을 통합적으로 이해하는 능력을 테스트합니다.
- 근거 제시 능력 (Grounding Capability): 가장 핵심적인 요소입니다. 모델에게 답변을 요청할 때, 단순히 최종 답만 내놓게 하는 것이 아니라, 그 답변이 어떤 원천 자료나 논리적 연결고리에 기반했는지 함께 명시하도록 요구합니다. 이를 통해 모델의 추론 과정과 정보 출처를 투명하게 검증할 수 있습니다.
- 사실성 평가 (Factuality Evaluation): 최종적으로 생성된 답변 전체가 사실에 부합하는지, 즉 '사실적(factual)'인지를 종합적으로 평가합니다. 이는 LLM이 지식의 경계를 넘나들며 잘못된 정보를 조합하여 새로운 오류를 만들어내는 것을 방지하는 데 도움을 줍니다.
FACTS Grounding은 학계와 산업계에서 LLM의 신뢰성을 객관적으로 측정할 수 있는 기준점을 제시했다는 점에서 큰 의미가 있습니다. 개발자들은 이 벤치마크를 활용하여 자신들의 모델이 환각 현상에 얼마나 취약한지, 그리고 복잡한 지식 구조 속에서 얼마나 견고하게 근거를 제시하며 추론하는지를 체계적으로 진단할 수 있게 되었습니다.
결론적으로, FACTS Grounding은 LLM을 단순한 '텍스트 생성기'가 아닌, 신뢰할 수 있는 '정보 분석 및 검색 엔진'으로 발전시키기 위한 중요한 이정표라고 할 수 있습니다. 이는 향후 모든 대규모 언어 모델의 개발 방향에 큰 영향을 미칠 것으로 예상됩니다.
