급속도로 발전하는 인공지능 (AI) 세계에서 거대 언어 모델 (LLMs)은 다양한 출처의 정보를 합성하는 놀라운 능력을 입증해 왔습니다. 하지만 Zep AI의 창립자이자 Graffiti 프레임워크의 설계자인 Daniel Chalef가 AI Engineer World's Fair에서 설명했듯이, 이 강력한 합성 과정은 종종 출처 (Provenance)의 심각한 손실을 초래합니다. 데이터가 어떻게 생성되었고 어디에서 왔는지를 상세히 기록하는 필수적인 정보인 출처가 모호해지는 것입니다. 이러한 추적 가능성의 결여는 복잡한 AI 시스템의 디버깅 (Debugging), 법적 및 규제 요구 사항 준수 보장, 그리고 궁극적으로 AI가 생성한 결과에 대한 신뢰 구축에 상당한 장애물이 됩니다.

LLM 출력물에서의 출처 문제

Chalef가 강조한 흔한 오류 패턴은 요약, 추출된 사실, 그리고 입력 소스를 직접적으로 문구 그대로 재현하지 않는 구조화된 데이터 세트를 생성하는 LLM과 관련이 있습니다. 이러한 합성은 정보의 기원을 크게 모호하게 만들 수 있으며, 정확성을 확인하거나 오류를 효과적으로 수정하는 것을 어렵게 만듭니다. 예를 들어, LLM은 환자의 페니실린 알레르기에 대해 설득력 있게 주장할 수 있지만, 이 중요한 정보는 전자 건강 기록 (EHR), 실험실 보고서, 심지어 사용자가 입력한 채팅 데이터가 혼합되어 도출된 조합일 수 있습니다. 이러한 기원에 대한 명확한 이해가 없다면 의료 전문가는 결정적인 치료 결정 과정에서 오도된 정보에 직면할 수 있습니다.

모든 데이터 포인트에 단순히 출처 식별자를 붙이는 겉보기에 간단한 해결책은 LLM 운영 (LLM Operations)의 복잡한 파이프라인에서는 실패합니다. 결정론적 (Deterministic) 데이터 처리 파이프라인과 달리, LLM 출력은 종종 여러 동적인 소스로부터 합성됩니다. 엔티티를 병합하는 과정(예: 'J. Smith'와 'John Smith'를 동일 인물로 인식하는 것)과 시간이 흐름에 따라 발생하는 데이터의 변이 (Mutation)는 단일 소스에 대한 단순한 참조가 빠르게 신뢰할 수 없게 된다는 것을 의미합니다. Chalef는 이러한 맥락에서 데이터 계보 (Data Lineage)가 이러한 변이를 견딜 수 있는 진화하는 집합체여야 한다고 강조했습니다.

Graffiti 프레임워크 소개

이러한 복잡한 과제를 해결하기 위해 Chalef의 팀은 오픈 소스 시계열 그래프 프레임워크 (Open-Source Temporal Graph Framework)인 Graffiti를 개발했습니다. Graffiti는 소스 데이터와 그로부터 파생된 개별 사실과 같은 아티팩트 (Artifacts) 사이의 복잡한 관계를 포괄적인 지식 그래프 (Knowledge Graph)로 모델링합니다. 이러한 그래프 구조를 통해 단순한 그래프 순회 (Graph traversal)만으로도 각 사실을 원래의 소스로 추적할 수 있습니다. 이 프레임워크는 다음과 같은 LLM 생성 데이터의 내재적 복잡성을 처리하도록 세심하게 설계되었습니다:

• 시계열 그래프 모델링 (Temporal Graph Modeling): 시간에 따른 데이터와 관계의 변화를 포착합니다.
• 메타데이터 투영 (Metadata Projection): 데이터 수집 시점의 데이터 에피소드를 마킹할 수 있게 합니다.
• 데이터 삭제 관리 (Data Deletion Management): 데이터 보호 규정 및 "잊힐 권리" 요청에 대한 준수를 용이하게 합니다.

Graffiti는 또한 메타데이터 투영 (Metadata Projection)을 통합하여, 데이터 수집 (Ingestion) 과정 중에 데이터 에피소드 (Data episodes)를 마킹할 수 있도록 합니다. 'EHR' 또는 '검증된 임상 출처 (verified clinical source)'와 같은 분류를 포함할 수 있는 이러한 태그는 이후 파생되는 모든 엔티티 (Entities) 및 사실 (Facts)로 전달됩니다. 이러한 기능은 AI 에이전트가 인지된 출처의 신뢰도에 기반하여 정보를 지능적으로 필터링할 수 있게 해줍니다. 그러나 단일 사실이 여러 출처의 기여 결과인 경우, 전체적인 진실성 수준을 결정하는 것은 더 미묘한 작업이 됩니다. Chalef는 하나의 사실이 세 개의 상위 에피소드에 의해 뒷받침되는데, 그중 두 개는 검증되었으나 하나는 검증되지 않은 시나리오를 통해 이를 설명했습니다. 이때 시스템은 '어느 하나라도 (any)' 상위 출처가 검증되어야 하는지, 아니면 '모든 (all)' 상위 출처가 검증되어야 하는지를 결정해야 하며, 이 결정은 해당 사실의 중요도 (Criticality)에 따라 달라집니다. 예를 들어, 환자의 알레르기에 관한 사실은 '모든' 상위 출처가 검증될 것을 요구할 수 있는 반면, 동의 (Consent)에 관한 사실은 '어느 하나라도' 상위 출처가 검증되어 있다면 수용 가능한 것으로 간주될 수 있습니다.

데이터 삭제(Data deletion)는 또 다른 중대한 도전 과제이며, 특히 데이터 보호 규정 준수 및 "잊힐 권리(Right to be forgotten)"에 따른 요청 실행과 관련하여 더욱 그러합니다. Graffiti의 그래프 모델(Graph model)은 삭제 대상인 특정 소스 데이터로부터 어떤 사실(Facts)이 도출되었는지를 정밀하게 식별함으로써 이 문제를 해결하는 데 도움을 줍니다. 만약 특정 사실이 여러 개의 독립적인 소스에 의해 뒷받침되고 있다면, 하나의 소스가 삭제된 후에도 해당 사실은 유지될 수 있습니다. 반대로, 오직 삭제된 데이터로부터만 도출된 사실은 그래프에서 정확하게 제거됩니다. 이러한 메커니즘은 최소 하나 이상의 지원 소스가 사용 가능한 한 공통된 사실은 접근 가능한 상태로 유지하는 동시에, 이제는 삭제된 단일 소스에 기반한 사실들은 적절히 삭제되도록 보장합니다.

신뢰할 수 있는 LLM 시스템을 위한 핵심 통찰

Chalef는 견고하고 신뢰할 수 있는 LLM 기반 시스템을 구축하기 위한 핵심 원칙을 다음과 같이 요약했습니다:

• 데이터 기원(Data lineage) 인정: 데이터의 기원과 변환 과정을 이해하는 것이 무엇보다 중요하다는 점을 인식하십시오.
• 관계 모델링(Modeling relationships): 데이터 내의 복잡한 의존성을 표현하기 위해 그래프 구조(Graph structures)를 활용하십시오.
• 시간적 인식(Temporal awareness): 시간이 경과함에 따라 변화하는 데이터와 그 관계를 고려하십시오.
• 문맥적 메타데이터(Contextual metadata): 필터링, 검증 및 문맥적 이해를 위해 메타데이터를 활용하십시오.

그는 또한 Graffiti의 정교한 방법론을 사용한 그래프 구축(Graph construction) 프로세스가 계산 집약적(Compute-intensive)일 수 있음을 인정했습니다. 하지만 비용과 지연 시간(Latency)을 최적화하기 위해 상당한 노력이 기울여졌다고 언급했습니다. Chalef는 청중들에게 GitHub에서 Graffiti 프레임워크의 가능성을 더 탐색해 볼 것을 권장했습니다.

Graffiti를 통한 데이터 기원 (Data Provenance) 추적을 위한 LLM 출처 추적의 기술적 세부 사항은 복잡하지만, Graffiti와 같은 솔루션은 급변하는 AI 분야에서 신뢰와 책임성을 구축하는 데 매우 중요합니다. 정보의 근원을 추적하는 능력은 단순한 기술적 과제가 아니라, 책임감 있는 AI 개발을 위한 근본적인 전제 조건입니다. 또한, AI 생성 콘텐츠에 관한 논의를 할 때는 NSFW AI와 같은 주제를 다루는 사례를 포함하여 AI 애플리케이션의 더 넓은 범위를 인식하는 것이 중요하며, 이는 이 강력한 기술들이 가진 다양하고 때로는 민감한 활용 사례를 강조합니다.

tags: llm, ai, data provenance, graph database