@PhalaNetwork는 정확성이 실제로 중요한 AI 시스템을 구축하고 있다면 읽어볼 만한 가치가 있는 내용을 공유했습니다. LegalCiteBench라는 새로운 벤치마크 (Benchmark)가 ICML 2026에 채택되었으며, 이는 대부분의 법률 AI 도구들이 간과하는 부분, 즉 모델이 단순히 그렇게 들리는 것이 아니라 정확한 인용 (Citation)을 제대로 수행할 수 있는지를 테스트합니다.

그들은 실제 미국 법원 판결문에서 구축된 23,646개의 평가 인스턴스를 통해 21개의 모델을 실행했으며, 인용 검색 (Citation retrieval)에서 가장 높은 점수는 100점 만점에 6.80점이었습니다. 최고 점수입니다. 그리고 21개 모델 중 20개는 오답 유도율 (Misleading Answer Rate)이 94% 이상이었는데, 이는 모델이 거의 확실히 틀렸을 때조차 거의 항상 자신감 있게 구체적인 답변을 내놓았음을 의미합니다. 법률 업무에서 이것은 단순히 낮은 점수가 아니라, 법적 책임 (Liability) 문제입니다.

검증 (Verification) 측면은 다른 이야기를 보여주었습니다. 모델에게 기억으로부터 인용을 생성하게 하는 대신, 확인해야 할 인용을 제공했을 때 점수는 다양한 작업에서 75점과 96점에 도달했습니다.

그 격차가 바로 핵심입니다. 모델은 회상 엔진 (Recall engine)보다는 훨씬 더 나은 감사자 (Auditor)이며, 이것이 바로 Phala가 신뢰할 수 있는 AI (Trustworthy AI)에 대해 생각하는 방식입니다. 논문이 제시하는 해결책은 Phala가 지향하는 바와 정확히 일치하는데, 바로 검색 (Retrieval)을 사용하여 후보 소스를 찾고, 모델을 추측하는 용도가 아닌 검증하는 용도로 사용하는 것입니다. 신뢰할 수 있는 AI는 그럴듯하게 들리는 모델이 아니라, 확인 가능한 파이프라인 (Pipeline)을 필요로 합니다.

만약 당신이 법률 AI 또는 출처 (Provenance)가 중요한 시스템을 다루는 개발자나 기관이라면, 이것은 유용한 읽을거리입니다. 논문과 데이터셋은 공개되어 있습니다. 아래 인용된 포스트에서 확인하세요 ⬇️