QontoFAQ: 더 나은 정보 검색 벤치마크
요약
본 글은 제품 질문에 정확히 답하는 아티클을 찾는 데 초점을 맞춘 새로운 정보 검색(Retrieval) 벤치마크를 소개합니다. 문서 관련성에 비례하는 새로운 메트릭을 개발하고, 임베딩 모델 측정을 위한 데이터셋을 구축했습니다.
핵심 포인트
- 제품 질문에 최적화된 정보 검색 목표 설정
- 문서 관련성 기반의 새로운 평가 메트릭 개발
- 임베딩 모델 벤치마킹을 위한 데이터셋 공개
검색(Retrieval) 벤치마크는 때때로 모델들에 의해 과도하게 테스트되는 느낌을 주곤 합니다. 그래서 저희는 이 벤치마크를 저의 목표, 즉 제품 질문에 정확히 답하는 아티클을 찾는 것에 최대한 가깝게 연결할 방법을 찾고 싶었습니다. 우리는 문서 관련성(document relevance)에 더 비례하는 것처럼 보이는 새로운 메트릭을 개발했고, 임베딩 모델을 측정하기 위한 벤치마킹 데이터셋을 구축했습니다. 접근 방식에 대한 기사는 다음 링크에서 확인하실 수 있습니다: https://medium.com/qonto-way/qontofaq-benchmarking-information-retrieval-acd89600ebe1 그리고 관련 코드는 다음과 같습니다: https://github.com/qonto/qonto-faq-benchmark /u/espadrine 님이 제출했습니다. [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/MachineLearning (hot)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기