이것은 특정 분야에 대한 '현재 관행 조사' 유형의 연구이며, 혁신적인 내용은 아닙니다. 저는 Intelligent Document Processing (IDP) 점수 산정에 대해 2부작 Medium 시리즈(무료, 결제 장벽 없음)를 작성했습니다. 이 시리즈는 구조화된 문서, 특히 양식에서 Key Information Extraction (KIE)에 초점을 맞춥니다. 저는 혼동 행렬(confusion matrix)에서 파생된 지표들에 중점을 두는데, 빈칸이나 오독과 같은 항목들을 네 가지 가능한 값으로 매핑하는 다양한 방법, 이를 계산하는 방법, 그리고 각 지표를 언제 사용해야 하는지 등을 다룹니다.
Scoring IDP, Part 1: Confidence Is Not Correctness (신뢰도가 정확성을 의미하지 않는 경우)
Scoring IDP, Part 2: Approaches to Evaluating Form Extraction Topics (양식 추출 평가 접근법 주제들)
제가 포함하는 내용은 다음과 같습니다(이에 국한되지 않음): 혼동 행렬에 매핑하기 전에 원시 결과를 기록하는 것(정확함, 오독됨, 누락됨, 발명됨, 정확한 빈칸); 텍스트 필드 및 체크박스에 대한 혼동 행렬 점수 산정; 오독 관례와 그것이 점수에 미치는 영향(FN-only, FP-only; FN & FP); 빈칸, NULL 값, 보고되지 않은 체크박스, 그리고 판독 불가능한 값이 계산되는 방법; F1 대 Recall 대 Accuracy (정확도), 특히 정확하게 식별된 빈칸이 정확도를 부풀리는 방식 포함; True Negative가 없는 상태에서의 정확도인 Jaccard Index (IoU)와 이를 F1로 변환하는 방법; LLM 환각 제어를 위한 정밀도(Precision), 특이도(Specificity), 그리고 False Positive Rate; micro, macro, weighted F1; 헤드라인 점수를 선택하고 그 배경에 깔린 관례를 명시하는 것; 신뢰도 대 정확성 및 보정(calibration) (ECE, MCE); 그리고 Key Information Extraction (KIE) 대 OCR 지표(CER, WER).
저는 이것들이 Intelligent Document Processing (IDP)에 적용되는 '머신러닝 점수 산정 기법' 범주에 속한다고 생각합니다. 즉, 어떻게 구현할지보다는 어떻게 측정하고(점수화) 할지에 관한 것입니다. 또한 독자들이 다양한 벤치마크에서 나오는 결과를 읽는 방법을 이해하는 데 도움이 될 수도 있습니다. 저는 어떤 특정 의견을 가진 방식을 추천하기보다, 제가 접했던 여러 변형들과 그 사이의 트레이드오프를 다루려고 노력합니다. 저는 어떠한 공급업체도 지지하지 않으며, 이 시리즈는 점수 산정 자체에 관한 것입니다.
제출자: /u/pshort000 [link] [comments]