시퀀스 레이블링(Sequence Labelling)을 위한 근사 구조적 확산(Approximate Structured Diffusion)

요약

시퀀스 레이블링의 표현력 한계를 극복하기 위해 확산 모델(Diffusion)을 활용하는 새로운 연구를 소개합니다. 기존 CRF 방식의 장거리 의존성 문제를 해결하여 품사 태깅(POS-tagging) 오류를 16.5% 감소시켰습니다.

핵심 포인트

• 기존 CRF의 유한한 결정 범위로 인한 표현력 한계 지적
• 확산 모델을 활용하여 전체 레이블 시퀀스에 조건화된 CRF 학습
• 근사 CRF 추론과 결합하여 품사 태깅 성능 대폭 향상
• 실험 결과 품사 태깅 오류율 16.5% 감소 확인