BCL: 정보 추출을 위한 베이지안 인컨텍스트 러닝 (Bayesian In-Context Learning) 프레임워크

기존의 정보 추출 (Information Extraction, IE) 작업들은 대규모 언어 모델 (Large Language Models, LLM)을 활용한 인컨텍스트 러닝 (In-Context Learning, ICL)을 점점 더 많이 채택하고 있습니다. 그러나 현재의 방식들은 모델 규모에 따라 성능이 일관되지 않거나, 체계적인 최적화 및 일반화 능력이 부족한 모습을 보입니다. 이를 바탕으로, 우리는 정보 추출 (IE) 작업 전반에 걸쳐 레이블 표현 (Label Representations)을 체계적으로 정교화하기 위해 베이지안 업데이트 (Bayesian Updates)와 파티클 필터링 (Particle Filtering)을 사용하는 최초의 최적화 프레임워크인 BCL (Bayesian In-Context Learning Framework for Information Extraction)을 제안합니다. 초기화 (Initialization), 관측 (Observation), 가중치 업데이트 (Weight Update), 그리고 리샘플링 (Resampling)이라는 네 단계를 통해, BCL은 시퀀스 레이블링 (Sequence Labeling)과 관계 분류 (Relation Classification) 패러다임 모두에 일반화됩니다. 광범위한 실험을 통해 기존 방식들보다 실질적이고 일관된 개선을 이루었음을 입증하였습니다.