효율적인 개체명 인식(NER)을 위한 SpanDec 프레임워크 제안

개체명 인식(Named Entity Recognition, NER)은 산업 정보 추출 파이프라인에서 핵심적인 역할을 수행하는 기술입니다. 이 분야의 시스템들은 높은 정확도뿐만 아니라 엄격한 지연 시간(latency) 및 처리량(throughput) 제약 조건을 만족해야 합니다.

최신 개체명 인식 연구는 주로 스팬 기반 프레임워크(span-based frameworks)를 통해 최고 수준의 정확도를 달성해 왔습니다. 이 방식은 토큰 인코딩으로부터 '스팬 표현(span representations)'을 구성하고, 가능한 후보 스팬들을 분류하는 방식으로 작동합니다.

하지만 이러한 기존의 스팬 기반 방법론들은 근본적인 병목 현상을 안고 있습니다. 바로 너무 많은 수의 후보군(large numbers of candidates)을 열거(enumerate)해야 하며, 각 후보군마다 마커가 추가된 입력(marker-augmented inputs)으로 처리하는 과정이 필요합니다. 이로 인해 추론 비용(inference cost)이 크게 증가하고, 대규모 환경에서의 확장성(scalability)에 한계를 초래합니다.

본 논문에서는 이러한 병목 현상을 해결하기 위해 SpanDec라는 효율적인 스팬 기반 NER 프레임워크를 제안합니다. SpanDec의 핵심 통찰은 다음과 같습니다: 스팬 표현 간의 상호작용 계산을 초기 레이어에서 수행하는 대신, 가벼운 디코더(lightweight decoder)를 활용하여 트랜스포머의 최종 단계(final transformer stage)에서 효과적으로 처리할 수 있다는 것입니다. 이는 불필요한 중복 계산을 방지합니다.

나아가 SpanDec는 후보군 열거 과정 중에 '스팬 필터링 메커니즘(span filtering mechanism)'을 도입하여, 비용이 많이 드는 처리가 시작되기 전에 가능성이 낮은 후보군들을 사전에 가지치기(prune) 합니다.

다양한 벤치마크를 통해 검증된 결과, SpanDec는 기존의 경쟁력 있는 스팬 기반 베이스라인과 동등하거나 그 이상의 정확도를 유지하면서도 처리량과 계산 비용을 개선했습니다. 이는 고용량 서비스 환경(high-volume serving)이나 온디바이스 애플리케이션에 적합한 우수한 '정확도-효율성 트레이드오프(accuracy-efficiency trade-off)'를 제공함을 의미합니다.