동적 양방향 패턴 메모리: 임상 NLP에서의 추론 시간 게이팅(Inference-Time Gating)에 대한 프로덕션 규모의 경험적 특성 분석

요약

임상 NLP 파이프라인에서 추론 시간 게이팅(Inference-Time Gating)의 효과를 프로덕션 규모로 분석한 연구입니다. Llama-3.3 70B 기반의 생성기와 검증기를 결합한 시스템에서 경량 메모리를 통한 필터링 효율성을 검증했습니다.

핵심 포인트

• 검증기의 거부 사례를 직접 학습하는 방식은 데이터 분산 문제로 인해 대규모 환경에서 실패할 수 있음
• 고정된 임상 온톨로지를 활용한 규칙 기반 필터링이 검증기 없이도 높은 효과를 보임
• 필터는 검증기의 출력을 모방하는 것이 아니라 검증기가 사용하는 증거를 테스트할 때 유효함
• 시스템은 추출물을 삭제하는 대신 플래그를 표시하여 임상 검토를 위한 가시성을 유지함