Locale-Conditioned Few-Shot Prompting이 소형 언어 모델(SLM)을 이용한 온디바이스 PII 치환 과정에서의 예시

요약

본 논문은 온디바이스 환경에서 개인 식별 정보(PII)를 처리하는 새로운 파이프라인을 제안합니다. 기존의 PII 삭제 방식이 후속 NLP 작업에 유용성을 저해하는 문제를 해결하기 위해, 이 시스템은 탐지된 PII를 일관되고 유형을 보존하는 가짜 값으로 치환합니다. 특히, 단순한 고정 예시 사용 시 발생하는 SLM의 '메아리 현상(regurgitation)' 문제를 로케일 조건부 회전 퓨샷 예시(locale-conditioned rotating few-shot demonstrations)를 통해 해결하고, 이 하이브리드 접근 방식이 다양한 평가 지표에서 우수한 성능을 보임을 입증합니다.

핵심 포인트

• PII 삭제 시 발생하는 후속 NLP 작업의 유용성 저하 문제를 해결하기 위해 가짜 값 치환(fake value substitution) 파이프라인을 제안함.
• SLM 기반 PII 처리 과정에서 단순 고정 예시 사용은 모델이 출력을 반복 재생하는 '메아리 현상'을 초래하며, 이는 양자화 문제가 아님을 확인했습니다.
• 이 문제를 해결하기 위해 로케일 조건부 회전 퓨샷 예시(locale-conditioned rotating few-shot demonstrations)를 도입하여 고유하고 다양한 대리값을 생성할 수 있었습니다.
• SLM이 생성한 가짜 값은 자연스러운 텍스트를 만들지만, 학습 분포의 다양성 측면에서는 오히려 규칙 기반 생성기(faker)가 더 나을 수 있다는 정직한 부정적 결과(negative finding)를 도출했습니다.