주석 없는 합성 데이터 생성에서 스타일 다양성의 중요성

의도 분류 (Intent Classification)를 위한 고효율 합성 데이터를 생성하는 것은 일반적으로 사람이 주석을 달아 만든 시드 데이터 (Seed Data)를 필요로 하지만, 급변하는 산업 현장에서는 이러한 데이터를 구하기 어려운 경우가 많습니다. 본 논문에서는 사람이 주석을 단 데이터 없이 오직 의도 정의 (Intent Definitions)에만 의존하여 작동하는 합성 대화 생성 프레임워크를 제안합니다. 우리가 제안하는 대화 생성 프레임워크는 데이터 다양성을 향상시키기 위해 두 가지 다른 유형의 주제 (Topic) 및 스타일 (Style) 속성을 활용합니다. 또한, LLM (Large Language Model)이 생성한 발화 (Utterances)를 더욱 다양하고 인간과 유사한 언어 스타일로 변환하기 위해 Univ 및 Exam이라고 불리는 두 가지 새로운 사후 스타일화 (Post-hoc Stylization) 모델을 제안합니다. 데이터 품질을 높이기 위해, 우리는 LLM-as-a-judge 필터링 프로세스를 활용합니다. 산업용 및 공개 데이터셋 모두에 대한 실험 결과, 제안된 접근 방식은 사람이 주석을 단 학습 데이터를 사용하여 얻은 성능의 최대 93.3%를 달성함을 입증했습니다. 결정적으로, 본 연구 결과는 스타일 다양성이 합성 데이터의 효용성에 있어 주제 다양성보다 더 중요하다는 것을 밝혀냈는데, 이는 모델이 가짜 스타일 상관관계 (Spurious Stylistic Correlations)를 학습하는 것을 방지하기 때문입니다. 또한, 생성 과정 중에 스타일 속성을 통합하는 것이 사후 스타일 적응 (Post-hoc Style Adaptation)보다 더 효과적임을 보여줍니다.