SAGE: 의존성 인식 표 데이터 생성을 위한 희소 적응형 가이드

요약

SAGE(Sparse Adaptive Guidance)는 개인정보 보호가 중요한 영역에서 고품질 합성 표 데이터를 생성하기 위해 설계된 새로운 LLM 기반 프레임워크입니다. 기존의 접근 방식들이 특징 간 의존성을 밀집화하거나 정적으로 가정하는 한계를 가졌던 반면, SAGE는 상호 정보 기반의 희소하고 동적인 의존성 그래프를 구축합니다. 이 프레임워크는 명시적 컨텍스트 선택과 로짓 수정을 통해 LLM이 진정한 관련 정보에만 집중하도록 적응적으로 생성 과정을 안내함으로써, 데이터 충실도와 하류 유틸리티를 크게 향상시키고 정책 위반을 줄입니다.

핵심 포인트

• SAGE는 합성 표 데이터 생성을 위한 새로운 LLM 기반 프레임워크로, 기존 방법의 의존성 모델링 한계를 극복합니다.
• 핵심 메커니즘은 상호 정보(mutual information)를 활용하여 희소하고 동적인 의존성 그래프를 구성하는 것입니다.
• 이 그래프는 명시적 컨텍스트 선택 및 로짓 수정을 통해 LLM의 생성 과정을 적응적으로 가이드합니다.
• 실험 결과, SAGE는 데이터 충실도와 하류 유틸리티를 개선할 뿐만 아니라 정책 위반을 줄이는 효과를 입증했습니다.