FINER-SQL: 텍스트-SQL 생성을 위한 소규모 언어 모델 성능 향상

요약

본 논문은 대규모 언어 모델(LLM)의 높은 비용과 지연 시간 문제를 해결하기 위해 소규모 언어 모델(SLM)을 활용한 텍스트-SQL 생성 방법을 제안합니다. 핵심 프레임워크인 FINER-SQL은 그룹 상대 정책 최적화(Group Relative Policy Optimization)를 기반으로 하며, 기존의 희소 이진 보상 대신 '메모리 보상'과 '원자 보상'이라는 두 가지 혁신적인 피드백 메커니즘을 도입합니다. 이를 통해 SLM이 잘못된 SQL에 대해서도 지속적이고 해석 가능한 학습 신호를 받아 안정적으로 성능을 향상시키며, BIRD 및 Spider 벤치마크에서 대형 LLM 대비 높은 효율성과 정확도를 입증했습니다.

핵심 포인트

• FINER-SQL은 LLM의 비용/지연 시간 문제를 해결하는 SLM 기반 텍스트-SQL 생성 프레임워크이다.
• 기존의 이진(0/1) 보상 대신, '메모리 보상'과 '원자 보상'을 도입하여 잘못된 SQL에 대한 지속적이고 미세한 피드백을 제공한다.
• 이 접근법은 이산적인 정확도를 연속적인 학습 신호로 변환하여 안정적인 크리티크 프리 최적화를 가능하게 한다.
• BIRD 및 Spider 벤치마크에서, FINER-SQL은 대형 LLM 대비 높은 실행 정확도와 현저히 낮은 추론 지연 시간을 달성했다.