LuthorSQL: 느린 LLM 에이전트를 위한 시스템 1 역할을 하는 원패스 Text-to-SQL 모델
요약
기존 LLM 에이전트의 Text-to-SQL 사용은 느리고 비용 문제가 발생합니다. LuthorSQL은 이러한 문제를 해결하기 위해 개발된 비-자기회귀적 7B 모델입니다. 이 모델은 빠르고 로컬에서 실행 가능하며, Claude Opus 5.5와 결합하여 API 호출을 줄이고 정확도를 유지하는 효율적인 게이트 역할을 수행합니다.
핵심 포인트
- LuthorSQL은 느린 LLM 에이전트(System 2)를 위한 빠른 System 1 게이트입니다.
- 단일 GPU에서 질문당 0.84초의 속도로 높은 실행 정확도를 달성합니다.
- Snowflake, BigQuery 등 다양한 DB에 제로샷 전이가 가능하며 로컬 환경에 적합합니다.
- Claude Opus 5.5와 결합 시 API 비용을 33.3% 절감하는 효과를 보였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기