데이터베이스를 AI Agent에 연결할 때, 토큰 소모를 줄이는 효율적인 워크플로우 설계법

데이터베이스를 AI Agent에 연결한 후, 매번 '기억 속의 프로세스'에 의존하여 데이터를 조회하고 파일을 내보내게 하면 토큰 (token) 소모가 매우 빨라집니다.

더 안정적인 방법은 워크플로우 (workflow)를 메모리 (Memory)에서 분리하여 스킬 (Skill) + 스크립트 (Script) 형태로 고착화하는 것입니다.

LLM은 단 한 가지 일만 수행합니다: 자연어를 SQL로 번역하는 것.

SQL 실행, 형식 정리, 파일 업로드와 같은 결정론적인 단계들은 Python / Shell 스크립트가 실행하도록 맡깁니다.

그리고 테이블 구조 설명과 자주 사용되는 SQL 템플릿을 스킬 (Skill)에 심어두어, Agent가 매번 처음부터 추론할 필요 없이 빈칸 채우기 방식으로 쿼리를 생성하게 만듭니다.

한 줄 요약: 스크립트화할 수 있는 것은 LLM에게 맡기지 마세요. LLM은 번역을 담당해야 하며, 실행을 담당해서는 안 됩니다.

과거에는 모두가 CRUD를 작성할 때 ORM을 우선적으로 사용했습니다.

그 원칙은 데이터베이스 독립성을 유지하여 특정 데이터베이스에 종속되는 것을 방지하는 것이었습니다.

하지만 이제 모두가 기꺼이 PostgreSQL에 종속되어, 방언 (dialect)을 마음껏 사용하고 있습니다.