솔직해집시다, 표준 HTTP 아키텍처는 AI 기반 검색이나 요청을 위해 설계된 적이 없습니다.

HTTP/1.1이 작성되었을 때, "검색 쿼리 (search query)"는 ?q=wireless+mouse와 같은 15자 내외의 문자열이었습니다. 간단한 GET 요청이 이를 URL에 담았고, CDN이 이를 손쉽게 캐싱했으며, 삶은 단순했습니다.

오늘날로 빠르게 넘어가 보면, AI 기반 검색은 단순한 문자열이 아닙니다. 다음과 같은 형태를 띱니다: 어떤 단단한 표면에서도 작동하고 약 1km 떨어진 곳에서도 사용할 수 있는 무선 마우스를 원합니다. 이것은 다음과 같습니다:

• 사용자의 의도를 상세히 설명하는 1,000 토큰(token) 분량의 대화형 프롬프트 (conversational prompt)
• 메타데이터에 따라 결과를 제한하는 깊고 계층적인 JSON 필터 (JSON filter)
• 텍스트 임베딩 벡터 (text embedding vector)를 나타내는 1,536개의 부동 소수점 숫자 배열.
  이 거대한 페이로드 (payload)를 구식 GET 쿼리 파라미터 (query parameter)에 억지로 집어넣으려고 하면 즉시 URL 길이 제한을 초과하고, API 게이트웨이 (API gateway)를 충돌시키며, 개인 사용자 데이터를 평문 서버 로그에 유출하게 됩니다.

그래서 우리는 대신 무엇을 했나요? 우리는 POST 메서드를 오용했습니다.

우리는 벡터 검색 파라미터 (vector search parameters)를 POST 요청 본문 (request body) 안에 감싸서 보냅니다. 하지만 의미론적으로 (semantically), POST는 "리소스 (resource)를 생성"하는 데 사용됩니다.

그 아키텍처적 편법은 마침내 끝났습니다. 우리의 영웅이 등장합니다. IETF가 최근 발표한 RFC 10008은 GenAI 시대를 위해 특별히 구축된 완전히 새로운 HTTP 동사 (HTTP verb)인 QUERY를 도입합니다.

새로운 HTTP QUERY 메서드란 무엇인가?

QUERY 메서드는 GET과 POST의 하이브리드입니다. 공식 IETF 명세 (spec)에 따르면 다음과 같습니다:

QUERY는 요청 대상(request target)이 포함된 콘텐츠를 안전하고 멱등한 (idempotent) 방식으로 처리하고, 해당 처리의 결과로 응답할 것을 요청합니다.

RAG 및 벡터 DB를 위한 패러다임 전환

왜 GenAI 개발자들이 관심을 가져야 할까요? QUERY가 검색 증강 생성 (RAG, Retrieval-Augmented Generation) 파이프라인의 확장성 및 비용 병목 현상을 해결하기 때문입니다.

1. 시맨틱 임베딩 (semantic embeddings)을 위한 엣지 캐싱 (Edge caching)

Qdrant, Pinecone과 같은 벡터 데이터베이스 (vector databases)는 계산 비용이 많이 듭니다. 수백만 개의 밀집 벡터 (dense vectors)에 대해 유사도 검색 (similarity lookups)을 실행하는 것은 상당한 CPU 전력을 소모합니다.

QUERY CDN을 사용하면, 임베딩 부동 소수점 (embedding floats) 배열이 포함된 요청 본문 (request body)을 캐시 키 (cache key)에 직접 통합할 수 있습니다. 수천 명의 사용자가 기업용 AI 에이전트 (enterprise AI agent)에게 동일한 임베딩 벡터 (embedding vector)를 생성하는 유사한 질문을 던질 경우, CDN은 데이터베이스 오리진 (database origin)에 접근하지 않고도 엣지 (edge)에서 캐싱된 RAG 컨텍스트 스냅샷 (RAG context snapshot)을 즉시 제공할 수 있습니다.

2. 불안정한 에이전트 워크플로 (agentic workflows)를 위한 자동 재시도

AI 에이전트 (AI agents)는 모바일 연결 환경에서 다단계의 비동기 루프 (asynchronous loops)를 빈번하게 실행합니다. 전통적인 POST 방식의 시맨틱 검색 (semantic search) 도중 네트워크 끊김 현상이 발생하면, POST는 안전하지 않은 (unsafe) 메서드이기 때문에 클라이언트 프레임워크가 이를 자동으로 재전송할 수 없습니다. 반면, QUERY는 명시적으로 멱등성 (idempotent)을 가집니다.

에이전트 루프 (agentic loop)가 컨텍스트 청크 (context chunks)를 기다리다 타임아웃 (timeout)이 발생하더라도, 클라이언트 라이브러리는 실수로 인한 중복 작업의 위험 없이 안전하게 쿼리를 재전송할 수 있습니다.

AI 준비가 된 쿼리 엔드포인트 (Query Endpoint) 구축하기

새로운 RFC 10008 표준 하에서 벡터 기반 시맨틱 검색 (vector-based semantic search)이 어떻게 구현되는지 확인하기 위해, Node.js를 사용하여 실용적인 백엔드 서비스를 구축해 보겠습니다.

1. 시맨틱 검색 서버 (Semantic Search server)

import http from 'http';

const PORT = 3000;
...

2. 엔드포인트 테스트 (Postman을 통해)

지저분한 쿼리 문자열 (query string)을 전혀 건드리지 않고도, 요청 본문 (request body) 내에 가공되지 않은 자연어 파라미터 (natural language parameters)와 거대한 고차원 배열 (high-dimensional arrays)을 직접 전달할 수 있습니다.

결론

웹은 근본적으로 텍스트 매칭 (text-matching)에서 개념적이고 시맨틱한 AI 이해 (semantic AI understanding)로 이동하고 있습니다. 안전한 읽기 작업 (read operations)을 위해 계속해서 POST를 사용하는 것은 서버 비용을 부풀리고 네트워크 효율성을 저해하는 아키텍처 안티 패턴 (architectural anti-pattern)입니다.

핵심 백엔드 프레임워크, 프록시 서버 (proxy servers), 그리고 벡터 데이터베이스 (vector databases)가 QUERY에 대한 퍼스트 클래스 지원 (first-class support)을 출시함에 따라, 이를 채택하는 것은 초고속, 엣지 캐싱 (edge-cached), 신뢰할 수 있는 AI 소프트웨어를 구축하는 데 있어 경쟁 우위가 될 것입니다.

어떻게 생각하시나요? 여러분의 내부 AI 에이전트(AI agent)와 RAG API를 QUERY 메서드로 마이그레이션(migrating)하실 건가요?

아래 댓글에서 아키텍처(architecture)에 대해 이야기해 봅시다!