팀이 Dify, Cursor, 그리고 작은 Node.js 서비스를 동일한 Vector Engine 계정에 연결했을 때, 실패한 요청은 실제보다 더 미스터리하게 보일 수 있습니다. 오류가 Dify 내부에서 발생한 것처럼 보였다가, Cursor에서는 다르게 나타나고, Node.js 서비스 로그에는 단순히 실패한 HTTP 상태 코드만 남을 수 있습니다. 만약 공유된 제공업체가 OpenAI 호환 API 게이트웨이(API gateway)라면, 실질적인 질문은 "어떤 도구가 고장 났는가?"가 아닙니다. 질문은 "각 도구가 실제로 어떤 요청을 보냈는가?"가 되어야 합니다.

저는 Vector Engine을 다음과 같은 작고 명확한 계약(contract)을 가진 LLM API 제공업체 레이어로 취급하는 것을 선호합니다:

• Base URL: 모든 도구가 사용하는 엔드포인트(endpoint)
• API Key: 해당 도구 또는 서비스에 할당된 키 범위(key scope)
• model name: Dify, Cursor, Node.js에 구성된 정확한 모델 경로(model route)
• payload shape: messages, tools, temperature 및 선택적 메타데이터(metadata)
• error owner: model_not_found, 401, 404, timeout 및 quota 응답을 확인하는 주체

이 글에서는 로그에 비밀 정보를 남기지 않으면서 요청 드리프트(request drift)를 쉽게 확인할 수 있는 가벼운 재현(replay) 체크 방법을 소개합니다.

1단계: 전체 비밀 정보가 아닌 요청 계약(request contract)을 기록하세요

라이브 API 키를 티켓이나 공유 채팅에 붙여넣지 마세요. 대신 키의 존재 여부와 짧은 지문(fingerprint)을 기록하세요.

function keyFingerprint(value) {
  if (!value) return "missing";
  return `${value.slice(0, 4)}...${value.slice(-4)}`;
...

Dify의 경우, 제공업체 설정에서 Base URL, API Key 존재 여부, model name을 복사하세요. Cursor의 경우, OpenAI 호환 제공업체 설정을 복사하세요. Node.js의 경우, 시작 시 값을 출력하되 원본 키(raw key)는 절대 출력하지 마세요.

2단계: Node.js에서 작은 채팅 완성(chat completion) 하나를 재현하세요

도구가 사용하기로 되어 있는 것과 동일한 Base URL 및 model name을 사용하세요. 이 스크립트는 Dify나 Cursor를 탓하기 전에 Vector Engine이 모델을 라우팅(route)할 수 있는지 확인하는 데 도움이 됩니다.

const BASE_URL = process.env.VECTOR_ENGINE_BASE_URL;
const API_KEY = process.env.VECTOR_ENGINE_API_KEY;
const MODEL = process.env.VECTOR_ENGINE_MODEL;
...

동일한 제공업체 값으로 실행하세요:

VECTOR_ENGINE_BASE_URL="your-openai-compatible-base-url" \
VECTOR_ENGINE_API_KEY="your-tool-key" \
VECTOR_ENGINE_MODEL="your-model-name" \
...

Step 3: 도구 동작 비교

Dify, Cursor, 그리고 Node.js의 동작이 일치하지 않을 때는 작은 표를 사용하세요.

이러한 습관은 프로바이더(provider)에 대한 논의를 구체적으로 유지해 줍니다. Dify, Cursor, 또는 Vector Engine 중 누구의 책임인지 논쟁하는 대신, 세 가지 사실인 Base URL, API Key 범위, 그리고 모델 이름(model name)을 비교하게 됩니다.

Step 4: 리플레이(replay) 스크립트를 저장소(repo)에 보관하기

이 스크립트는 Node.js 서비스 옆에 보관하기에 충분히 작습니다. 모델 라우트(model route)가 변경된 후, 새로운 도구를 온보딩하기 전, 그리고 특정 도구에서만 model_not_found 에러가 나타날 때 사용하세요. 시간이 흐름에 따라, 이는 LLM API 프로바이더 (provider) 레이어를 위한 실질적인 지원 산출물이 됩니다.

등록 URL: https://api.vectorengine.cn/register?aff=Igym

Vector Engine을 의심하기 전에, Node.js로 Dify와 Cursor 요청을 재현(Replay)하는 방법

팀이 Dify, Cursor, 그리고 소규모 Node.js 서비스를 동일한 Vector Engine 계정에 연결했을 때, 단 한 번의 실패한 요청이 복잡한 플랫폼 문제로 오해받기 쉽습니다. 에러는 Dify에서 먼저 나타난 뒤 Cursor에서는 다르게 표현될 수 있으며, Node.js 서비스 로그에는 단지 하나의 HTTP 상태 코드만 남을 수 있습니다. OpenAI 호환(OpenAI-compatible) Vector Engine API 중계 서버의 관점에서 볼 때, 진짜 질문해야 할 것은 "어떤 도구가 고장 났는가"가 아니라 "각 도구가 실제로 어떤 요청을 보냈는가"입니다.

저는 보통 Vector Engine 중계 서버를 LLM API 프로바이더 (provider) 레이어로 간주하며, 계약(contract)을 충분히 명확하게 작성합니다:

• Base URL: 각 도구가 사용하는 엔드포인트 주소
• API Key: 특정 도구 또는 서비스에 할당된 키의 범위
• model name: Dify, Cursor, 그리고 Node.js에 설정된 정확한 모델 라우트 (model route)
• 요청 본문(request body) 형태: messages, tools, temperature 및 선택적 메타데이터
• 에러 귀속: model_not_found, 401, 404, 타임아웃(timeout) 및 할당량(quota) 관련 응답을 누가 처리하는가

다음 방법은 민감한 정보를 로그에서 제외하면서 동시에 요청 드리프트(request drift)를 빠르게 찾아내는 데 적합합니다.

단계 1: 전체 키를 기록하는 대신 요청 계약(request contract)을 기록하기

실제 API Key를 티켓이나 공유 채팅에 붙여넣지 마세요. 키의 존재 여부와 짧은 지문(fingerprint)만 기록하면 됩니다.

function keyFingerprint(value) {
  if (!value) return "missing";
  return `${value.slice(0, 4)}...${value.slice(-4)}`;
...

Dify에서는 프로바이더 (provider) 설정 내의 Base URL, API Key 존재 여부, model name을 기록하세요. Cursor에서는 OpenAI 호환 (OpenAI-compatible) 프로바이더 (provider) 설정을 기록하세요. Node.js에서는 시작 단계에서 이러한 값들을 출력할 수 있지만, 원본 키를 출력해서는 안 됩니다.

단계 2: Node.js로 소규모 chat completion 재현하기

도구에서 사용 중인 것과 동일한 Base URL 및 model name 세트를 사용하세요. 이 스크립트는 API 중계소(API proxy)가 모델을 정상적으로 라우팅할 수 있는지 확인하는 데 도움을 주며, 이를 통해 Dify 또는 Cursor의 설정을 조사할지 여부를 결정할 수 있습니다.

const BASE_URL = process.env.VECTOR_ENGINE_BASE_URL;
const API_KEY = process.env.VECTOR_ENGINE_API_KEY;
const MODEL = process.env.VECTOR_ENGINE_MODEL;
...

동일한 provider 파라미터 세트로 실행하세요:

VECTOR_ENGINE_BASE_URL="your-openai-compatible-base-url" \
VECTOR_ENGINE_API_KEY="your-tool-key" \
VECTOR_ENGINE_MODEL="your-model-name" \
...

단계 3: 도구별 성능 비교

Dify, Cursor, 그리고 Node.js의 결과가 일치하지 않을 때, 표를 사용하여 문제를 좁혀나갈 수 있습니다.

이러한 방식은 provider에 대한 논의를 구체적인 증거로 바꿀 수 있습니다. Dify, Cursor, 또는 Vector Engine 중 누구의 책임인지 논쟁하기보다 Base URL, API Key 범위, 그리고 model name이라는 세 가지 사실을 비교하는 것이 훨씬 효율적입니다.

단계 4: 재현 스크립트를 저장소에 남겨두기

이 스크립트는 매우 가볍기 때문에 Node.js 서비스 옆에 보관할 수 있습니다. 모델 라우팅이 변경되었을 때, 새로운 도구를 연동하기 전, 또는 특정 도구에서 단독으로 model_not_found 오류가 발생할 때 언제든 실행할 수 있습니다. 장기적으로 보면, 이는 Vector Engine 중계소 지원 프로세스에서 유용한 증거 자료가 될 것입니다.

등록 주소: https://api.vectorengine.cn/register?aff=Igym