Helicone 대 nRouter 비교: LLM 지출 통제는 실제로 어디서 작동하는가

LLM 인프라를 평가할 때, 기능 매트릭스보다 더 중요한 질문 하나가 있습니다. 바로 지출 통제가 어디에서 실행되는가입니다. 요청 경로(request path)에서 호출을 거부할 수 있는지, 아니면 그 외부(off it)에서 발생한 것을 기록할 수만 있는지를 말이죠?

Helicone과 nRouter는 이 선의 정반대에 위치합니다. 본 기사에서는 프로덕션에 중요한 메커니즘들, 즉 강제 적용 위치(enforcement position), 플랜 기반 거버넌스(plan-gated governance), 보존(retention), BYOK, 그리고 비용 구조를 비교합니다. 아래 모든 가격 정보는 벤더가 공개한 페이지 기준이며 (Helicone은 2026-08-23 확인됨)입니다.

Helicone은 요청 경로 프록시와 비동기 로깅 SDK(async logging SDK)를 제공합니다. 여기서 비동기 경로는 이해하는 것이 중요합니다. 이는 호출이 발생한 후 기록하기 때문입니다. 구조적으로, 요청 경로 밖에 있는 것은 요청을 거부할 수 없습니다. 만약 원하는 가드레일(guardrail)이 사용하지 않는 경로에 있다면, 어떤 플랜 업그레이드도 물리적 변화를 가져오지 못합니다.

nRouter는 인라인 게이트웨이(inline gateway)입니다. 모든 요청이 이 게이트웨이를 통과합니다. 사전 검사(preflight checks)(가드레일, 예산 강제 적용 등)가 제공자 호출 전에 실행되므로, 예산이 소진되면 토큰 청구 전에 402/429 응답을 반환하고, 차단된 가드레일 요청은 크레딧 비용이 들지 않습니다.

from openai import OpenAI
# nRouter: OpenAI-compatible endpoint, one key
client = OpenAI(
...

Helicone의 프록시에서 nRouter로 마이그레이션하는 것은 baseURL을 변경하고 제공자 키(provider key)와 Helicone-Auth 헤더를 단일 nRouter 키로 대체하는 것입니다.

Helicone이 공개한 가격 정책에 따르면, 가드레일, 사용자 지정 속도 제한(custom rate limits), 평가/점수(evals/scores), 프롬프트 관리(prompt management), 세션(sessions), 알림(alerts) 등은 모두 Pro 플랜($79/월)부터 시작합니다. SOC-2와 HIPAA는 Team 플랜($799/월)부터 시작합니다. Helicone은 이러한 기능을 제공하며, 차이점은 어떤 플랜에 속해 있느냐입니다. 무언가를 관찰하는 것 이상으로 차단해야 할 필요가 생기는 순간, 해답은 플랜 변경입니다.

nRouter는 모든 플랜에 가드레일과 계층적 예산(organization → team → user → key; 일별/주별/월별/평생; 차단/경고/스로틀)을 적용합니다. 상업적인 레버리지는 크레딧에 대한 단일 4% 플랫폼 수수료입니다. 진입 장벽은 $5 최소 크레딧 구매이며, 카드가 필요하고 무료 등급(free tier)이 없습니다.

• 로그 보존 (Retention): Helicone Pro는 로그를 30일 동안 보관하고; Team은 90일, Enterprise는 무제한으로 보관합니다. nRouter는 세션 추적(session traces) 대신 기록된 지출 내역(ledgered spend history)을 유지하여 비용 관련 질문에는 좋지만 디버깅에는 부족합니다. 내보내기 계획: Helicone의 API는 분당 60회 호출이 가능합니다. -
  BYOK (Bring-Your-Own-Key): Helicone은 자체 키를 가져오는 것(bring-your-own-key, 사용자가 직접 제공하는 공급자 청구서 — 크레딧 및 협상된 요율이 그대로 유지됨)을 지원하며 0% 마크업 크레딧 경로를 제공합니다. nRouter는 BYOK가 불가능합니다: 관리되는 단일 키를 사용하며, nRouter가 상위 공급자의 자격 증명(upstream credentials)을 보유합니다. 공급자가 부여한 크레딧과 협상된 요율은 nRouter를 통해 사용할 수 없습니다. 이는 아키텍처상의 위치이며, 좁혀질 격차가 아닙니다.

Helicone Pro: 월 $79. nRouter: 토큰 마크업 0% + 크레딧에 대한 고정 4% 플랫폼 수수료 (참고: nRouter 자체 페이지에서는 수수료를 일관성 없이 설명하므로, 현재 요금 페이지에서 사용 중인 플랜을 확인하세요). 실제로 호출하는 모델의 백만 토큰당 총비용을 비교하세요.

트레이드오프(trade-offs)에 대해 솔직해지세요. 다음 기능이 필요하다면 Helicone을 사용하세요: 세션 재생(session replay), HQL 추적 쿼리(HQL trace querying), 데이터셋, 공급자 크레딧/협상된 요율을 위한 BYOK, Google 모델(nRouter는 제공하지 않음), 또는 오늘날 인증된 SOC-2/HIPAA (nRouter의 SOC 2 Type II는 진행 중입니다). 만약 다음 세 가지 요구 사항이 가드레일(guardrails), 평가(evals), 그리고 모든 플랜에 걸친 팀별 예산이라면, 인라인 게이트웨이가 우세합니다.

공급자 자체 발표된 가격 및 문서에 근거한 완전 출처 비교: nRouter 대 Helicone 비교