ngrok이 자체 AI 게이트웨이를 출시하다
요약
ngrok이 자체 AI 게이트웨이를 출시하여, 단일 URL로 OpenAI, Claude 등 다양한 모델에 접근할 수 있게 했습니다. 사용자는 코드 수정 없이 모델 이름만 변경하여 여러 LLM을 전환할 수 있으며, 기존 SDK를 그대로 활용할 수 있다는 장점이 있습니다.
핵심 포인트
- 단일 URL(https://ngrok.ai)로 OpenAI와 Claude 등 다양한 AI 모델에 접근 가능합니다.
- 코드 수정 없이 모델 이름만 변경하여 LLM을 쉽게 전환할 수 있습니다.
- 기존 OpenAI SDK를 그대로 사용하여 다른 모델에도 적용할 수 있습니다.
- Ollama 같은 로컬 환경의 모델 접근도 배포 과정 없이 지원합니다.
NGROK이 자체 AI 게이트웨이를 출시했습니다.
어떤 모델과든 대화할 수 있는 단 하나의 URL입니다.
여기에 코드를 건드리지 않고 GPT에서 Claude로 전환합니다....
모델 이름만 바꾸면 됩니다.
이것이 해결하는 문제점:
→ OpenAI? 계정, API 키, 결제, 자체 SDK가 필요합니다.
→ Claude? Anthropic을 사용하려면 모든 것을 반복해야 합니다.
→ 로컬 모델? 완전히 다른 영역입니다.
https://ngrok.ai를 사용하면 이 세 가지 모두에 동일한 URL을 사용할 수 있습니다.
그리고 모든 트래픽은 단일 대시보드에서 확인 가능합니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://gateway.ngrok.ai/v1",
apiKey: "TU_ACCESS_KEY",
});
gpt-5.6-sol을 claude-fable-5-1로 변경하기만 하면 됩니다.
이미 사용하던 OpenAI SDK를 그대로 사용할 수 있습니다.
그리고 다른 게이트웨이가 할 수 없는 것: 노트북에서 실행되는 모델에 접근할 수 있다는 것입니다.
Ollama 로컬 환경에서, 아무것도 배포하거나 포트를 열지 않고도 가능합니다. ngrok은 이 일을 10년 동안 해왔습니다.
5달러부터 크레딧을 제공합니다.
실패한 요청에는 비용이 청구되지 않습니다.
→
AI 자동 생성 콘텐츠
본 콘텐츠는 X @igus_ai (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기