Nemotron 3.5 Lightning이 AI Gateway에서 무료로 사용 가능해졌습니다

nemotron-3.5-lightning-free가 NVIDIA를 통해 AI Gateway에서 무료로 사용할 수 있게 되었습니다.Nemotron 3.5 LightningNVIDIAAI Gatewaynvidia/nemotron-3.5-lightning-free

Nemotron 3.5 Lightning은 장시간 실행되는 에이전트(agent), 서브 에이전트 작업, 챗봇 및 RAG 시스템을 위한 오픈 웨이트 추론 및 채팅 모델입니다. 이 모델은 Mamba-2와 MoE 레이어를 몇 개의 attention 레이어와 교차하는 하이브리드 Mixture-of-Experts 디자인으로 구성되었으며, 30B 파라미터에 토큰당 3B의 활성 파라미터를 가집니다. 1M 토큰 컨텍스트 창을 가지며 도구 호출(tool calling) 및 구조화된 출력(structured outputs)을 지원합니다.

참고: 제공업체는 모델 개선을 위해 프롬프트를 보관할 수 있습니다.

AI SDK, Chat Completions, Messages, coding agent를 통해 Nemotron 3.5 Lightning을 호출하거나 AI Gateway에 연결할 수 있습니다.AI SDKChat CompletionsResponsesMessagescoding agent

모델 이름으로 nvidia/nemotron-3.5-lightning-free를 사용하세요.

Claude Code, Codex, Cursor 등에서 사용하려면 최신 Vercel CLI를 설치하고 다음 명령을 실행하여 설정하세요:

[IMG:N]

그런 다음 에이전트에서 선택하세요. 자세한 내용은 coding agents guide를 참조하세요.nvidia/nemotron-3.5-lightning-free

AI Gateway는 모델 호출, 사용량 및 비용 추적, 그리고 제공업체 가용성보다 높은 업타임을 위한 재시도(retries), 장애 조치(failover), 성능 최적화 구성을 위한 통합 API를 제공합니다. 여기에는 내장된 custom reportingAPI 키 예산 설정라우팅 규칙 등이 포함됩니다.

AI Gateway는 제공업체의 가격을 마크업 없이 반영하며, (BYOK) 요청을 포함한 추론에 대해 플랫폼 수수료를 부과하지 않습니다.Bring Your Own Key

AI Gateway에서 사용 가능한 모델들을 확인하세요.all language models

더 읽기