Ant Group의 모델인 Ling 3.0 Flash를 이제 AI Gateway에서 사용할 수 있습니다.

이 모델은 8월 3일까지 향후 3주 동안 무료로 사용할 수 있습니다.

Ling 3.0 Flash는 총 124B(1,240억) 개의 파라미터를 가진 Mixture-of-Experts (MoE) 모델로, 토큰당 약 5.1B(51억) 개의 활성 파라미터를 사용합니다. 256K 토큰의 컨텍스트 윈도우 (Context Window)를 지원하며, 사고 모드 (Thinking mode)와 비사고 모드 (Non-thinking mode)로 동작합니다.

Ling 3.0 Flash는 프로덕션 규모에서 토큰 효율적인 에이전트 추론 (Agentic inference)을 위해 구축되었으며, 다단계 에이전트 실행 과정에서 더 엄격한 토큰, 지연 시간 (Latency), 비용 예산 내에서 더 많은 작업을 수행합니다. 이 모델은 고빈도 에이전트 워크플로우 (Agentic workflows), 코딩 에이전트 (Coding agents), 문서 작업, 그리고 긴 컨텍스트의 다회차 상호작용 (Long-context multi-turn interactions)을 목표로 합니다.

Ling 3.0 Flash를 사용하려면 AI SDK에서 모델을 :inclusionai/ling-3.0-flash-free로 설정하세요.

AI Gateway는 모델 호출, 사용량 및 비용 추적, 그리고 제공업체(Provider) 이상의 가동 시간을 보장하기 위한 재시도 (Retries), 장애 조치 (Failover), 성능 최적화 설정을 위한 통합 API를 제공합니다. 여기에는 맞춤형 보고 (Custom reporting), 데이터 보존 제로 (Zero Data Retention) 지원, API 키 예산 (Budgets for API keys), 라우팅 규칙 (Routing rules) 등이 내장되어 있습니다.

AI Gateway는 추가 마진 없이 제공업체의 가격을 반영하며, Bring Your Own Key (BYOK) 요청을 포함한 추론에 대해 플랫폼 수수료를 부과하지 않습니다.

모델 플레이그라운드 (Model playground)에서 Ling 3.0 Flash를 체험해 보세요.

더 읽어보기