Netlify AI Gateway를 이용한 모델 블라인드 테스트

최신 Netlify 커뮤니티 라이브 스트림 에피소드에서..._

Karthik Puvvada (커뮤니티 책임자)와 저는 (시니어 커뮤니티 매니저, 프로그램 담당)이 Netlify AI Gateway에 대해 깊이 파고들었습니다. 이 게이트웨어가 무엇인지, 어떤 모델들을 사용할 수 있는지, 그리고 일상적인 작업 흐름에서 어떻게 활용할 수 있는지 알아보았습니다. 저희는 "어떤 AI가 요리했을까?"라는 이름의 라이브 블라인드 테스트를 통해 AI Gateway를 직접 시험해 보았습니다.

현재 상황 (The Current Landscape)

새로운 모델들이 매주 출시되고 있으며, 저처럼 자신이 만들고자 하는 것에 가장 좋은 모델을 사용하고 싶은 개발자에게는 이 변화 속도를 따라잡는 것이 매우 어렵습니다. 기존의 앱과 솔루션을 끊임없이 개편하지 않으면서 어떻게 최고의 모델들을 사용할 수 있을까요?

"모든 새로운 모델에 대해 새로운 앱을 구축할 수는 없습니다." — KP

Netlify AI Gateway란 무엇인가요 (What is Netlify AI Gateway)

Netlify AI Gateway는 이 빠르게 변화하는 AI 환경에 대한 하나의 가능한 해결책입니다. 여러 개의 구독과 키를 관리하는 대신, AI Gateway는 만능 여행 어댑터처럼 작동하여 개발자들이 38개의 실험실(labs)에서 제공하는 220개 이상의 최신 프런티어 모델 및 오픈 모델에 연결할 수 있도록 합니다. 각 공급업체마다 계정을 열거나, 크레딧 잔액을 유지하거나, API 키를 복사할 필요가 없으며, 이 게이트웨이는 사용자의 프롬프트나 모델 출력을 저장하지 않습니다.

이 기능은 기본적으로 크레딧 기반 플랜(Free, Personal, Pro)에서 활성화됩니다. 일반 영어로 Agent Runners에게 요청하거나, 공식 Anthropic, OpenAI, Gemini, OpenRouter SDK를 통해 코드로 호출할 수 있습니다. (문서)

"마치 현재 위치에 따라 특정 국가에 연결하는 것을 처리해 주는 메타 어댑터가 있는 것을 상상해 보세요... AI Gateway는 그런 방식으로 생각하시면 됩니다." — KP

실용적인 활용 사례 (Practical Applications)

제가 깊이 파고들고 싶었던 한 가지 점은, 사용 가능한 모든 모델과 직접적으로 연관되고 싶지 않은 개발자들에게 AI Gateway가 얼마나 유용한가 하는 것이었습니다. 다양한 작업을 위해 서로 다른 모델을 호출할 수 있는 기능 덕분에, 여러 서비스를 관리하는 복잡성 없이도 AI Gateway를 유용하게 사용할 수 있습니다.

"저는 Netlify AI Gateway를 이용해 특정 작업에 대해 다양한 모델을 실제로 사용할 수 있어요." — Tania

KP는 커뮤니티 사용 사례들을 소개했습니다. 일상적인 Discord 스레드를 요약한 다이제스트로 변환하는 도구, 커뮤니티 챔피언들에게 사려 깊은 DM 초안 작성, 그리고 수백 개의 NPS 설문 응답에서 패턴을 걸러내는 작업이었습니다. 저는 제가 만든 사례 중 하나를 공유했습니다. 휴대폰으로 게시할 수 있는 개인 새우 키우기 블로그입니다. 이 사이트는 기본적인 작업을 위해 오픈 모델을 사용하고, 리뷰어 역할을 하는 프론티어 모델을 사용합니다.

어떤 AI가 이것을 만들었나?

AI Gateway의 작동 모습을 보여주기 위해, KP는 Agent Runners를 이용해 게임 쇼 웹사이트를 구축했습니다. 이 사이트는 4개에서 6개의 숨겨진 모델에 걸쳐 동일한 작업을 실행하고, 각 모델의 속도와 실제 달러 비용을 보여준 다음, 어떤 모델이 무엇이었는지 공개합니다. '놓친 것들' 다이제스트에서는 우리가 Claude가 확실하다고 생각했던 응답이 사실은 Mistral Large 3였으며, 비용은 훨씬 적었습니다. 채팅이 소셜 작업을 선택했을 때 Mistral이 또다시 승리했고, GPT-OSS 20B와 Qwen은 고객 성공 게시물에서 제 몫을 했으며, Claude Haiku 4.5는 딱딱한 기업 문장을 재작성하는 라운드에서 우승했습니다. 진행 도중에 에이전트 실행은 결과에 말 경주 애니메이션까지 추가했습니다.

스트림에서는 또한 속도 제한(rate limits)과 사용 중단된 모델(deprecated model)을 만났는데, 이는 여러 모델로 작업할 때 실제로는 어떤 모습일지 유용한 상기시켜주는 경험이었습니다.

결론

"이것은 이런 종류의 실험을 해봐야만 알 수 있죠?" — KP

"저는 AI를 사용해서 AI를 비교할 수 있어요." — Tania

AI Gateway 퀵스타트로 시작하고, 전체 에피소드 시청을 통해 말들의 경주를 확인해 보세요.