사용 가능한 무료 LLM API 재점검: 살아있는 것은 무엇인가
요약
LLM API의 무료 등급 정보는 빠르게 구식이 되므로, 단순히 목록을 믿기보다 직접 모든 제공업체를 재점검하는 방법론이 중요합니다. 카탈로그 엔드포인트만으로는 생성 가능 여부를 알 수 없으며, 모델 ID 변경이나 계정 단위의 무료 티어 특성을 이해해야 합니다.
핵심 포인트
- API 정보는 스냅샷일 뿐, 주기적인 재확인이 필수입니다.
- 카탈로그 엔드포인트(metadata)와 실제 생성 호출은 다릅니다.
- 402 (크레딧 부족)와 429 (속도 제한) 코드를 정확히 이해해야 합니다.
- 1차 제공업체는 모델 ID에 ':free' 접미사를 사용하지 않습니다.
사용 가능한 모든 무료 LLM API를 다시 점검해봤습니다: 실제로 작동하는 것은 무엇일까
무료 등급의 목록(listicles)은 몇 주 만에 구식이 됩니다. 모델 ID는 단종되고, 할당량(quota)이 변경되며, 'Provider X가 무료'라고 알려준 기사는 1년 후에도 여전히 첫 페이지에 노출되어 있습니다.
그래서 제가 다른 사람들에게 계속 말하라고 했던 일을 했습니다. 목록을 믿지 않고 제가 키를 가지고 있는 모든 제공업체(provider)를 다시 점검했습니다. 2026년 10월 날짜로 돌아온 결과와, 여러분이 직접 재실행할 수 있도록 방법을 설명해 드립니다.
방법론이 목록보다 중요하다
우선 알아야 할 규칙이 있습니다. 모든 사람이 빠지는 함정입니다:
/v1/models에서200을 받는 것은 여러분의 키가 파싱된다는 것만 증명합니다. 생성(generation)에 대해서는 아무것도 증명하지 못합니다.
저는 60개 이상의 모델을 문제없이 나열하는 제공업체도 있고, 채팅 호출은 모두 429로 거부하는 제공업체도 있습니다. 카탈로그 엔드포인트(catalogue endpoint)는 메타데이터 엔드포인트일 뿐입니다.
1. 폐기된 모델 ID가 곧 폐기된 제공업체를 의미하는 것은 아니다. 나는 몇 달 전에 llama-3.3-70b-versatile이 404를 반환했기 때문에 Groq을 포기했다. 나는 그것을 사실로 반복해서 생각했다. 하지만 틀렸다: 엔드포인트(endpoint)는 계속 정상이었고, 모델 이름만 변경된 것이었다. 만약 본인 문서에 "X는 사장되었다"라는 메모가 있다면, 행동하기 전에 재확인해 보라—심지어 본인의 메모까지도 포함해서 말이다.
2. 계정 레벨의 무료 티어(free tiers)에는 :free 접미사가 없다. 애그리게이터(Aggregators)들은 자신들의 무료 모델 이름을 something:free와 같이 명명하여 감지하기 쉽게 만든다. 반면, 1차 제공업체(First-party)의 무료 티어—Groq, Cerebras, Gemini, NVIDIA, Mistral, Cloudflare—는 모델 이름으로가 아니라 계정 단위로 무료이며, 종종 가격 책정 정보 자체가 보고되지 않는다. if ":free" in model_id 형태의 필터는 이 모든 것을 조용히 무시한다(silently discards). 나는 이 필터를 몇 주 동안 실행했고, 내가 실제로 가지고 있던 용량의 아주 일부만 순위 매기기를 하고 있었다.
3. 402와 429는 이 분야에서 가장 오해하기 쉬운 두 가지 코드이다. 402는 계정에 크레딧이 없다는 의미다—키(key) 자체는 완벽하지만, 계정이 비어 있다는 뜻이다. 429는 키가 작동하며 현재 티어가 속도 제한(throttled)을 받고 있다는 의미다. 어느 쪽도 배선 문제(wiring problem)가 아니며, 새 키를 재발급받한다고 해서 해결되는 것도 아니다.
시간이 지나도 정확성을 유지하는 방법
날짜가 찍힌 표는 스냅샷일 뿐이며, 그 날짜 없이 인용되는 순간 거짓말이 된다. 그러므로:
- 기억에 의존하지 말고 일정 주기로 재확인하라(Probe on a schedule, not on memory). 내 것은 2시간마다 실행되어 라우트 맵을 다시 작성한다—비용은 들지 않고 모델도 호출하지 않는다.
- 날짜를 게시하라. "2026년 10월에 무료"라는 정보는 유용하다. 단순히 "무료"라는 것은 그렇지 않다.
- 부정적인 경우(negative)도 재확인하라. 무언가가 사라졌다고 보고하는 모니터는 부재(absence)를 보고하고 있으며, 부재란 바로 도구가 거짓말을 하는 지점이다. 나는 한때 완벽하게 작동하던 라우트가 떨어지는 것을 지켜보았는데, 폐기된 라우트는 그대로 남아 있었고—보고서는 제공업체 탓을 했다.
안전장치가 필요하다면
무료 티어는 때때로 한 번에 모두 소진될 수 있으며, 이는 버그가 아니라 정상적인 상태입니다. (rolling window)가 초기화되고 에이전트가 재개됩니다. 제가 하는 일은 체인(chain)의 맨 끝에 정확히 하나의 유료 단계를 배치하는 것입니다. 따라서 모든 무료 자원이 소진되었을 때만 작동하도록 하고, 에이전트 런타임과 API를 모두 포괄하는 단일 계정에 유지합니다. Nous Portal (200개 이상의 모델, 호스팅 도구, 월간 크레딧, 높은 호출 제한)을 사용하기로 결정했습니다.
직접 프로브(probe)를 실행해 보세요
위의 전체 설문조사는 키를 보유한 제공업체들을 순회하는 하나의 루프와 후보 목록을 구축하기 위한 /v1/models 가져오기 호출, 그리고 각 후보에 대한 max_tokens: 1 채팅 호출로 이루어져 있습니다. 그게 전부입니다 — SDK도, 프레임워크도, 비용도 들지 않습니다. 이 목록을 포함하여 어떤 목록이든 신뢰하기 전에 직접 해보세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기