공식 대리점 vs 릴레이 LLM 게이트웨이: 위험 요소 및 식별 방법
OpenAI와 호환되는 chat.completions 호출은 사용자가 퍼스트파티 API, 문서화된 멀티 모델 라우터, 또는 비공식 릴레이 중 어디와 통신하든 동일하게 보입니다. SDK는 여전히 문자열을 반환할 것입니다. 운영자, 개인정보 보호 정책, 로깅 방식, 그리고 무료 등급이 종료되는 방식은 모두 기본 URL 뒤에 있는 서비스에 속하며, 이들은 서로 다릅니다.
본 기사는 Free LLM API Tokens의 2026년 11월 12일 스냅샷에서 분류된 필드를 사용합니다. 저는 정책을 공개하지 않은 사이트에 대한 로깅 정책을 임의로 만들지 않을 것이며, 하루 토큰 수가 많다는 수치를 보안 통제로 간주하지도 않을 것입니다.
두 가지가 아닌 세 가지 종류의 서비스
**공식 제공업체(Official provider)**는 해당 트래커 데이터에서 모델 제작사 또는 클라우드 플랫폼이 자체 이름과 문서 하에 API를 제공하는 것을 의미합니다. 사용자는 해당 조직에 계정을 생성하고, 일반적으로 그 도메인의 기본 URL을 호출합니다. Groq, Google의 Gemini API, Cloudflare Workers AI, Mistral, SambaNova, Cerebras는 현재 목록에서 공식적인 예시입니다.
**게이트웨이(Gateway)**는 더 광범위한 개념입니다. 게이트웨이는 하나 이상의 모델 앞에 위치하며—때로는 자체 모델이고 때로는 다른 사람의 모델일 수 있습니다—단일 키와 단일 요청 형식을 제공합니다. 공식 제공업체와 게이트웨이 모두 OpenAI와 호환될 수 있으며, 무료 할당량을 가질 수도 있습니다. 이들은 같은 종류의 의존성이 아닙니다.
**릴레이 경고(Relay warning)**는 별도의 플래그입니다. 이는 비공식 재판매업체 또는 불분명한 운영자를 표시합니다. 모든 게이트웨이를 릴레이로 취급하지 말고, 모든 공식 행을 영구적인 무료 플랜으로 취급하지 마십시오. 12월 11일 스냅샷의 112개 제공업체 중 37개가 공식으로 분류되었고 75개가 게이트웨이로 분류되었으며, 47개에는 릴레이 경고가 붙었습니다.
비교 내용은 사이트의 official providers vs gateways 및 relay and gateway risks 가이드에서 더 자세히 다루고 있습니다.
코드가 동일하더라도 구분이 중요한 이유
공식 API의 경우 일반적으로 법적 주체, 상태 페이지 및 서면 데이터 정책을 찾을 수 있습니다. 하지만 여전히 그 정책을 읽어야 합니다. '공식'이라는 것이 '내 프롬프트로 학습하지 않는다' 또는 '무료로 유지된다'는 동의어는 아닙니다. 예를 들어, Gemini API 항목에는 무료 티어 프롬프트가 Google 제품 개선에 사용될 수 있다고 기록되어 있습니다. 공식 무료 크레딧도 만료됩니다. 동일한 스냅샷은 Hugging Face의 월별 무료 추론 크레딧이 종료되었으며, Fireworks AI의 가입 크레딧이 제거되었다는 사실을 기록하고 있습니다.
문서화된 게이트웨이의 경우 모델이 어디에서 실행되는지, 그리고 누가 프롬프트를 저장할 수 있는지까지 물어봐야 합니다. 목록에 있는 잘 알려진 예시가 OpenRouter입니다. 이 서비스는 게이트웨이(공식 아님)로 기록되어 있으며, OpenAI와 호환되고, https://openrouter.ai/api/v1이라는 문서화된 기본 URL을 가지고 있습니다. 공개된 무료 할당량은 :free 모델이며, 크레딧 구매 전까지 일일 50 요청 제한이 있고 카드 등록이 필요 없습니다. 참고 사항에는 무료 모델 제공업체가 프롬프트를 기록할 수 있다고 명시되어 있습니다. 이는 숨겨진 것이 아니라 문서화된 트레이드오프(trade-off)이며, 릴레이 플래그가 없더라도 :free 경로에 개인 데이터를 남기지 않아야 하는 이유입니다.
비공식 릴레이의 경우 아예 명확한 답변을 얻지 못할 수도 있습니다. 해당 사이트는 요청이 실제로 어디로 가는지 밝히지 않은 채 긴 모델 목록과 관대한 무료 할당량을 제시할 수 있습니다. 모델 이름은 예상했던 것과 다른 모델에 매핑될 수 있습니다. 무료 상한선이 사라질 수 있고, 도메인이 변경될 수 있습니다. 운영자가 불분명하면 청구 분쟁이나 남용 보고를 처리하기가 더 어려워집니다.
릴레이가 볼 수 있는 것
사용자의 프롬프트, 시스템 지침 및 첨부하는 모든 파일은 릴레이 운영자에게 노출되어 기록되거나 재사용될 수 있습니다. 운영자는 또한 해당 텍스트를 자체 로깅 정책을 가진 제3자 모델 호스팅 업체로 전송할 수도 있습니다. 만약 프롬프트 안에 고객 데이터, 비공개 소스 코드 또는 API 키를 붙여넣었다면, 이제 최소한 한 명의 추가 당사자와 공유하게 된 것입니다.
릴레이는 또한, 다른 제공업체의 대시보드에 키를 붙여넣으라고 요청받았을 때 사용자의 API 키를 수집할 수도 있습니다. 이는 사용자가 직접 소유한 키(bring your own key)를 사용하도록 하는 경우이며, 해당 서비스가 자체 엔드포인트용으로 발급한 키를 사용하는 것보다 위험도가 높습니다. 왜냐하면 사용자는 돈을 쓰거나 퍼스트파티 계정의 프로젝트에 접근할 수 있는 자격 증명(credential)을 그들에게 맡기는 것이기 때문입니다. 트래커는 절대 사용자에게 키를 요구해서는 안 됩니다. 만약 사이트가 그렇게 한다면, 멈추십시오.
공개 신호 읽는 방법
첫 번째 점검을 위해 사설 조사가 필요하지 않습니다. 다음 사항들을 확인하십시오:
- 운영 주체(operator)로 누가 명시되었는지, 그리고 회사 또는 법적 개체가 게시되어 있는지 여부
- 문서가 해당 조직의 도메인에 위치하는지 여부
- 해당 제품이 다른 API 앞에 라우터(router)로 설명되는지 여부
- 무료 경로를 포함하여 라우팅 및 로깅이 설명되었는지 여부
- 카드, 전화 인증 또는 체험 기간 만료일이 게시되었는지 여부
- 기본 URL이 잘 알려진 호스트의 오타 스쿼팅(typo-squatting) 유사 형태인지 여부
그런 다음 트래커의 배지들을 개별적인 추천으로 볼 것이 아니라, 한 세트로 읽으십시오. 공식 인증 또는 게이트웨이, 릴레이 경고 유무, OpenAI 호환성, 명시된 허용 범위, 그리고 카드가 필요한지 여부를 종합적으로 확인해야 합니다. 단 하나의 배지가 '안전하다'는 것을 의미하지 않습니다. 경고가 없다는 것이 인증을 의미하는 것은 아닙니다.
높은 일일 토큰 수량이 위험을 상쇄하지 못한다
게시된 한도(cap)는 사용량 지표일 뿐, 보안 통제 장치가 아닙니다. 12월 11일 스냅샷에서 가장 높은 일일 수치를 기록한 곳 중 일부는 릴레이 플래그가 지정된 게이트웨이였습니다. NaraRouter와 Flexlora 모두 게이트웨이로 기록되었으며, 둘 다 릴레이 경고를 받았습니다. APInex는 하루 3백만 토큰으로 기록되었으며, 이 역시 릴레이 플래그가 지정된 게이트웨이였습니다. 해당 행들은 광고되는 허용 범위를 비교할 때는 유용합니다. 하지만 개인 데이터에 대한 기본값으로는 부적절합니다.
반면에 공식 '카드 미필요(no-card)' 등급은 제시된 숫자들 옆에서는 작아 보일 수 있지만, 학습이나 비공개 프롬프트용 기본 옵션으로는 여전히 더 나을 수 있습니다. Groq가 같은 스냅샷에서 발표한 허용량은 카드 없이도 목록화된 모델에 대해 일일 200,000 토큰과 일일 1,000 요청이었습니다. "더 작은 광고 제한, 더 명확한 운영자"는 종종 올바른 절충안입니다.
카드 요구 사항은 두 범주 모두에 나타납니다. 카드가 필요한 공식 체험판은 더 작은 공개된 숫자를 가진 카드 미필요 공식 무료 등급보다 제약이 클 수 있습니다. 예를 들어, Cerebras는 카드를 요구하며 5달러짜리 30일 체험 기간 동안 하루 1,000,000 토큰을 발표합니다. 단순히 범주 배지뿐만 아니라 허용량 필드의 문장 전체를 비교하세요.
만약 카드 필드가 "미지정(Unspecified)" 또는 "게시되지 않음(Not published)"이라면, 이를 "카드 미필요"로 취급하지 마십시오.
플래그가 지정된 릴레이를 통해 절대 보내지 말아야 할 것
공개 포럼에 게시할 의향이 없는 것은 절대 보내지 마십시오. 특히 다음 사항들:
- API 키, 비밀번호, 쿠키 또는 다른 제공업체의 키를 포함한 개인 토큰
- 고객 기록, 건강 정보, 재정 또는 정부 식별자
- 기밀 소스 코드, 미출시 제품 계획 또는 내부 문서
- 타인의 개인 데이터
- 상위 공급자가 금지하는 콘텐츠
워크플로우에 이러한 입력값이 필요한 경우, 정책을 수락하는 공식 공급업체, 요구 사항과 일치하는 계약 또는 로컬에서 실행하는 모델을 사용하십시오.
게이트웨이를 여전히 테스트하고 싶다면
일회용 프롬프트와 해당 사이트에만 존재하는 키를 사용하십시오. 프로덕션(운영 환경) 키를 재사용하지 마십시오. 이용 약관 및 개인정보 보호정책을 읽기 전까지는 프로덕션 앱을 새로운 기본 URL로 지정하지 마십시오. 공식 문서에서 복사하거나 게시된 엔드포인트만을 반복하는 목록에서 HTTPS 기본 URL을 선호하십시오. 실험이 끝나면 키를 취소(revoke)하십시오.
호환성을 테스트하기 위해서는 첫 번째 "Hello World" 요청만으로 충분합니다. 이것이 메인 저장소(repository)를 해당 기본 URL로 지정할 이유는 되지 못합니다.
나중에 게이트웨이에서 공식 API로 마이그레이션하고, 둘 다 OpenAI와 호환된다 하더라도, 애플리케이션 코드는 유지하고 환경(environment)만 변경해야 합니다: key, base URL, 모델 ID. 기본 채팅 호출이 작동하더라도 스트리밍(streaming), 도구(tools), 그리고 JSON 출력을 테스트해야 합니다. 왜냐하면 이들이 다를 수 있기 때문입니다.
모든 경우에 적용되는 안전한 기본 원칙은 다음과 같습니다: 문서화되지 않은 경로는 공개된 것으로 간주하고, key는 환경 변수(environment variables)에 보관하며, 무료 티어(free tier)에 의존하기 전에 공식 페이지에서 약관을 확인해야 합니다.