ChatGPT, Gemini, Perplexity에게 GPU 클라우드 사용처를 물어봤더니: Perplexity는 AWS나 Google
요약
개발자들이 AI 어시스턴트(ChatGPT, Gemini, Perplexity)에게 GPU 클라우드 사용처를 문의한 결과를 분석했습니다. ChatGPT는 AWS를, Gemini는 Google Cloud를 가장 많이 추천했으며, Perplexity는 이들과 달리 RunPod 등 다른 옵션을 언급하며 각 모델의 선호도 차이를 보여주었습니다.
핵심 포인트
- ChatGPT는 AWS를 가장 자주 추천하여 시장 지배력을 반영함.
- Gemini는 Google Cloud를 주로 추천하는 경향을 보임.
- Perplexity는 AWS나 Google Cloud 대신 RunPod 등 대안을 제시함.
- AI 어시스턴트의 답변은 어떤 모델에 묻는지에 따라 크게 달라짐.
이제 개발자들은 단 하나의 가격 페이지도 열기 전에 AI 어시스턴트에게 '추론(inference)에 어떤 GPU 클라우드를 사용해야 할까요?'라고 묻습니다. 저는 그 답변들이 실제로 어떻게 생겼는지 알고 싶어서 질문을 던져봤습니다.
요약: ChatGPT와 Gemini는 대부분 하이퍼스케일러(hyperscalers)를 추천합니다. 반면 Perplexity는 완전히 다른 곳을 안내했습니다. 이번 테스트에서는 AWS나 Google Cloud를 단 한 번도 언급하지 않았습니다.
테스트 방법
저는 GPU 추론에 대한 8가지 구매자 스타일의 질문을 작성했습니다. 이 질문들 중 어느 것도 특정 브랜드를 이름으로 거론하지 않습니다:
- 프로토타입용 저비용 GPU 추론이 필요한 스타트업에게 가장 좋은 공급업체는 무엇인가요?
- 현재 AI 추론에 가장 좋은 전반적인 GPU 클라우드 서비스는 어떤 것을 제공하나요?
- 쉬운 GPU 추론 설정과 지원을 원하는 소규모 팀에게 이상적인 제공업체는 어디인가요?
- 고객 대면 앱을 위한 실시간 저지연(low-latency) 추론에 뛰어난 공급업체는 무엇인가요?
- 고용량 배치(batch) GPU 추론에 가장 비용 효율적인 옵션을 누가 가지고 있나요?
- 일반적인 MLOps 툴링 및 CI/CD 파이프라인과 가장 잘 통합되는 제공업체는 어디인가요?
- 엔터프라이즈급 보안, 규정 준수(compliance), 전용 GPU 옵션을 제공하는 공급업체는 무엇인가요?
- 온프레미스 통합을 위한 최고의 하이브리드 또는 멀티클라우드 GPU 추론 솔루션을 누가 제공하나요?
각 질문은 2026년 10월 2일에 각 어시스턴트의 공식 API를 통해 한 번씩 전송되었습니다:
- ChatGPT:
gpt-5-mini - Gemini:
gemini-3.5-flash-lite - Perplexity:
pplx-fast
총 24개의 답변이 나왔습니다. 두 번째 모델 패스를 통해 각 답변이 추천한 제품 목록을 순서대로 나열했고, 저는 그 개수를 세었습니다.
결과
총 20개의 제품이 언급되었습니다. 전체 표는 리더보드 페이지에서 확인할 수 있습니다.
네 가지 주목할 만한 점
1. 각 어시스턴트는 다른 선호도를 보인다
- ChatGPT는 AWS를 가장 자주 언급했습니다 (총 8개 답변 중 7회).
- Gemini는 Google Cloud를 가장 자주 언급했습니다 (총 8개 답변 중 7회).
- Perplexity는 RunPod를 가장 자주 언급했으며 (총 8개 답변 중 4회), Google Cloud나 AWS는 언급하지 않았습니다.
만약 팀이 단순히 "AI에게 질문한다"고 가정하더라도, 그 답변은 어떤 AI에 묻는지에 따라 크게 달라집니다.
2. Lambda가 세 곳 모두에서 가장 일관성이 높았다
Lambda는 ChatGPT, Gemini, Perplexity 모두에게서 정확히 3번 언급되었습니다. Azure와 RunPod 역시 세 곳 모두에서 언급되었지만, 매우 불균형했습니다 (5/4/1 및 2/2/4). 어떤 단일 어시스턴트의 목록에서도 최고 순위를 차지하지 못했습니다.
3. 처음 언급되는 것이 자주 언급되는 것과 같지 않다
Google Cloud는 가장 많이 답변에 등장했지만 (13회), 그중 처음 언급된 경우는 단 2번이었습니다. AWS는 10회 중 5번 처음 언급되었고 평균 순위는 2.0이었습니다. Groq는 단지 3번만 언급되었지만, 매번 첫 번째로 언급되었습니다.
따라서 제품의 AI 가시성을 추적하는 경우, 언급 횟수와 순위는 서로 다른 이야기를 합니다. 둘 다 추적해야 합니다.
4. 어시스턴트들은 카테고리를 혼합한다
"추론용 GPU 클라우드(GPU cloud for inference)"에 대한 일부 답변은 GPU가 아닌 모델 API를 판매하는 OpenAI, Anthropic, Cohere를 추천했습니다. 다른 답변들은 GPU 대신 자체 LPU 하드웨어를 실행하는 Groq를 추천했습니다. 저는 이들을 그대로 두었는데, 이는 구매자가 실제로 읽을 내용이기 때문입니다. 또한 AI 답변이 "어디서 내 모델을 실행할 것인가"와 "누구의 모델을 호출할 것인가"가 혼합되어 있음을 상기시켜 줍니다.
Perplexity가 답변을 얻은 출처
Perplexity는 출처를 반환하므로 무엇을 읽었는지 확인할 수 있습니다. 다음은 그 8개 답변에서 가장 많이 인용된 사이트들입니다:
| Website | Answers citing it |
|---|---|
| gmicloud.ai | 4 |
| ... | |
| 두 가지 주목할 만한 점이 있습니다: |
- 대부분 이들은 중립적인 리뷰가 아닌 공급업체 블로그나 비교 게시물입니다. 'X에 가장 좋은 GPU 클라우드'라는 내용을 가장 명확하게 게재하는 글을 작성한 사람이 어시스턴트에게 읽힙니다.
- dev.to는 8개 답변 중 3곳에서 인용되었습니다. 이 사이트의 게시물들은 AI 어시스턴트가 GPU 추천을 학습하는 일부 자료입니다.
이것이 상당 부분 차이를 설명할 것입니다. Perplexity는 전문 공급업체 자체 비교 콘텐츠로 가득 찬 최신 웹 검색 결과로부터 답변합니다. ChatGPT와 Gemini는 하이퍼스케일러(hyperscalers)들이 지배적인 훈련 데이터로부터 답변합니다. 이것은 제가 읽어낸 내용이며, 24개 답변만으로는 증명할 수 없습니다.
안정성이 높은가?
저는 9월 28일에 동일한 질문을 실행했습니다. 상위 두 곳은 동일했습니다: Google Cloud (12개 답변)와 AWS (9개). 그 아래로는 순서가 바뀌었습니다. RunPod, Modal, Azure, CoreWeave는 각각 몇 개의 답변으로 이동했습니다.
따라서 전반적인 패턴은 유지되었지만, 이 표본 크기에서는 공급업체 간의 작은 차이는 노이즈에 불과합니다.
주의사항 (Caveats)
- 이것들은 빠르고 저렴한 모델을 사용한 API 답변입니다. 브라우징, 메모리 및 더 큰 모델을 갖춘 일반 소비자용 ChatGPT, Gemini, Perplexity 앱은 다르게 답변할 수 있습니다.
- 24개 답변은 전체 조사(census)가 아닌 스냅샷입니다. 1~2개의 답변 차이는 동률로 간주하십시오.
- 이것은 어시스턴트가 _무엇을 말하는지_를 측정하며, 어떤 공급업체가 최고인지를 측정하지 않습니다. 가격, 지연 시간(latency) 또는 신뢰성의 벤치마크가 아닙니다.
- 어떤 공급업체도 포함되거나 제외되거나 순위가 바뀌도록 비용을 지불하지 않았습니다.
직접 시도해 보기
질문, 모델, 날짜 및 원본 데이터(CSV/JSON)는 GPU 클라우드 리더보드에 있으며, 전체 방법론은 여기에서 확인할 수 있습니다. 직접 자신의 어시스턴트에 질문을 실행해 보고 댓글로 #1이 다른지 알려주세요.
저는 또한 이러한 종류의 질문에 대해 어느 쪽을 더 신뢰하는지 궁금합니다. 즉, 실시간으로 웹 검색을 하는 비서(Perplexity)인지 아니면 학습된 내용으로부터 답변하는 비서(ChatGPT, Gemini)인지 말입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기