Mind blown! DeepSeek의 놀라운 속도 1521 tok/s와 AI 경쟁 현황

원문 발행 2026. 10. 22. 22:56원문 언어 영어AI 한국어 번역X 홈 추천 피드 원문 보기

요약

Fireworks가 DeepSeek V4.1 Flash를 이용해 1521 tok/s라는 놀라운 속도로 작동하는 것을 보여주며 AI 추론 기술의 현황을 제시했습니다. 이 성능은 경쟁사 대비 압도적이며, 모델과 인퍼런스 기술이 오픈소스로 공개되어 최적화가 용이하다는 점이 핵심 동력으로 작용하고 있습니다.

핵심 포인트

DeepSeek V4.1 Flash가 1521 tok/s의 놀라운 속도를 기록하며 주목받음.
Fireworks는 가치 175억 달러 규모의 AI 추론 전문 회사임.
모델과 인퍼런스 기술이 오픈소스로 공개되어 성능 최적화 경쟁을 유발함.
고속 추론 능력 자체가 LLM 시장의 핵심적인 기술 경쟁력으로 부상하고 있음.

🚨 충격적입니다, 1521 tok/s. DeepSeek의 속도는 미쳤습니다.

미국은 이걸 어떻게 금지할 수 있나요? 누가 감당할 수 있을까요?!

Fireworks가 DeepSeek V4.1 Flash를 1521 tok/s로 구동하여, 단 11초 만에 테트리스 게임을 만들어냈습니다.

Altman과 Zuckerberg는 아마 우울증에 빠지고 있을 겁니다.

한편, OpenAI는 마치 치약을 짜내듯 겨우 30 tok/s 수준으로 힘겹게 움직이고 있습니다.

더 웃긴 것은, Zuckerberg가 이것을 보고 나니 더 기분이 안 좋을 것 같다는 점입니다.

Fireworks는 단순한 중계소가 아닙니다. 가치 175억 달러에 달하는 미국 AI 추론(inference) 회사입니다.

설립 팀원 7명 중 6명이 Meta 출신이며, CEO Lin Qiao는 이전에 Meta의 PyTorch 리드였습니다.

그들은 Meta에서 분사하여 시작했고, 그리고— DeepSeek을 이 무시무시한 속도로 끌어올렸습니다.

🚀 Liang Zi가 DeepInfer를 한 발로 오픈소스로 공개했고, 다른 한 발로는 이러한 극도의 성능이 보입니다. Fireworks가 DeepInfer를 사용했는지 증명할 수는 없지만, 그것이 가장 무서운 부분입니다.

모델은 오픈소스이고, 추론 기술(inference tech)도 오픈소스입니다. 전 세계 최고의 엔지니어들이 참여하여 최적화할 수 있습니다—속도가 더 빠르고 빠르게 바닥을 향한 경쟁(race to the bottom)입니다.

속도를 절대적인 한계까지 밀어붙이는 것? 그것 자체가 하나의 기술입니다. 🫡

AI 자동 생성 콘텐츠

원문 바로가기

Mind blown! DeepSeek의 놀라운 속도 1521 tok/s와 AI 경쟁 현황

요약

핵심 포인트

댓글