2026년 6월 diffusiongemma 공동 호스팅 비용에 대한 대략적인 계산

저는 2026년에 diffusiongemma를 공동으로 호스팅하는 데 드는 비용을 다루는 글을 작성했습니다. 수치는 LLM을 "얼마나 많이" 사용하는지에 따라 달라집니다.

ChatGPT의 사용자당 사용 수준의 경우, 사용자당 하루 약 14k 토큰(tokens)을 사용하며, 이는 (매우 낙관적으로) 857명의 사용자를 유지할 수 있습니다. 이는 당연히 이 모든 것을 실제로 유지하기 위한 네트워킹/시스템 관리/적절한 시스템 비용을 고려하지 않은 것이지만, 이는 사용자당 월 약 1.7€(1474/857 users)에 해당합니다.

개발자를 위한 매우 낙관적인 워크로드인 사용자당 하루 100k 토큰의 경우, 120명이 동시에 사용할 수 있으며, 이는 사용자당 월 12.28€(1474/120)에 이릅니다.

사용자당 하루 100만 토큰의 경우, 12명이 동시에 실행할 수 있으며, 이는 사용자당 월 122.8€에 이릅니다.

저는 에이전트형 AI (agentic AI) 사용 수치가 공동 비용 측면에서 지속 불가능하다고 생각합니다. 당신이나 당신과 친구가 기계를 독점적으로 사용한다면 계산이 맞겠지만, 공동 호스팅을 위한 경제성은 성립하지 않습니다.

그럼에도 불구하고, 저는 새로운 GPU가 출시되고 향후 ASIC이 등장함에 따라 이 비용이 급격히 감소할 것으로 예상합니다. 또한 저는 새로운 기술 발전 속도가 매우 빠르기 때문에 GPU의 감가상각 기간을 1년으로 가정합니다. 하지만 GPU의 감가상각 기간을 3년으로 가정한다면, 이 또한 공동 개발 비용을 크게 낮춰줄 것입니다.