LocalLLaMA 커뮤니티 친구들에게: 로컬 LLM을 사랑한다면 IPO(SpaceX, OpenAI, Anthropic)에 참여하지 마세요

저는 참여하지 않을 것입니다. 여러분도 그러지 말아야 합니다. 프런티어 랩(Frontier labs)들이 우리 커뮤니티를 해치고 있는 주체들입니다. 그들은 하드웨어 가격을 끌어올리고 있습니다. 처음에는 NVIDIA GPU였습니다. 그다음은 RAM이었고, 그다음은 SSD였습니다. 그리고 이제 HDD 가격은 작년 대비 3배가 되었습니다. NAS 가격조차 천정부지로 치솟고 있습니다. 정말인가요? 그들에게 좋은 엑시트 전략(exit strategy)을 줄 기회를 제공하지 마세요. 왜냐고요? 프런티어 랩들이 기업 가치(valuation)를 부풀릴 다른 방법을 모르기 때문에 이런 일을 벌이고 있기 때문입니다. 그들은 로컬 오픈 웨이트 모델(open weight models)이 추격해 오고 있다는 것을 알고 있습니다. 그들은 하드웨어 비용이 정상적으로 유지된다면 사람들이 로컬 LLM 머신을 구축할 것이라는 점과, 그렇게 되면 그들이 말도 안 되는 NVIDIA 프리미엄이 반영된 '정가'의 API 비용을 청구할 수 없게 될 것이라는 점을 알고 있습니다. RTX Pro 6000은 작년에 7,000달러였는데, 여전히 터무니없습니다. 이제 동일한 GPU는 11,000달러입니다. 이제 VRAM이 절반인 RTX Pro 5000 48GB는 7,000달러입니다. 엔터프라이즈급에서의 NVIDIA 세금(Nvidia tax)은 시작조차 할 수 없을 정도입니다. 동일한 GPU, 동일한 포드(pod) 비용이 작년 대비 2~3배 더 비쌉니다. AMD요? NVIDIA 가격에 맞추기 위해 기다려보라는 식입니다. 이유는 수요 때문입니다. 그들이 인위적으로 만들어낸 수요 말입니다. Intel 데이터 센터 GPU요? 인공호흡기에 의존하고 있습니다. 이것이 정상인가요? 당연히 아닙니다. 그들이 더 나은 가격 책정을 위해 GPU 공급을 조절할 수 있다는 이론이 있었습니다. 하지만 또 다른 이론에 따르면, 이제 반대 방향에서도 작동할 수 있다고 합니다. 즉, 프런티어 랩에 투자하고 그들이 그 투자금으로 GPU를 구매하게 함으로써 수요를 통제할 가능성도 있다는 것입니다. 만약 여러분이 LocalLLaMA를 가치 있게 여긴다면, IPO에 어떤 돈도 투자하지 마세요. 어쨌든 기업 가치가 터무니없습니다. SpaceX는 자신들의 1.75조 달러가 AI에서 나온다고 주장합니다. 하지만 이 속도라면 그들은 그저 GPU 대여 회사일 뿐입니다. Anthropic이나 Google에 컴퓨팅 자원을 판매하는 것이죠. 그들 자신의 논리와 모순됩니다. OpenAI와 Anthropic은 기록적인 사용자 증가를 주장하지만, 수지타산을 맞추지도 못하고 있습니다. 순손실 상태입니다. 왜일까요? NVIDIA 가격 책정 때문에 컴퓨팅 비용이 너무 높기 때문입니다. 모든 AI 랩의 기업 가치는 NVIDIA의 기업 가치 위에 구축되어 있습니다. 그리고 많은 이들이 대안이 없다고 말합니다. 현재로서는 사실이지만, 가까운 미래에는 아닐 수도 있습니다.

여러분 중 일부는 제가 무엇을 말하고 있는지 알고 계실 것입니다. 만약 여러분이 이 커뮤니티를 사랑하고, 로컬 LLM (Local LLM)의 가치를 진심으로 믿는다면, 그 IPO (기업공개)에 현혹되지 마세요. AI는 우리 인간의 것이어야 합니다. 스스로를 개선하는 로봇의 것이 아니라, 기업의 것도 아닙니다. /u/siegevjorn 님이 r/LocalLLaMA 에 게시함 [link] [comments]