제가 이런 말을 하게 될 줄은 믿기지 않지만, OpenAI가 실제로 모델을 오픈 소스 (Open-source)로 공개했습니다. 수년간 모든 것을 API 장벽 뒤에 숨겨왔던 그들이, 지난 8월 Apache 2.0 라이선스로 GPT-OSS-120B를 우리에게 던져주었습니다. 생각해보면 정말 놀라운 일입니다.

문제는 이것이 그들이 대충 던져준 장난감 모델이 아니라는 점입니다. 이 모델은 그들 자신의 추론 모델 (Reasoning model)인 o4-mini와 유사한 벤치마크 성능을 보여줍니다. 입력 비용은 100만 토큰당 약 0.8위안 정도인데, 이는 그들의 API를 통해 동일한 성능을 얻기 위해 지불해야 하는 비용과 비교하면 매우 저렴합니다. 로컬 (Locally)에서 실행할 수 있고, 미세 조정 (Fine-tune)할 수 있으며, 제품에 바로 적용할 수 있습니다. 상업적 이용도 포함됩니다.

하지만 여기서부터 흥미로운 지점이 발생합니다. 120B 파라미터 (Parameter) 모델을 로컬에서 실행하는 것은 대부분의 사람들이 노트북으로 그냥 할 수 있는 일이 아닙니다. 강력한 GPU 하드웨어가 필요하며, 아마도 8x H100 또는 그와 유사한 수준의 장비가 필요할 것입니다. 추론 (Inference) 성능은 o4-mini와 비슷하지만, 실제로 직접 호스팅하려면 상당한 인프라 (Infra) 투자가 필요합니다.

저는 아직 동일한 워크로드 (Workload)를 OpenAI API를 통해 실행하는 것과 직접 비교하여 벤치마크를 수행하지는 않았습니다. 제 직감으로는 대부분의 팀에게는 셀프 호스팅 (Self-hosting)의 운영 오버헤드 (Operational overhead)를 고려할 때 API 경로가 여전히 재정적으로 더 합리적일 수 있습니다. 하지만 이제 선택지가 생겼으며, 이는 생태계 (Ecosystem)에 있어 의미 있는 변화입니다.

주목할 만한 점은 타이밍입니다. 그들은 3,000억 달러의 기업 가치로 80억 달러 규모의 자금 조달 라운드를 발표함과 동시에 이를 발표했습니다. 이는 홍보 (PR) 전략과 진정한 전략적 움직임이 혼합된 것으로, 가중치 (Weights)를 공개함으로써 설령 다른 누군가가 결국 그들의 폐쇄형 제품과 대등한 수준에 도달하더라도 생태계 락인 (Lock-in)을 형성할 수 있다고 베팅하는 것입니다.

하지만 오픈 소스 LLM 공간은 점점 더 혼잡해지고 있습니다. Meta의 LLaMA가 이미 자리를 잡고 있었고, Mistral이 지속적으로 출시를 밀어붙이고 있었으며, 이제 이것까지 등장했습니다. 실무자들에게 있어 우리가 겪고 있는 이 상황은 '기분 좋은 골칫거리'입니다. 더 많은 선택지, 더 경쟁력 있는 가격, 더 많은 셀프 호스팅 능력을 의미하기 때문입니다. 저는 그들이 일부 기업들처럼 모델을 던져두고 떠나버리는 대신, 계속해서 반복 개선 (Iterating)해 나가기를 바랄 뿐입니다.

만약 여러분이 실험해 볼 수 있는 진정한 OpenAI 지원 오픈 웨이트 (Open weights) 모델을 기다려 오셨다면, 이는 진심으로 계속해서 지켜볼 가치가 있습니다.