Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
OpenAI가 추론 비용 절감을 위해 자체 개발한 첫 AI 칩 'Jalapeño'를 발표했습니다. Broadcom과 협력하여 설계된 이 칩은 전력 효율을 극대화하여 추론 비용을 약 50% 절감하는 것을 목표로 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @berryxia (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기OpenAI가 오늘 자체 개발한 첫 번째 AI 칩인 「Jalapeño」(할라피뇨 칩)를 공식 발표하자, 인터넷 전체가 "수직 통합(Vertical Integration)의 시대가 왔다"며 떠들썩합니다...
하지만 아무도 말하지 않는 진실이 있습니다. 이것은 승전보가 아니라, 추론(Inference) 비용에 몰려 막다른 길에 다다른 절박한 자구책이라는 점입니다.
추론(모델을 실행하여 사용자에게 답변하는 과정) 비용이 OpenAI의 이익을 폭발적으로 집어삼키고 있으며, 심지어 생존까지 위협하고 있습니다.
원인: ChatGPT는 매일 방대한 양의 사용자 질의를 처리해야 하며, NVIDIA GPU는 비싸고 구하기도 어렵습니다.
2025년 10월, OpenAI는 Broadcom과 협력하여 10기가와트(GW) 규모를 목표로 하는 맞춤형 AI 가속기 개발을 발표한 바 있습니다.
이제 Jalapeño가 등장했습니다. OpenAI가 처음부터 설계하고, Broadcom이 생산을 담당합니다.
결과: 만약 2026년 말까지 기가와트급 배포가 실현된다면 — 추론 비용을 약 50% 절감할 수 있을 것으로 기대되며(Broadcom CEO의 발언), 성능 대비 전력 효율(Performance-per-watt)은 현재의 최상급 가속기보다 크게 우수할 것입니다.
이를 통해 ChatGPT, API, 그리고 미래의 Agent 제품들을 더 빠르고 저렴하게 구동할 수 있게 됩니다.
OpenAI는 "모델 회사"에서 완전히 "풀스택 AI 인프라 기업"으로 변모하여 더 많은 사람에게 서비스를 제공하겠지만, 이는 대기업이 하부 연산 능력(Computing Power)에 대한 통제력을 더 깊게 갖게 됨을 의미하기도 합니다.
다른 사람들이 가장 간과하는 디테일(이것들이야말로 진짜 놀라운 지점들입니다):
✅ 말도 안 되는 개발 속도: 초기 설계부터 제조 테이프아웃(Tape-out)까지 단 9개월밖에 걸리지 않았습니다! 게다가 OpenAI 자신의 AI 모델을 사용하여 설계를 보조했습니다(AI가 스스로를 가속할 하드웨어를 설계하는, 그야말로 메타적인 상황입니다).
✅ 이 칩은 오직 추론(Inference)만을 타겟으로 하며, 학습(Training)용이 아닙니다. 학습 단계에서는 여전히 NVIDIA에 계속 의존할 가능성이 높습니다.
✅ 첫 번째 샘플 칩이 이미 도착하여 실측 테스트 중입니다.
초기 데이터에 따르면 "성능 대비 전력 효율이 현재 가장 앞선 수준보다 현저히 우수"합니다.
✅ Broadcom CEO는 직접적으로 "성능은 NVIDIA Blackwell + Google TPU에 필적하면서, 비용은 절반으로 줄일 수 있다"고 말했습니다.
✅ 이것은 단일 칩이 아니라, Broadcom의 네트워킹 기술을 포함한 OpenAI의 미래 다세대 컴퓨팅 플랫폼을 향한 첫걸음입니다.
✅ 이름은 「Jalapeño」입니다. 충분히 맵고, 점점 더 "spicy"해지는 이 AI 시대에 아주 잘 어울립니다.
이 칩의 등장은 사실 소리 없이 선언하고 있습니다: AI가 이미 스스로의 인프라 구축을 가속하기 위해 자신을 사용하기 시작했다는 것을 말이죠.
그리고 인류의 연산 능력에 대한 갈증은 점점 더 커질 뿐입니다.
당신은 어떻게 생각하시나요?
OpenAI의 영리한 자구책일까요, 아니면 AI 군비 경쟁의 또 다른 광기 어린 업그레이드일까요?