OpenAI CEO, PC에 RAM을 갖는 것을 '꽤 끔찍하다'고 말하다 — Sam Altman은 데이터 센터가 더 나은 활용도를 제공한다고

OpenAI CEO인 Sam Altman은 메모리가 가득한 데이터 센터를 보유하고 있지만, 마치 문제가 되는 것은 데스크톱의 RAM 32GB인 것 같습니다. [the YouTube channel Cheeky Pint,]와의 맥주 대화 인터뷰에서 Altman은 로컬 추론(local inference)과 그 연장선상에서 사람들이 집 컴퓨터에 DRAM을 갖는 것이 “꽤 끔찍하다”고 말했습니다.

TH Premium으로 더 깊이 파헤치기: AI와 데이터 센터

Microsoft data center in Mount Pleasant, Wisconsin

(이미지 출처: Microsoft)

• 데이터 센터 냉각 현황
• 커스텀 AI ASIC 현황
• 미국의 AI 칩 규제가 계속 바뀌고 있으며, 나머지 세계가 대가를 치르고 있다
• GTC 2026: Ian Buck 기자 Q&A 전문 — 하이퍼스케일 및 HPC 부사장, CPX 폐기 및 LPU 올해 출하에 대해 발언
• 데이터 센터 CPU 수요가 급증했으며, 그 원인은 AI 에이전트이다

Altman은 오픈 소스 모델을 이용한 가정용 컴퓨터의 로컬 추론(local inference)에 대해 논하면서, 사람들이 자신이 이미 가지고 있거나 만들고자 하는 자신의 컴퓨터에서 로컬 AI를 실행할 수 있을 것이라는 가정을 언급했습니다. 그러면서 그는 이것이 왜 나쁜 생각인지 설명합니다 (29분 지점):

"글로벌 할당 관점에서 볼 때, 전 세계의 제한된 DRAM 공급품을 모두가 자기 컴퓨터에 가지고 있고 그중 5%만 사용하고 있는 것은 실제로 매우 끔찍한 일입니다." Altman은 말했습니다. "이처럼 공급 제약 환경을 다루려면 클라우드에서 최대 활용도를 원합니다. 그런데 많은 사람들의 직관은 정반대입니다."

OpenAI가 일부 오픈 소스 모델을 보유하고는 있지만, 회사의 주요 사업 영역은 데이터 센터에서 실행되는 클로즈드 소스(closed-source) 모델에 있습니다. 따라서 그는 사실상 회사의 비즈니스 모델을 옹호하고 있는 것입니다.

OpenAI가 당장 노트북이나 게이밍 장비 때문에 위협받는 것은 아니지만, 로컬 AI는 언젠가 사람들이 집에서 실행할 수 있는 능력을 갖게 되면 GPT-6 Luna 같은 모델의 구독료를 적게 지불하게 할 수도 있습니다. Altman의 발언은 회사가 가정용 컴퓨터보다는 OpenAI의 데이터 센터로 더 많은 DRAM이 향하는 것을 선호한다는 점을 시사하며, 이는 또한 사용자들이 자신의 하드웨어 또는 소프트웨어를 소유하지 못하고 대신 클라우드에서 에이전트와 컴퓨터를 임대해야 할 수도 있다는 열광적인 우려를 불러일으킵니다.

Altman이 말하는 내용 중 일부는 데이터 센터 구축이 둔화되지 않을 것이라는 생각에 기반합니다. 또한, AI 데이터 센터에서 24시간 내내 사용되는 DRAM이 스프레드시트 작업, 웹 브라우징, 게이밍, 그리고 어쩌면 가끔 로컬 AI를 사용하는 데 쓰이는 DRAM보다 더 가치 있다고 가정하고 있습니다.

나머지 광범위한 인터뷰에는 이번 주 PHP 취약점, 학습 시 모델의 샌드박싱(sandboxing), 그리고 OpenAI의 수학 연구에 대한 논의가 포함되어 있습니다.