William Gibson의 Neuromancer 초반에서 주인공이 지하 시장에 RAM 3MB를 팔려고 하는데, 이게 책이 시대를 못 버틴 사례로 자주 인용됨
그런데 요즘 메모리 시장 방향을 보면… 어쩌면 우리가 아직 거기까지 못 간 것일지도 모름

초기 컴퓨터 과학자들은 정말 낙관적이었음. RAM 몇 KB와 CPU 몇 MHz만 있으면 인공지능, 의식, 기계학습, 언어, 음성 합성까지 뭐든 할 수 있다고 믿었음
지금은 웹 폼 하나에 RAM을 GB 단위로 쓰고 있음. Gibson이 사이버 공간의 의식 하나에 RAM 3MB면 충분하다고 본 건 매우 낙관적이지만, 당시 분위기에는 잘 맞음

컴퓨팅을 의식하고 보기 시작한 뒤로 가장 인상적인 발전은 메모리 용량이었다고 여러 번 생각했음. 네트워크나 USB도 큰 발전이지만, 컴퓨터를 같은 방식으로 “빠르게” 만들지는 않음
2000년에 Diablo II가 막 나왔을 때 450MHz Pentium III와 RAM 64MB가 들어간 컴퓨터를 빌려 쓸 수 있었는데, 당시 RAM 64MB는 중급 정도였고 당연한 사양이 아니었음. 기억으로는 Diablo II가 싱글플레이에는 64MB, 멀티플레이에는 128MB를 권장했음
지금 이 글을 쓰는 컴퓨터는 RAM 64GB라서 1024배임. 반면 CPU는 20코어 Intel에 최대 3GHz 정도인데, 각 코어가 동시에 최대 속도로 돈다고 가정해도 CPU 성능 증가는 133배 정도에 그침
NVMe 읽기 시간이 메모리 용량 증가만큼이나, 혹은 더 중요할 수도 있지만 PC 사양표에서는 메모리와 CPU만큼 전면에 드러나지 않음
하드디스크 용량 증가도 RAM만큼 인상적이긴 함. 2000년에는 대략 10~30GB였던 것 같은데, 지금은 10TB 디스크가 필요 없어서 쓰지 않고 1TB로 충분함. 그래서 개인적으로는 메모리만큼 체감이 크지 않음

초기 컴퓨팅 역사에서는 메모리 단위가 아직 확립되지 않았고, 하드웨어 구조마다 워드 크기도 달랐으며 꼭 8로 나누어떨어지지도 않았음
이런 기계들의 메모리 크기는 원래 워드 크기로 표현되곤 했음. 예를 들어 “이 기계는 코어 메모리 8킬로워드를 갖고 있다” 같은 식임. 그래서 오래된 소설에서 시대착오적인 메모리 용량을 보면, 그냥 내가 그들이 쓰는 워드 크기를 모르는 것이라고 생각함

극저온 플라스크에 보관된 “뜨거운” RAM 3MB라면 콜드 부트 공격에 가깝고, RAM을 파는 게 아니라 데이터를 파는 것임

그 이유로 작품이 시대에 뒤떨어졌다고 하는 건 꽤 트집 잡기임. Hamlet에는 휴대폰이 없지만 여전히 훌륭한 희곡이라고 봄
빠른 FaceTime 한 번이면 비극을 막았겠지만 말임

원 논문 링크는 https://aisystemcodesign.github.io/papers/isca26/vistara_cam...임
대충 훑어보면, 많은 DDR4를 PCIe 카드에 꽂아 스왑 공간처럼 쓰는 것과 비슷하게 생각할 수 있음. 실제로는 CXL 프로토콜 때문에 더 정교하지만, 절충점은 그렇게 이해하면 됨
빠른 주 DRAM과 지연 시간이 더 큰 확장 DRAM 사이에서 핫/콜드 페이지를 옮기기 위한 운영체제 수준 지원도 있는 듯함
DRAM은 수명이 꽤 길고 제조 과정에서 이미 상당한 내재 탄소 배출을 품고 있으며, 동시에 새 DRAM 공급 위기가 있다는 점은 매우 타당한 문제임

이런 걸 “Zuck” 덕분인 것처럼 쓰는 게 놀라움. 실제로 그가 이런 내용을 안다고 보기 어렵잖음

예전부터 “낡거나 남는 SIMM/DIMM, 한두 세대 전 메모리를 잔뜩 꽂아 스왑/느린 메모리/RAM 디스크로 쓰는 저렴한 PCI/PCI-X/PCIe 카드” 시장이 왜 크게 생기지 않았는지 궁금했음
메인보드 주소 공간을 최신 메모리로 꽉 채우는 경우는 드물고, 커널도 속도에 따라 어떤 메모리를 더 선호할지 가르칠 수 있으니 당연히 될 법해 보임
비슷한 일을 플래시로 하려던 시장은 특허 문제로 꺾였던 기억이 있는데 자세한 내용은 가물가물함. 그래도 플래시 캐시는 적어도 큰 업체들 쪽에서는 시장이 됐음. 여기서도 비슷한 일이 있었거나, 당시 내가 관심 있던 틈새에만 해당했을 수도 있음
[1] 이 분야 제품이 몇 개 있었다는 건 알지만, 크게 뜨지는 못했다는 인상임. 틀렸을 수도 있음
[2] NetBSD에서는 확실히 가능함. VMEbus 같은 아키텍처에서 직접 해봤는데, 작고 빠른 온보드 메모리와 버스 쪽의 더 느리지만 큰 메모리가 함께 있는 구성이 흔함. Linux도 NUMA 지원 작업 덕분에 이런 게 가능할 것 같지만 직접 살펴본 적은 없음

큰 시장이 없었던 이유는 새 메모리가 새 서버에서 오래된 메모리를 쓰는 비용, 위험, 제약에 비해 금지될 정도로 비싸지 않았기 때문임
지금은 상황이 달라져서 사람들이 이 아이디어를 다시 들여다보고 있음

정확히 같은 건 아니지만, 오래된 부품으로 NAS 박스를 만들고 있음. 남는 RAM 대부분이 노트북용 DDR4 SODIMM이라서 SODIMM → 데스크톱 DIMM 어댑터를 써봤는데 잘 안 됨
시스템이 5번 중 1번 정도만 부팅됐고, 메모리 속도 설정을 어떻게 바꿔도 안정화되지 않았음

구세대 DIMM은 그렇게까지 싸지 않고 공급도 제한적임. 새 칩 생산 능력을 확보하려고 구세대 제품은 생산에서 빠지기 때문임
DDR2는 이미 DDR3보다 비싼데, 더는 생산되지 않지만 오래된 하드웨어의 메모리 교체나 업그레이드 수요는 남아 있기 때문일 가능성이 큼

오늘날의 큰 차이는 CXL이 PCIe 위에 캐시 일관성을 더한다는 점으로 이해하고 있음. 틀릴 수도 있음
캐시 일관성이 없으면 그 메모리를 어떻게 쓸지 훨씬 조심해야 하고 성능 이야기도 복잡해짐. CXL 위의 RAM은 CPU 메모리 컨트롤러에 직접 붙은 RAM보다 성능은 떨어지겠지만, 큰 함정은 없을 것임

결국 필요가 발명의 어머니임. 지적 사고에서 가장 오래된 추상 개념 중 하나일 것 같음
자원 부족과 동기 부여 사이에는 촘촘한 고리가 있음. 최대 규모의 프런티어 모델이 RAM, SSD, GPU에 가하는 수요가 더 작은 LLM을 만들 직접적인 동기가 됨. 동물이 더 작고 먹이를 덜 쓰는 방향으로 진화 압력을 받는 것과 비슷함
이런 작은 모델들이 성공하더라도, 고품질 동영상 처리 정도를 제외하면 여전히 다른 어떤 애플리케이션보다 RAM, SSD, GPU를 많이 쓸 가능성이 큼. 작은 LLM과 고급 영상 처리는 필요 자원이 비슷해 보임
다만 자원이 시장 전체에 더 전통적인 방식으로 분산되면서 덜 미친 주기가 될 수 있음
그래서 제조사들이 겪는 RAM/SSD 가격 순환 위기, 즉 공급 제약과 새 생산 능력으로 인한 과잉 공급 사이에서 가격이 오르내리는 문제의 출구는 더 작은 LLM 연구에 자금을 대는 것처럼 보임. 어차피 거의 같은 양의 제품을 팔 것이고, 어쩌면 더 많이 팔 수도 있음

이런 식으로 RAM을 추가하는 건 주 시스템 RAM을 확장하는 것과 정확히 같지 않음. RAM이 PCIe 계열 링크로 연결되기 때문에 기본 RAM처럼 동작하지 않음
이런 구조는 엔지니어가 아키텍처에 맞춰 커스터마이즈하고 튜닝할 수 있는 서버 팜에 더 적합함
RAM을 저장 장치로 쓰는 카드들도 있었지만, 디스크처럼 설정해야 해서 활용처가 매우 제한적이었고 인기를 얻지 못했음

소비자용 시스템은 CPU로 돌아가는 대역폭이 많지 않아서 감각이 좀 다름
지금 DDR4 중고가를 보면 그냥 팔고 NVMe 드라이브를 사는 편이 나을 수도 있음

논문에는 이렇게 나옴: “우리 CXL 솔루션은 다양한 워크로드에서 큰 개선을 달성했으며, 분산형 ML 추론에서는 서버 수를 최대 25% 줄였다”
더 나쁜 RAM을 쓰는데 어떻게 같은 워크로드에서 서버 수 25% 감소가 가능한지 모르겠음

더 좋은 RAM을 대체하는 게 아니라, 추가로 쓰기 때문임

CXL은 기본적으로 PCIe 위에 “느린” RAM을 추가하는 것임. 대체가 아님

앞으로 몇 년간 소비자 전자제품 시장이 어떻게 될지 흥미로움. 회사들은 지금 RAM 부족 때문에 소비자들이 더 비싼 값을 낼 것이라고 베팅하고 있음
하지만 다른 모든 비용도 오르는 상황이라, 상당수 소비자는 당분간 새 기기를 사지 않을 것 같음. HN 기준이 아니라, 모두가 테크 업계 연봉을 받는 건 아니라는 점을 기억해야 함

나도 그쪽에 가까운 것 같음. 그냥 기술과 덜 상호작용하기로 선택하고 있음
모든 것이 점점 더 적대적으로 변해서 임계점에 도달했음

운영체제 제조사들은 오래된 하드웨어를 더 오래 지원해야 할 것임
Microsoft가 Win11용 새 하드웨어를 강제로 밀어붙이려다 보니 Win10도 이미 1년 더 연장됐음

좋네, 이제 중고 RAM 가격도 하늘로 치솟을 수 있겠음
PC 가격이 다시 자동차 한 대 값이 되면 좋겠음. 수익화 기회가 정말 많아질 테니까