"AI의 진짜 주인공은 GPU가 아니라 메모리다."

AI 성능의 병목 현상이 GPU 연산이 아닌 메모리 데이터 전송 속도에 있음을 지적합니다. 향후 에이전틱 AI와 Embodied AI의 등장으로 메모리 수요가 폭발할 것이며, 칩 구조 또한 메모리가 중심이 되는 3D 적층 형태로 진화할 전망입니다.

리뷰어가 테스트한 노트북 실리콘 기반 'RTX 4080M' 데스크톱 그래픽 카드 — 약간 더 비싼 RX 9070 GRE보다 성능은 낮지만 게임

중국 시장에서 RTX 4090 판매 금지 이후 등장한 커스텀 개조 GPU인 'RTX 4080M'의 리뷰를 다룹니다. 모바일 코어를 데스크톱용으로 개조한 이 제품은 성능과 가격 대비 효율성 면에서 아쉬운 결과를 보였습니다.

Jim Keller의 스타트업이 소규모 반도체 팹(fab)을 대량 생산하기 위한 공장을 건설 중 — Atomic Semi가 'fab

Jim Keller가 설립한 Atomic Semi가 Fab2로 리브랜딩하며 소규모 반도체 팹과 도구를 대량 생산하는 공장 건설에 나섭니다. 이들은 소프트웨어 정의 팹을 통해 프로토타이핑과 소량 생산에 최적화된 환경을 제공하고자 합니다.

Lenovo ThinkPad X1 Carbon Gen 14 Aura Edition 리뷰: 이동성과 사용성의 마스터클래스

Lenovo의 플래그십 비즈니스 노트북인 ThinkPad X1 Carbon Gen 14 리뷰입니다. Intel Panther Lake 실리콘을 탑재하여 초경량 무게와 뛰어난 키보드, OLED 디스플레이를 갖춘 완성도 높은 제품입니다.

왜 우리는 이렇게 오랫동안 GPU에 갇혀 있는가?

GPU가 AI 워크로드의 표준으로 자리 잡은 이유를 기술적 한계가 아닌 경제적, 구조적 관점에서 분석합니다. 막대한 자본 장벽, CUDA 생태계의 성숙도, 그리고 모델 아키텍처 변화에 따른 리스크가 ASIC의 시장 진입을 가로막고 있습니다.

DARPA, 차세대 드론 전력을 위해 30년 지속 가능한 핵폐기물 배터리 계획 발표 — SYMPHONEE 프로젝트는 지속적인 군용 드론 구동을

DARPA의 'Rads to Watts' 프로그램의 일환으로, 핵폐기물을 활용해 최대 30년 동안 지속되는 차세대 방사성 전지(radiovoltaic) 개발 프로젝트인 SYMPHONEE가 발표되었습니다. Morgan State University를 중심으로 한 컨소시엄은 극한 환경에서도 작동하는 고출력 마이크로 전력 시스템 구축을 목표로 합니다.

AMD, Linux 7.3을 위한 그래픽 드라이버 변경 사항 준비 시작

AMD가 2026년 출시될 Linux 7.3 커널을 목표로 GPU 및 컴퓨트 드라이버 업데이트를 시작했습니다. RDNA3/RDNA4 하드웨어 지원 강화와 시스템 안정성을 위한 코드 하드닝 작업이 포함됩니다.

애플 위탁생산 파트너가 해킹당하면서 아이폰18의 비밀이 새어 나왔다. 인도 타타 일렉트로닉스에서 유출된 630GB 기밀문서를 뜯어보니 —

애플의 위탁생산 파트너인 타타 일렉트로닉스의 해킹으로 아이폰18의 기밀 정보가 유출되었습니다. 애플은 자체 모뎀 C2를 개발했으나, 미국의 28GHz 밀리미터웨이브(mmWave) 기술 구현 문제로 인해 미국판에는 퀄컴 모뎀을 탑재할 것으로 보입니다.

Blackwell에서의 동시성(Concurrency) 및 nvfp4 활용

NVIDIA Blackwell GPU 환경에서 vLLM을 활용해 Qwen3.6-35B-A3B-NVFP4 모델의 대량 이미지 캡셔닝 성능을 테스트한 결과입니다. 30개의 동시 스트림 실행 시 약 2000 TPS를 기록하며, MoE 모델의 효율적인 전문가 선택과 NVFP4 양자화의 성능 이점을 분석합니다.

회의 병목은 회의실 공기일지도 모름

CO2 모니터링 센서를 스마트폰이나 웨어러블 기기에 통합하여 실내 공기질 인지도를 높이는 방안과 그 기술적 한계를 다룹니다. 센서의 소형화 및 정확도 문제, 그리고 데이터 제공이 실제 행동 변화로 이어지기 위한 실질적인 해법의 중요성을 논합니다.

월 412달러의 AI 스택에서 벗어나기 위해 599달러짜리 Mac mini를 구매하는 사람들

고가의 AI 구독 서비스 대신 저렴한 Mac mini를 구매하여 로컬 환경을 구축하려는 움직임과, NVIDIA가 제공하는 무료 API를 통해 고성능 오픈 모델을 활용할 수 있는 현황을 설명합니다.

Nvidia에 도전하는 Etched(추론 전용 ASIC)와 Tenstorrent(범용 RISC-V): 신흥 2사의 사상 차이 정리

FEX 2607, 아직 출시되지 않은 ARM 256-bit SVE2 하드웨어 최적화

FEX 2607 릴리스는 미출시된 ARM 256-bit SVE2 하드웨어를 활용한 AVX 명령어 최적화와 JIT 컴파일러 개선을 포함합니다. 또한 NVIDIA 시스템을 위한 CUDA thunking 지원과 Unixlib 지원 구현을 통해 호환성을 강화했습니다.

DGX-Spark 및 과열 문제

여름철 DGX-Spark 사용 중 발생하는 과열 및 락업 문제를 해결하기 위해 nvidia-smi를 이용한 언더클러킹 방법을 소개합니다. GPU 클럭을 제한함으로써 온도를 85°C에서 60°C로 낮출 수 있습니다.

사람들이 실제로 운영 중인 몇 가지 실제 설정 간의 로컬 추론 속도 비교 (3090 vs 5090 vs dual 6000)

RTX 3090, 5090, Dual RTX 6000 등 다양한 하드웨어 구성에 따른 로컬 LLM 추론 속도를 비교 분석합니다. 각 GPU 설정별 토큰 생성 속도와 프롬프트 처리 성능을 통해 하드웨어 계층별 실질적인 성능 차이를 보여줍니다.

달러당 성능이 더 빠르고 저렴해지고 있음

AMD MI355X가 NVIDIA B300 대비 약 2.75배 저렴한 비용으로 강력한 추론 성능을 제공하며 대안으로 부상하고 있습니다. GLM-5.2 모델 테스트 결과 B200 성능의 80% 수준을 달성하며 성능 대비 비용 우위를 입증했습니다.

Jamesob의 최신 수준 LLM 로컬 실행 가이드

최신 LLM과 음성-텍스트 변환(STT)을 로컬에서 실행하기 위한 하드웨어 구성 가이드를 소개합니다. $2k 규모의 입문용 구성부터 $40k 규모의 고성능 워크스테이션 구성까지 예산별 하드웨어 사양과 PCIe 스위치를 활용한 최적화 방법을 다룹니다.

중국 YMTC SSD가 레노버 노트북에 탑재되어 출시 — 한 매체는 리뷰에서 YMTC PCIe 4.0 드라이브가 '사무용 노트북용 SSD로서는

레노버 노트북에 중국 YMTC의 PCIe 4.0 SSD가 탑재되어 미국 시장에 출시되었습니다. 이는 미국 상무부의 제재 명단에 오른 기업의 부품이 주요 OEM 제품에 포함된 이례적인 사례입니다.

신뢰할 수 있는 에지 인텔리전스를 위한 확률적 메모리

확률적 계산의 효율성을 높이기 위해 분포 파라미터와 샘플을 직접 저장하는 통합 메모리 프리미티브인 p-MEM을 제안합니다. p-MEM은 기존 방식 대비 높은 처리량과 낮은 지연 시간, 에너지 효율을 제공하여 신뢰할 수 있는 에지 인텔리전스 구현을 지원합니다.

Meta 데이터 센터의 박테리아가 시 수도 공급망을 오염시킨 후 데이터 센터 배수 중단 — 폐쇄 루프 (Closed-loop) 냉각 시스템

Meta의 협력업체가 데이터 센터 냉각 시스템 시운전 과정에서 박테리아를 배출하여 지역 수처리 시설을 오염시키는 사고가 발생했습니다. 이로 인해 해당 지역의 폐수 수취가 중단되었으며, AI 데이터 센터 확장에 따른 수자원 관리 및 냉각 기술의 중요성이 부각되고 있습니다.