Insights

Kimi K3·Qwen 3.8과 Anthropic의 잠재적 균열

LLM 아키텍처의 변화 속도와 효율성을 중심으로 ASIC 하드웨어의 중요성과 SaaS 기업의 위기론을 분석합니다. 모델 성능이 상향 평준화됨에 따라 GPU를 넘어선 맞춤형 칩(ASIC)과 로컬 구동 환경이 미래 AI 생태계의 핵심이 될 것으로 전망합니다.

Linux에서 Intel GPU를 더 잘 지원하기 위한 Cold Reset Recovery 도입

Intel GPU의 하드웨어 오류를 해결하기 위해 Linux 커널에 Cold Reset Recovery 기능이 도입되었습니다. 시스템 전체 재부팅 없이도 전원 사이클을 통해 장치 상태를 초기화하고 복구할 수 있는 메커니즘을 제공합니다.

OpenAI가 자체 칩을 제작했습니다. 이것은 Nvidia에 타격일까요?

OpenAI와 Broadcom이 추론(Inference) 특화 ASIC인 Jalapeño 칩을 공개했습니다. 이 칩은 모델 학습이 아닌 답변 출력 작업의 효율성을 높이기 위한 것이며, Nvidia GPU에 대한 의존도를 일부 낮추려는 전략적 시도로 분석됩니다.

휴머노이드 로봇은 궁극적인 줄 전쟁(Joule Wars)의 전장이다

세상에나, 누군가 25GB RAM 노트북에서 7440억 파라미터 모델을 실행했습니다

Colibri라는 단일 C 파일 기반 엔진을 통해 25GB RAM 노트북에서 744B 파라미터의 GLM-5.2 MoE 모델을 실행하는 데 성공했습니다. MoE 구조의 특성을 활용해 토큰당 활성화되는 파라미터만 스트리밍하는 방식으로 대규모 모델의 로컬 추론 가능성을 증명했습니다.

Microsoft, Azure에 AMD Helios 랙 스케일 AI 대규모 배포 예정

Microsoft가 Azure 클라우드에 AMD의 Helios 랙 스케일 AI 가속기를 대규모로 배포할 예정입니다. Radeon Instinct MI455X GPU와 Epyc Venice CPU를 기반으로 하며, 이를 통해 Nvidia에 대한 의존도를 낮추고 공급망 다각화를 추진합니다.

B200급 장치들이 CUDA v13 최소 요구 사항을 충족하지 않는 드라이버에서도 cuda_v12 백엔드 (backend)를 사용할 수 있도록

B200급 장치 사용자를 위해 CUDA v12 프리셋에 연산 능력(compute capability) 10.0을 추가합니다. 이를 통해 CUDA v13 최소 요구 사항을 충족하지 않는 드라이버 환경에서도 cuda_v12 백엔드를 사용할 수 있습니다.

로컬 하드웨어에서의 Speculative Decoding: NVIDIA DGX Spark에서 N-Gram, MTP, EAGLE3, DFlash

NVIDIA DGX Spark 환경에서 Qwen3.5 모델을 대상으로 N-Gram, MTP, EAGLE3, DFlash 등 네 가지 추측적 디코딩(Speculative Decoding) 기법을 벤치마킹했습니다. LLM 추론의 메모리 대역폭 병목 현상을 해결하기 위한 최적화 방안과 각 기법의 성능 특성을 분석합니다.

Cerebras에서 GPT-5.6 Sol이 750 token/s를 기록했다고 주장

Cerebras 하드웨어에서 GPT-5.6 Sol이 750 token/s의 속도를 기록했다는 주장이 제기되었습니다. 하지만 해당 모델의 공식 출시나 구체적인 벤치마크 데이터는 확인되지 않은 상태입니다.

Intel, 현재 Xeon 6 / Xeon 6+ 서버를 위한 메모리 옵션 확대

Intel이 Xeon 6 및 Xeon 6+ 서버를 위한 메모리 옵션 확대를 발표했습니다. 2027년 초 2세대 MRDIMM 지원을 통해 대역폭을 높이고, 8월 중 BIOS 업데이트로 8000 MT/s RDIMM 지원을 활성화할 예정입니다.

MSI, CD182-S6091-X2 서버 및 랙을 통해 차세대 DLC AMD EPYC Venice 플랫폼을 은근히 공개

MSI가 Computex에서 차세대 AMD EPYC Venice 플랫폼을 지원하는 CD182-S6091-X2 (DLC) 서버 노드를 공개했습니다. 이 시스템은 고밀도 설계를 위해 직접 액체 냉각(DLC) 기술을 채택한 것이 특징입니다.

RTX GPU에서의 FlashAttention-3/4 최적화 탐구

RTX GPU 환경에서 FlashAttention-3/4의 최적화 기술 적용 가능성을 실험한 결과, 소비자용 GPU에서는 FA-2가 성능 한계치임을 확인했습니다. FA-3의 핵심인 WGMMA 명령어 부재와 RTX 5090의 텐서 코어 제한 특성으로 인해 최신 최적화 기법들이 유의미한 성능 향상을 이끌어내지 못했습니다.

ORRAM: 표준 셀을 활용한 OpenROAD 통합 RAM 생성기

OpenROAD 프로젝트의 일부로 개발된 ORRAM은 표준 셀을 활용하여 RAM 블록을 생성하는 통합 메모리 생성기입니다. PDK에 종속되지 않고 사용자 정의 비트셀 없이도 배치 및 라우팅이 완료된 RAM을 생성하여 ASIC 설계 흐름을 최적화합니다.

새로운 플러그인을 통해 Nvidia RTX 50 시리즈 GPU에서 세밀한 VRAM 온도 추적 가능 — 커뮤니티가 Blackwell의 금지된

Nvidia의 차세대 Blackwell 아키텍처 기반 RTX 50 시리즈 GPU에서 개별 VRAM 온도를 모니터링할 수 있는 방법이 발견되었습니다. 커뮤니티 사용자가 NVAPI를 활용해 Nvidia가 숨겨두었던 세밀한 열 센서 데이터에 접근하는 데 성공했습니다.

AI를 실행할 때 노트북이 뜨거워지는 이유: CPU와 GPU에 대한 제1원리적 고찰

AI 모델 실행 시 노트북의 발열과 성능 저하가 발생하는 이유를 CPU와 GPU의 물리적 설계 차이를 통해 분석합니다. CPU의 낮은 지연 시간 중심 설계와 GPU의 높은 처리량 중심 설계의 차이를 제1원리 관점에서 설명합니다.

대만 2위 칩 제조사 UMC, 싱가포르에서 양산 시작; Citi는 전망 개선 예상

대만 UMC가 싱가포르 시설에서 실리콘 포토닉스 웨이퍼 양산을 시작하며 AI 인프라 수요 대응에 나섰습니다. Citi는 UMC의 매출 성장과 수익성 개선을 전망하며 긍정적인 분석을 내놓았습니다.

전력 없이도 열을 제어하고 상태를 기억하는 프로그래밍 가능한 물질 개발 — AI 칩 냉각 및 실리콘 포토닉스에 기여할 수 있는 돌파구

오사카 시립 대학교 연구진이 전력 없이도 열 방출 위치를 제어하고 상태를 유지할 수 있는 프로그래밍 가능한 열 장치를 개발했습니다. 이 기술은 고성능 칩과 실리콘 포토닉스의 스마트한 열 관리에 기여할 수 있는 중요한 돌파구입니다.

Linux, Apple Silicon SoC의 복잡한 센서 문제 해결 중

Apple Silicon SoC의 복잡한 센서 데이터를 Linux 커널에서 정확히 보고하기 위한 하드웨어 모니터링(HWMON) 작업이 진행 중입니다. James Calligeros는 일관성 없는 SMC 펌웨어 키-값 시스템을 체계적으로 정리하기 위해 Devicetree 노드를 분리하는 패치 시리즈를 공개했습니다.

Intel, Xeon 6 플랫폼에 2세대 MRDIMM 및 더 빠른 DDR5 RDIMM 지원 추가 예정

Intel이 Xeon 6 플랫폼의 메모리 대역폭 확장을 위해 DDR5-8000 RDIMM 및 2세대 MRDIMM 지원 계획을 발표했습니다. 이는 AI 워크로드의 병목 현상을 해결하기 위해 기존 메모리 컨트롤러의 성능을 극대화하려는 전략입니다.

Razer Blade 16 (2026) 리뷰: 경쟁력 있는 게이밍 성능과 동급 최강의 배터리 지속 시간

Razer Blade 16 (2026) 모델은 Intel Core Ultra 9 386H와 RTX 5090 GPU를 탑재한 프리미엄 게이밍 노트북입니다. 세련된 디자인과 탁월한 빌드 품질을 유지하면서도, 전력 효율 개선을 통해 동급 최강의 배터리 지속 시간을 제공합니다.