Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Dev.toAI 번역헤드라인
회고: 현대 DRAM 장치의 데이터 유지 동작에 관한 실험적 연구: 유지 시간 프로파일링에 대한 시사점
현대 DRAM 장치의 데이터 유지(retention) 동작을 실험적으로 분석한 연구 결과입니다. 데이터 유지 시간 프로파일링이 시스템 설계에 미치는 시사점을 다룹니다.
6월 9일0
Dev.toAI 번역헤드라인
Strix Halo에서 1B 파라미터 모델을 처음부터 학습하며 배우는 LLM
AMD Strix Halo 기반 미니 PC에서 1B 파라미터 LLM을 처음부터 학습하는 과정을 다룹니다. 통합 메모리 활용과 Linux 환경 구축의 중요성을 강조하며, 자체 개발한 AI 학습 프레임워크 'onix'를 소개합니다.
6월 8일0
Dev.toAI 번역헤드라인
동일한 가중치, 동일한 프롬프트, 그러나 다른 분류 단계
동일한 4비트 양자화 모델과 프롬프트를 사용하더라도 GPU와 CPU 환경에서 추론 결과가 달라질 수 있음을 실험을 통해 보여줍니다. 의료 분류 시스템 Aegis-MD 구축 과정에서 발생한 하드웨어별 연산 차이와 그 메커니즘을 다룹니다.
6월 8일0
Dev.toAI 번역헤드라인
MLCC 부족 현상이 AI 서버 증설을 위협하다: 가격 상승 및 리드 타임 연장
AI 서버 수요 급증으로 인해 전압 안정화 부품인 MLCC의 수요가 2027년까지 5배 성장할 전망입니다. 이로 인해 리드 타임 연장과 가격 상승 등 공급망 병목 현상이 발생하며 AI 서버 구축에 차질을 줄 수 있습니다.
6월 7일0
Dev.toAI 번역헤드라인
AI 기반 하드웨어 프로토타이핑: Itera의 Fluid Circuit Board가 PCB 설계에 소프트웨어 수준의 반복 속도를 제공하다
Itera는 액체 금속 상호 연결 기술을 통해 PCB 설계의 반복 속도를 소프트웨어 수준으로 혁신하는 플랫폼을 선보였습니다. AI를 활용한 설계 분석, 테스트 최적화, 디지털 트윈 상관관계 분석을 통해 하드웨어 개발 비용과 시간을 획기적으로 단축합니다.
6월 7일0
Dev.toAI 번역헤드라인
120B 모델 노트북, 연방 AI 법안, 그리고 무료 전문가급 편집: 빌더를 위한 3가지 변화
Nvidia의 RTX Spark Superchip 공개로 로컬 환경에서의 120B 모델 실행 가능성이 열렸으며, 미국의 새로운 연방 AI 법안 초안과 DaVinci Resolve 21의 AI 편집 도구 출시 소식을 다룹니다.
6월 6일0
Dev.toAI 번역헤드라인
Cerebras, 웨이퍼 스케일 칩 냉각을 위한 기계적 플레이북 재설계
Cerebras가 웨이퍼 스케일 칩의 균열 문제를 해결하기 위한 세 가지 기계적 혁신 기술을 공개했습니다. 수직 전력 공급, 유연한 인터포저, 직접 충돌 수냉 기술을 통해 열적·기계적 응력을 관리합니다.
6월 5일1
Dev.toAI 번역헤드라인
2027년까지 액체 냉각(Liquid Cooling) 비중 50% 돌파? 랙 밀도로 인한 전환 가속화
AI 워크로드로 인한 랙 밀도 급증으로 2027년까지 하이퍼스케일 데이터 센터의 액체 냉각 도입률이 50%를 돌파할 전망입니다. 공랭식의 한계를 넘어서는 고밀도 컴퓨팅을 위해 액체 냉각이 필수적이지만, 높은 비용과 전문 지식 부족이 주요 과제로 남아 있습니다.
6월 5일1
Dev.toAI 번역헤드라인
Microsoft RTX Spark Dev Box: 로컬 개발 환경을 변화시킬 3,000달러 규모의 AI 머신
Microsoft와 NVIDIA가 AI 개발자를 위해 출시한 3,000달러 규모의 RTX Spark Dev Box를 소개합니다. NVIDIA Blackwell GPU와 128GB 통합 메모리를 탑재하여 Mac Studio와 경쟁하며, 로컬 환경에서의 대규모 모델 실행에 최적화되었습니다.
6월 5일0
Dev.toAI 번역헤드라인
Apple의 Private Cloud Compute는 단순한 프라이버시를 넘어선 새로운 인프라 계층입니다
Apple은 커스텀 실리콘 기반의 새로운 인프라 계층인 Private Cloud Compute(PCC)를 공개했습니다. PCC는 온디바이스와 클라우드 사이의 중간 지점에서 강력한 AI 성능을 제공하면서도, 상태 비저장 방식과 암호학적 설계를 통해 극도로 높은 프라이버시를 보장합니다.
6월 5일0
Dev.toAI 번역헤드라인
NVIDIA와 Apple은 하드웨어 문제를 해결했습니다. 이제 남은 과제는 무엇일까요?
NVIDIA와 Apple의 하드웨어 발전으로 온디바이스 AI를 위한 실리콘 계층은 준비를 마쳤습니다. 이제 과제는 준비된 하드웨어 위에서 유용한 AI 에이전트를 구동하기 위한 기술 스택의 격차를 메우는 것입니다.
6월 5일0
Dev.toAI 번역헤드라인
Nvidia RTX Spark — AI가 UX이자 온디바이스 탐색의 최전선이다
Nvidia가 Computex에서 발표한 RTX Spark는 128GB 통합 메모리를 탑재한 Arm 기반 소비자용 AI SoC입니다. 이 칩은 클라우드 연결 없이 로컬에서 LLM을 실행하여 새로운 사용자 경험(UX)을 제공하며, 다양한 OEM 기기에 탑재될 예정입니다.
6월 5일0
Dev.toAI 번역헤드라인
TPU가 토큰당 비용이 더 저렴함에도 불구하고 인기가 없는 이유
TPU와 Trainium이 GPU 대비 비용과 전력 효율 면에서 우수함에도 불구하고 NVIDIA가 시장을 점유하는 이유를 아키텍처 관점에서 분석합니다. 시스톨릭 어레이 기반의 정적 형태(static shapes) 제약이 실시간 추론 환경에서 발생하는 운영상의 어려움을 설명합니다.
6월 5일0
Dev.toAI 번역헤드라인
Multi-Rail RoCEv2를 활용한 AI 클러스터 네트워크 최적화
AI 클러스터의 성능을 극대화하기 위해 RoCEv2와 Multi-Rail 아키텍처를 활용한 네트워크 최적화 방법을 다룹니다. RDMA와 GPUDirect를 통해 커널 오버헤드를 제거하고, PFC를 사용하여 무손실 이더넷 환경을 구축하는 기술적 가이드를 제공합니다.
6월 5일0
Dev.toAI 번역헤드라인
AI 에지 디바이스 PCB 시장, 2033년까지 676억 달러 규모로 성장: 하드웨어 엔지니어가 알아야 할 사항
AI 에지 디바이스 PCB 시장이 2033년까지 676억 달러 규모로 급성장할 전망입니다. NPU 탑재 가속화에 따라 전력 공급, 고밀도 설계(HDI), 열 관리, 신호 무결성 측면에서 고도화된 PCB 설계 기술이 요구되고 있습니다.
6월 5일0
Dev.toAI 번역헤드라인
2026년 6월 PCB 산업 업데이트: AI 서버가 하이엔드 생산 능력을 집어삼키고 있다
AI 서버 수요 폭증으로 인해 하이엔드 PCB 생산 능력이 급격히 소모되며 공급망 병목 현상이 발생하고 있습니다. AI 서버용 PCB는 기존 서버 대비 가치가 22배 높고 층수가 훨씬 많아, 하이엔드 시장의 가동률은 100%에 육박하는 반면 로우엔드 시장은 공급 과잉 상태인 양극화 현상이 나타나고 있습니다.
6월 5일0
Dev.toAI 번역헤드라인
Google의 Virgo 네트워크, 134K개의 TPUv8t 칩을 47 Pbps로 상호 연결
Google이 대규모 모델 학습을 위해 설계된 Virgo 네트워크 아키텍처와 TPUv8t 칩을 공개했습니다. Virgo는 최대 134,400개의 TPUv8t를 47 Pbps의 압도적인 대역폭으로 연결하여 차세대 프런티어 모델 학습을 지원합니다.
6월 4일0
Dev.toAI 번역헤드라인
네트워크가 AI 컨트롤 플레인(Control Plane)이 되고 있다
AI 인프라의 핵심 병목이 GPU가 아닌 네트워크 컨트롤 플레인으로 이동하고 있습니다. 스케줄링 지능이 네트워크 패브릭 계층으로 재배치됨에 따라, 네트워크가 추론 라우팅 및 모델 배치와 같은 런타임 결정을 직접 수행하게 됩니다.
6월 4일0
Dev.toAI 번역헤드라인
8개의 GPU만으로 충분한 경우
대부분의 70B-200B 규모 모델 추론에는 4~8개의 GPU가 가장 경제적이고 효율적인 지점입니다. 클라우드 공유 인프라의 대역폭 저하 문제를 피하기 위해 전용 베어메탈 환경을 활용하는 전략을 제안합니다.
6월 4일0
Dev.toAI 번역헤드라인
Nvidia DGX Spark는 PC의 미래를 보여주지만, 일반인들에게는 아닐 수도 있습니다
Nvidia가 발표한 DGX Spark는 Grace Blackwell Superchip을 탑재한 초소형 개인용 AI 슈퍼컴퓨터입니다. 128GB 통합 메모리를 통해 대규모 언어 모델(LLM)을 로컬에서 실행할 수 있도록 설계되었으나, 높은 가격대로 인해 일반 사용자보다는 전문 개발자와 연구자에게 적합한 장비입니다.
6월 4일0