Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
Zeppelin은 IoT 환경에서 자원 제약적인 마이크로컨트롤러(MCU)를 위한 클라이언트 측 BFV 암호화 및 복호화 라이브러리입니다. 이 라이브러리는 ARM Helium 벡터 명령어 세트를 활용하여 수론 변환(NTT)을 가속하고, MCU급 하드웨어에서 완전한 암호화와 복호화를 모두 지원하는 최초의 솔루션입니다. 이를 통해 데이터 프라이버시를 유지하며 엣지 디바이스에서 안전하게 데이터를 처리할 수 있습니다.
본 논문은 LLM 서빙 시 발생하는 막대한 KV 캐시 메모리 문제를 해결하기 위해 Lachesis라는 계층을 제안합니다. Lachesis는 KV 캐시의 수명(temporal, structural, inter-worker)에 따라 데이터를 HBM과 고대역폭 플래시(HBF)에 지능적으로 배치하여, 특히 HBF의 쓰기 내구성 한계를 극복하는 것이 핵심입니다.
아이폰 18 Pro에 탑재될 A20 칩은 압도적인 온디바이스 AI 성능을 보여주며, 이전 모델 대비 답변 생성 속도가 두 배 이상 빨라졌습니다. 이 칩의 설계는 단순한 CPU 성능 향상을 넘어, GPU와 전용 뉴럴 엔진 등 여러 장치를 효율적으로 활용하여 복잡한 AI 계산을 처리하는 데 초점을 맞추고 있습니다.
IBM은 슈퍼컨덕팅 방식의 양자 컴퓨팅을 위해 15밀리켈빈까지 냉각할 수 있는 모듈식 극저온 냉각 서브시스템을 공개했습니다. 이 시스템은 미래 AI 데이터센터의 열 발생과 양자 상태 유지라는 공학적 과제를 해결하는 핵심 인프라입니다. 이를 통해 IBM은 2029년 최대 200개의 논리적 큐비트를 갖춘 내결함성 양자 시스템 Starling 출시를 목표합니다.
Hot Chips 2026 컨퍼런스에서 메모리 시장 현황이 논의되었으며, DRAM, HBM, 플래시 등 모든 스토리지 가격이 급등하고 있음이 강조되었습니다. 이러한 호황은 하이퍼스케일러와 클라우드 빌더들이 강력한 GenAI 모델 훈련 및 추론 작업을 위해 막대한 컴퓨팅 자원을 확보하려는 수요 충격에 기인합니다.
본 논문은 이종 SoC에서 AI 추론 워크로드를 효율적으로 배포하기 위한 설계 공간 탐색(DSE) 방법을 제안합니다. 기존의 블랙박스 최적화 방식의 한계를 극복하고자, 시스템 실행 트레이스를 활용하는 에이전트 기반 DSE 흐름인 TraceDSE를 개발했습니다. 이 방법은 LLM 제안자와 트레이스 분석 비평가 에이전트 간의 반복적인 상호작용을 통해 깊은 통찰력을 제공하며, 기존 최적화 기법 대비 월등한 성능과 효율성을 입증했습니다.
본 논문은 차량 네트워크의 사이버 보안 강화를 위해 이중 침입 탐지 시스템(IDS) 아키텍처를 제안합니다. 기존 IDS 모델이 가진 높은 자원 요구 사항 문제를 해결하기 위해, 저전력 및 낮은 지연 시간을 목표로 하는 경량화된 하드웨어/소프트웨어 공동 설계를 제시했습니다.
본 글은 Meta가 수십만 대의 프로덕션 호스트에 커스텀 멀티-호스트 NIC인 fbnic을 배포하고 운영하기 위해 구축한 인프라를 설명합니다. 기존 벤더 NIC의 격리 실패 문제를 해결하고자 물리적 격리를 도입했지만, 이를 위한 운영 부담이 과도했습니다. 이에 하드웨어-인-더-루프 CI 파이프라인과 통합 관측 가능성 시스템 등을 통해 안정성을 극대화한 경험을 공유합니다.
본 기사는 과거 컴퓨팅 I/O 버스 경쟁사였던 InfiniBand와 현재 AI 클러스터 네트워킹의 핵심인 Nvidia NVSwitch를 비교 분석합니다. 특히, 이더넷 컨소시엄이 낮은 지연 시간과 높은 대역폭을 가진 InfiniBand의 장점을 이더넷의 확장성 및 멀티테넌시 기능과 결합하여 AI 클러스터를 위한 차세대 네트워크를 구축하는 방향성을 제시하고 있습니다.
이 기사는 명령줄 도구 `apple-gpu-dvfs`를 사용하여 M1부터 M5까지의 Apple Silicon Mac GPU 주파수와 전력을 제어하는 방법을 안내합니다. 이 도구는 커널 확장이나 탈옥 없이도 원하는 와트(watt) 수준으로 전력 제한을 설정하고, 시스템 정보를 조회할 수 있게 합니다.
제공된 본문은 기술 기사라기보다는 '로봇/봇 아님'을 증명하는 보안 챌린지 페이지의 내용입니다. 따라서 특정 기술적 내용을 요약하거나 분석할 수 없습니다.
본 저장소는 Apple Silicon 칩과 주요 GPU 환경에서 MLX 연산 및 레이어의 성능을 벤치마킹합니다. 이 벤치마크는 `mlx` 연산을 측정하고, 이를 PyTorch의 `mps`, `cpu`, `cuda` 백엔드와 비교하여 상세/평균 실행 시간을 제공합니다.
Broadcom은 CEO Hock Tan의 실적 발표를 통해 맞춤형 AI 가속기(XPU) 및 네트워킹 ASIC 칩 시장이 2022년부터 2028년까지 $26억에서 $2,300억 규모로 급성장할 것이라 예측했습니다. 이는 Google, Anthropic, OpenAI 등 주요 고객사들의 대규모 AI 인프라 구축 계획에 기반하며, Broadcom의 반도체 제품 수요가 폭발적으로 증가하고 있음을 시사합니다.
본 글은 AI가 자체적으로 하드웨어 설계를 최적화하는 과정에 대한 논의와 함께, 현재 LLM 모델 발전 속도 대비 칩 설계 및 생산 주기가 길어 발생하는 산업적 난점들을 분석합니다. 특히 Etched 같은 스타트업 사례를 언급하며, 오래된 모델을 고속으로 구동하는 ASIC의 가치를 강조했습니다.
본 글은 Apple Neural Engine (ANE) 아키텍처를 역공학하여 분석한 내용입니다. ANE이 CNN 워크로드에 특화되어 설계되었으며, 데이터 흐름(dataflow) 관점에서 그 한계를 설명합니다. M5 칩에서 NPU가 GPU 내부에 통합되는 추세는 독립형 NPU의 종말을 의미하며, 이는 아키텍처적 변화를 시사합니다.
스타트업 d-Matrix는 Raptor 메모리 기반 XPU(액셀러레이터)를 개발하고 있으며, 이를 Nvidia의 AI 팩토리 오퍼링에 통합하는 파트너십을 체결했습니다. 이 XPU는 SRAM이나 3D-RAM 같은 메모리를 GPU/CPU와 결합하여 AI 추론 워크로드를 가속화하고 에너지 효율성을 높입니다. d-Matrix는 Raptor를 통해 Nvidia의 MGX 레퍼런스 아키텍처에 자사 기술을 빠르게 시장에 출시할 수 있게 되었습니다.
본 글은 현대 분석 워크로드(analytical workloads)에서 발생하는 '메모리 벽' 문제를 다룹니다. 기존 프로세서는 데이터를 선형적 1차원 배열로 취급하여, 컬럼 기반 데이터의 무작위 접근 시 캐시 일관성 유지에 과부하가 걸립니다. 이를 해결하기 위해 AMD Turin Epyc 9005 아키텍처를 예시로 들며, 하드웨어 레벨에서 데이터를 3차원 기하학적 구조로 보존하는 새로운 방식을 제안합니다.
AI 성능 논쟁보다 중요한 것은 AI를 어디서 실행하는지입니다. Frontier/1은 사용자가 선택한 국가에서 전용 NVIDIA 하드웨어로 오늘 AI 서비스를 출시하며, 모든 응답의 생성 모델과 기계를 증명할 수 있게 합니다.
유럽 국가 연구소들이 정부 자금으로 HPC와 GenAI를 결합한 차세대 슈퍼컴퓨팅 시스템을 구축하고 있습니다. 핀란드의 Lumi AI 슈퍼컴퓨터는 CPU 및 GPU 파티션을 포함하며, HPE의 'Rosetta' 인터커넥트와 AMD Epyc/Instinct 프로세서를 활용하여 높은 컴퓨팅 성능을 보여주었습니다.
IDC에 따르면 2분기 전 세계 서버 소비액이 전년 대비 52% 증가하며 컴퓨팅 시장의 폭발적인 성장을 보이고 있습니다. 특히 시스템 매출의 절반 이상이 GPU 가속 시스템에 사용되고 있으며, 이는 AI 인프라 수요 급증을 반영합니다. 다만, 구매 형태가 고가의 랙스케일 시스템 외에도 소규모 '팻 서버 노드' 형태로도 다양하게 이루어지고 있음을 지적합니다.