Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
AMD가 Nvidia에 대응하기 위해 차세대 AI 데이터 센터 하드웨어인 Helios 랙 시스템과 MI450 GPU를 출시했습니다. Anthropic 및 Microsoft와의 파트너십을 통해 AI 학습 및 추론을 위한 통합 플랫폼을 구축하고 시장 점유율 확대를 노리고 있습니다.
Arctic의 최신 데스크 언더 PC인 Senza AI 370은 AMD Ryzen AI 9 HX 370 프로세서를 탑재한 팬리스 디자인의 미니 PC입니다. 수동 냉각 라디에이터 구조를 통해 무소음 작동을 구현하며 뛰어난 빌드 품질을 제공합니다.
AMD가 새로운 모델 지원과 최적화가 포함된 Ryzen AI Software 1.8을 출시했습니다. LLM, TTS, 임베딩, 번역 모델 지원이 확대되었으며, 저메모리 시스템에서의 대형 모델 실행 성능이 개선되었습니다.
중고 GPU 클러스터 시장의 불확실성과 자산 가치 하락 위험을 분석합니다. 기술 발전 속도와 전력 효율성, 그리고 공급망 상황에 따라 H100 등 최신 GPU의 중고 가치가 어떻게 변할지 전망합니다.
AI GPU 클러스터의 성능을 저해하는 GPU Starvation 현상을 방지하기 위한 스토리지 아키텍처를 비교합니다. 고성능 DPDK 기반의 독점 솔루션인 WekaFS와 오픈 소스 기반의 유연한 Ceph의 기술적 차이와 비용 효율성을 분석합니다.
Meta가 추천 시스템(RecSys) 워크로드 최적화를 위해 AMD MI400 아키텍처 기반의 맞춤형 하프 사이즈 칩을 개발 중입니다. 이 칩은 144GB HBM4를 탑재하여 비용과 전력 효율을 극대화하는 데 중점을 둡니다.
AMD가 Microsoft와 역대 최대 규모의 AI 시스템 Helios 공급 계약을 체결하며 Nvidia의 독점에 도전합니다. Microsoft는 Azure 데이터 센터에 AMD의 랙 스케일 AI 시스템을 도입하여 공급망 다변화를 꾀하고 있습니다.
저렴한 USB-이더넷 어댑터를 사용하여 멀티 노드 GPU 환경을 구축하는 방법을 소개합니다. 고가의 네트워킹 장비 없이도 일반 이더넷 케이블을 통한 포인트 투 포인트 연결로 대규모 모델을 실행할 수 있음을 보여줍니다.
LongCat-2 모델 학습에 사용된 중국산 AI ASIC 가속기의 기술적 특징을 분석합니다. Nvidia GPU 없이도 1.6조 파라미터 규모의 모델을 안정적으로 학습할 수 있음을 보여주며, 슈퍼포드 구조와 메모리 최적화 기법을 활용한 설계 방식을 다룹니다.
Vast AI에서 RTX 3080 4장을 활용해 Qwen2.5-27B 모델의 코드 생성 성능을 벤치마킹한 결과입니다. 저렴한 중고 부품 조합으로 높은 컨텍스트 처리 속도와 가성비를 갖춘 강력한 AI 워크스테이션 구축이 가능함을 보여줍니다.
광모듈 내 핵심 소자인 TIA(트랜스임피던스 증폭기)의 기술적 특성과 속도 결정 요인을 분석합니다. 단순 대역폭을 넘어 선형성, 집적도, 전력 효율성이 차세대 광통신 성능을 결정하는 핵심 요소임을 설명합니다.
엣지 컴퓨팅 환경에서 지속 학습(Continual Learning)을 가속화하기 위한 새로운 IMC 시스템인 CLASP를 제안합니다. BEOL 호환 ECRAM 장치를 활용하여 데이터 이동 문제를 해결하고, 기존 GPU 학습 대비 67배 빠른 속도와 132배의 에너지 절감을 달성했습니다.
Apple M5의 전용 Neural Accelerator를 활용하여 LLM 추론 성능을 극대화하는 Metal 기반 런타임 BaseRT를 소개합니다. BaseRT는 Metal 4 텐서 API를 통해 행렬 연산을 가속하며, llama.cpp 및 MLX 대비 압도적인 프롬프트 처리량을 제공합니다.
PolySim은 CiM(Compute-in-Memory) 하드웨어에서 확률적 임베딩을 효율적으로 처리하기 위한 결정론적 다항식 대리 모델 프레임워크입니다. 몬테카를로 샘플링 대신 저차 다항식 기저를 사용하여 확률적 정보를 보존하면서도 단일 행렬-벡터 곱셈으로 추론이 가능하게 합니다.
칩렛 기반 AI SoC의 신뢰성을 높이기 위해 기존 KGD 선별 방식을 넘어선 KGRD(Known Good Reliable Die) 선별 방법론을 제안합니다. 베이지안 확률 모델과 제약된 추론을 통해 조립 전 데이터를 바탕으로 조립 후의 고장 가능성을 예측하고 보증하는 연구입니다.
NVIDIA의 새로운 Vera CPU 아키텍처와 AMD EPYC Turin을 공정하게 비교하기 위한 표준화된 벤치마크 프레임워크를 제안합니다. 메모리 대역폭, 코어 간 지연 시간, 칩렛 구조 등 핵심 지표를 통해 두 프로세서의 성능을 객관적으로 분석합니다.
Apple Silicon의 통합 메모리 아키텍처(UMA)를 활용하여 로컬에서 LLM을 효율적으로 실행하는 방법을 소개합니다. Apple의 MLX 프레임워크와 Hugging Face의 mlx-community를 통해 Mac 환경에 최적화된 모델을 활용하는 가이드를 제공합니다.
Framework가 LPCAMM2 메모리 공급업체의 급격한 가격 인상으로 인해 Laptop 13 Pro의 메모리 및 시스템 가격을 인상한다고 발표했습니다. 메모리 모듈 가격이 기존 대비 두 배 이상 급등함에 따라 예약 주문 처리 방식과 구성 옵션도 조정될 예정입니다.
AI 클러스터의 성능 병목 현상이 GPU 성능이 아닌 메모리 공급 속도(Memory Wall)에 있음을 지적합니다. 메모리 부족 시 발생하는 NVMe 스토리지로의 데이터 퇴피와 레이턴시 문제를 해결하기 위해 메모리 풀링 기술의 필요성을 강조합니다.
AI 경쟁의 핵심이 모델의 성능에서 '에너지 효율(Joule당 지능)'로 이동하고 있음을 분석합니다. 전력망 한계와 에너지 제약이 AI, 반도체, 클라우드 산업의 새로운 경제적 결정 요인이 될 것이라고 주장합니다.