Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
arXivAI 번역논문
엣지 지속 학습 (Edge Continual Learning)을 위한 ECRAM 활용
엣지 컴퓨팅 환경에서 지속 학습(Continual Learning)을 가속화하기 위한 새로운 IMC 시스템인 CLASP를 제안합니다. BEOL 호환 ECRAM 장치를 활용하여 데이터 이동 문제를 해결하고, 기존 GPU 학습 대비 67배 빠른 속도와 132배의 에너지 절감을 달성했습니다.
7월 23일0
arXivAI 번역논문
BaseRT: Apple M5 Neural Accelerators를 통한 최고 수준의 LLM 추론 성능 향상
Apple M5의 전용 Neural Accelerator를 활용하여 LLM 추론 성능을 극대화하는 Metal 기반 런타임 BaseRT를 소개합니다. BaseRT는 Metal 4 텐서 API를 통해 행렬 연산을 가속하며, llama.cpp 및 MLX 대비 압도적인 프롬프트 처리량을 제공합니다.
7월 23일1
arXivAI 번역논문
PolySim: CiM에서의 교차 모달 검색을 위한 결정론적 다항식 대리 모델
PolySim은 CiM(Compute-in-Memory) 하드웨어에서 확률적 임베딩을 효율적으로 처리하기 위한 결정론적 다항식 대리 모델 프레임워크입니다. 몬테카를로 샘플링 대신 저차 다항식 기저를 사용하여 확률적 정보를 보존하면서도 단일 행렬-벡터 곱셈으로 추론이 가능하게 합니다.
7월 23일1
arXivAI 번역논문
칩렛 기반 AI SoC에서의 신뢰할 수 있는 양품 다이(KGRD) 선별을 위한 형식적 기초
칩렛 기반 AI SoC의 신뢰성을 높이기 위해 기존 KGD 선별 방식을 넘어선 KGRD(Known Good Reliable Die) 선별 방법론을 제안합니다. 베이지안 확률 모델과 제약된 추론을 통해 조립 전 데이터를 바탕으로 조립 후의 고장 가능성을 예측하고 보증하는 연구입니다.
7월 23일1
ServeTheHomeAI 번역헤드라인
NVIDIA Vera 벤치마크를 AMD EPYC Turin과 비교하기 위한 표준화 프레임워크
NVIDIA의 새로운 Vera CPU 아키텍처와 AMD EPYC Turin을 공정하게 비교하기 위한 표준화된 벤치마크 프레임워크를 제안합니다. 메모리 대역폭, 코어 간 지연 시간, 칩렛 구조 등 핵심 지표를 통해 두 프로세서의 성능을 객관적으로 분석합니다.
7월 23일1
QiitaAI 번역헤드라인
Dev.toAI 번역헤드라인
Apple Silicon에서 로컬 LLM 실행하기: MLX 프레임워크, mlx-community, 그리고 궁극의 Mac 모델 선택 가이드
Apple Silicon의 통합 메모리 아키텍처(UMA)를 활용하여 로컬에서 LLM을 효율적으로 실행하는 방법을 소개합니다. Apple의 MLX 프레임워크와 Hugging Face의 mlx-community를 통해 Mac 환경에 최적화된 모델을 활용하는 가이드를 제공합니다.
7월 22일1
Tom's HardwareAI 번역헤드라인
Framework, Laptop 13 Pro의 32GB 및 64GB 메모리 가격을 하룻밤 사이에 거의 두 배로 인상 — CEO
Framework가 LPCAMM2 메모리 공급업체의 급격한 가격 인상으로 인해 Laptop 13 Pro의 메모리 및 시스템 가격을 인상한다고 발표했습니다. 메모리 모듈 가격이 기존 대비 두 배 이상 급등함에 따라 예약 주문 처리 방식과 구성 옵션도 조정될 예정입니다.
7월 22일1
PhoronixAI 번역헤드라인
Intel Directed Package-Level Thermal Interrupts, Linux 7.3에 포함될 예정
Intel의 지향형 패키지 열 인터럽트 기능이 Linux 7.3에 포함될 예정입니다. 이 기능은 열 이벤트를 특정 코어에만 전달하여 리소스 경합을 줄이고 전력 효율을 높입니다.
7월 22일1
r/LocalLLaMAAI 번역분석
16x AMD MI50 32GB: llama.cpp RPC를 사용한 GLM-5.2 Q4 12.2 tok/s 성능
16개의 AMD MI50 GPU를 활용하여 llama.cpp RPC 기반으로 GLM-5.2 모델을 구동한 성능 테스트 결과입니다. 10.7k 컨텍스트 환경에서 약 10.2 tok/s의 출력 속도를 기록하며 분산 VRAM 환경에서의 추론 성능을 보여줍니다.
7월 22일1
TheAI 번역헤드라인
Samsung의 스마트 글래스는 실제로 어떤 모습일까
Samsung이 Google, Gentle Monster, Warby Parker와 협업하여 개발한 새로운 스마트 글래스의 사양과 디자인을 공개했습니다. 두 가지 디자인 옵션과 함께 약 9시간의 배터리 수명을 제공하며 올가을 출시될 예정입니다.
7월 22일1
Tom's HardwareAI 번역헤드라인
Fortinet, 방화벽 ASIC 계약에 이어 Intel 4의 첫 파운드리 고객이 되다 — Lip-Bu Tan CEO가 약속한 파운드리 수주가
Fortinet이 Intel 4 공정을 사용하는 첫 번째 명시된 외부 파운드리 고객이 되었습니다. Intel은 Fab 34를 통해 Fortinet의 6세대 보안 프로세서(SP6)를 제조하며, 이는 Intel의 파운드리 전략 및 공정 수율 개선 노력의 일환입니다.
7월 22일1
Tom's HardwareAI 번역헤드라인
USB 연결의 미래 (2026) — USB4 Version 2와 Thunderbolt 5가 구리선의 물리적 한계에 도전하는 방식
USB4 Version 2.0과 Thunderbolt 5의 등장으로 USB 생태계가 새로운 전환점을 맞이하고 있습니다. 기존의 한계를 넘어 80Gbps 양방향 대역폭과 120Gbps 비대칭 모드를 지원하며 고속 데이터 전송과 전력 공급의 표준화를 목표로 합니다.
7월 22일1
Dev.toAI 번역헤드라인
Nvidia, 수십만 대의 Grace 단독 서버 출하
Nvidia가 에이전틱 AI 워크로드 대응을 위해 수십만 대의 Grace 단독 서버를 출하하며 CPU 시장 공략을 강화하고 있습니다. 이는 CPU와 GPU의 비율이 1:1로 변화하는 흐름에 맞춘 전략적 행보입니다.
7월 22일1
Dev.toAI 번역헤드라인
Nvidia Vera CPU, SPECrate 2026에서 AMD Epyc 9755 대비 1.7배 성능 달성
Nvidia의 신규 CPU Vera가 SPECrate 2026 벤치마크에서 AMD Epyc 9755 대비 약 1.7배의 성능을 기록했습니다. Vera는 에이전틱 AI 워크로드에 최적화된 커스텀 Olympus 코어를 탑재한 Nvidia의 첫 번째 CPU입니다.
7월 22일1
r/LocalLLaMAAI 번역분석
Poolside가 Laguna S 2.1을 출시하기에 완벽한 날이었네요. 드디어 괜찮은 양의 VRAM을 확보했습니다! 3x V620 = 96
사용자가 Poolside의 Laguna S 2.1 모델을 테스트하기 위해 V620 GPU 3개를 활용한 하드웨어 환경을 구축했습니다. 96GB의 VRAM을 통해 256K 컨텍스트를 처리하며, 비용 대비 준수한 성능을 확인했습니다.
7월 22일0
r/LocalLLaMAAI 번역분석
나의 듀얼 5060 Ti 설정이 왜 사용률 50%를 넘지 못하는지에 대해 알게 된 점 (고장 난 것이 아닙니다)
듀얼 GPU 환경에서 모델 추론 시 GPU 사용률이 낮게 나타나는 원인이 연산 능력이 아닌 메모리 대역폭 제한에 있음을 설명합니다. 토큰 생성 시마다 모델 가중치를 메모리에서 읽어와야 하는 병목 현상을 다룹니다.
7월 22일1
Tom's HardwareAI 번역헤드라인
중국의 한 모더, 수정된 드라이버를 사용하여 Huawei Arm 워크스테이션의 Windows 11에서 GeForce RTX 4060 구동 성공
중국의 한 개발자가 Huawei의 Arm 기반 Kunpeng 920 프로세서를 사용하는 워크스테이션에서 Nvidia GeForce RTX 4060을 구동하는 데 성공했습니다. 이는 Arm 기반 Windows 11 환경에서 Nvidia 그래픽 드라이버가 작동할 수 있음을 보여주는 중요한 사례입니다.
7월 22일1
Tom's HardwareAI 번역헤드라인
Meta, 특정 워크로드를 위해 144GB HBM4를 탑재한 맞춤형 AMD Instinct MI400 가속기 사용할 것이라는 보고 — 범용성을
Meta가 추천 시스템 워크로드 최적화를 위해 144GB HBM4를 탑재한 AMD Instinct MI400 맞춤형 가속기를 사용할 것이라는 보고가 나왔습니다. 이는 범용성보다는 특정 목적에 맞춘 하드웨어 전략을 보여줍니다.
7월 22일0