Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
arXivAI 번역논문
KV-Fold: 긴 문맥 추론 (Long-Context Inference)을 위한 단일 단계 KV-Cache 재귀 (Recurrence)
KV-Fold는 키-값(KV) 캐시를 누산기(accumulator)로 활용하여 별도의 학습 과정 없이 긴 문맥 추론을 수행하는 프로토콜입니다. 이 방식은 함수형 프로그래밍의 foldl과 유사하게, 이전 청크에서 전달된 KV 캐시를 조건으로 다음 청크를 처리하며 내부 상태를 재사용합니다. KV-Fold는 16K부터 128K 토큰에 이르는 긴 문맥에서도 높은 정확도를 유지하며, 단일 GPU 메모리 제약 내에서 안정적으로 작동하는 것이 특징입니다.
5월 13일3
RedditAI 번역요약
TextGen이 이제 네이티브 데스크톱 앱이 되었습니다. LM Studio의 오픈 소스 대안 (이전의 text-generation-webui).
TextGen은 기존의 웹 UI 기반 프로젝트에서 진화하여, 이제 Windows, Linux, macOS를 지원하는 설치가 필요 없는(no-install) 데스크톱 애플리케이션으로 출시되었습니다. 이 새로운 버전은 사용자가 포터블 빌드를 다운로드하고 실행하기만 하면 되며, 시스템에 어떠한 파일도 남기지 않는 독립적인 구조를 가집니다. 또한, 완전한 개인정보 보호 기능과 최신 양자화 기술을 지원하는 ik_llama.cpp 빌드, 내장 웹 검색 기능을 제공하여 사용자 경험과 보안성을 크게 향상시켰습니다.
5월 13일5
Tom's HardwareAI 번역헤드라인
Asus Prime Z890-P Wifi 메인보드 리뷰: Core Ultra 프로세서를 위한 준비를 마쳤습니다
Asus Prime Z890-P Wifi 메인보드는 Core Ultra 프로세서를 포함한 최신 Intel Core 프로세서의 잠재력을 발휘할 수 있도록 설계된 가성비 좋은 Z890 플랫폼입니다. 4개의 PCIe 슬롯, AI 및 EZ DIY 기능 등 충분한 확장성과 성능을 제공하지만, 후면 I/O 포트 구성(USB 8개, Type-C 1개)과 Wi-Fi 7 속도 등의 제한점도 있습니다. 전반적으로 게이밍, 렌더링, 사무 작업 등 다양한 PC 활동에서 유능한 성능을 보여주며, 특히 예산에 맞춰 강력한 기능을 원하는 사용자에게 적합합니다.
5월 13일2
Tom's HardwareAI 번역헤드라인
MIT 연구진, 3D 프린팅으로 실현 가능한 40년 된 삼각형 지퍼 개념을 부활시켜 형상 변형 로봇 및 전개 가능한 구조물 제작 — 3D
MIT CSAIL 연구진은 3D 프린팅 기술을 활용하여 'Y-Zipper'라는 혁신적인 삼면 지퍼 메커니즘을 개발했습니다. 이 시스템은 흐물거리는 상태에서 단단하고 하중을 견딜 수 있는 3차원 삼각형 구조로 몇 초 만에 변형할 수 있습니다. 이는 적응형 로봇, 신속 전개 가능한 대피소, 그리고 재구성 가능한 의료 기기 등 다양한 분야의 발전에 큰 잠재력을 지니고 있습니다.
5월 13일3
Tom's HardwareAI 번역헤드라인
중국의 차세대 CPU 및 GPU, 2027년 Intel 및 AMD의 이전 세대 제품에 도전 준비 — Loongson 3B6600 및
Loongson은 2025년 연례 및 2026년 1분기 실적 발표를 통해 차세대 CPU인 3B6600과 GPU인 9A1000에 대한 업데이트를 공개했습니다. 이 제품들은 Intel 및 AMD의 이전 세대 제품에 도전할 수 있는 중국의 첨단 컴퓨팅 기술을 대표합니다.
5월 13일5
The Next PlatformAI 번역헤드라인
OpenAI, Microsoft 그리고 동료들이 더 나은, 더 확장 가능한 Ethernet을 구축하다
OpenAI, Microsoft 등 주요 기업들이 AI 클러스터의 확장성을 높이기 위해 새로운 네트워크 프로토콜인 Multipath Reliable Connection (MRC)을 개발했습니다. 이 프로토콜은 단순히 포트 대역폭 증가에 의존하는 대신, 주어진 총 대역폭 내에서 장치 간 링크 수를 늘리는 데 초점을 맞춥니다. MRC는 기존 RoCE Ethernet의 상위 집합 확장으로, 링크 장애 발생 시 트래픽 재라우팅을 통해 AI 학습 작업 중단을 최소화하며, 낮은 지연 시간과 적응형 부하 분산 기능을 제공합니다.
5월 13일5
llama.cppAI 번역헤드라인
ggml-webgpu: 멀티모달 (multimodal)을 위한 정밀도 문제 해결 ( #22808 ) fix(mixed-types): 정밀도를 위
이 업데이트는 ggml-webgpu 라이브러리에서 멀티모달(multimodal) 기능을 지원하기 위한 정밀도 문제를 해결하는 데 중점을 둡니다. 주요 수정 사항으로는 f32 사용을 위해 공유 메모리 계산 로직 업데이트, GELU 및 관련 함수 수정, flash-attn 경로 수정 등이 포함됩니다. 또한 다양한 운영체제와 아키텍처(macOS, iOS, Linux, Android, Windows 등)에 대한 광범위한 호환성 패치가 이루어졌습니다.
5월 13일4
r/ClaudeAIAI 번역분석
Hugging Face 공동 창립자, Claude Code에서 비행기 모드로 실행되는 Qwen 3.6 27B가 최신 Opus에 근접하다고 언급
Hugging Face 공동 창립자가 Qwen 3.6 27B 모델이 Claude의 최신 Opus 모델에 근접한 성능을 보인다고 언급했습니다. 이 내용은 로컬 환경에서 LLM(Large Language Models)을 구동하는 경험과 관련하여 논의되었습니다.
5월 13일6
arXivAI 번역논문
당신의 Block Floating Point Scale을 검색하세요!
본 연구는 생성 모델 추론 가속화를 위한 표준 기술인 양자화(Quantization)의 한계를 극복하고자 합니다. 기존 BFP 스케일 선택 방식이 최적화되지 않을 수 있다는 문제점을 지적하며, 주어진 분포에서 양자화 오차를 최소화하는 새로운 전략인 ScaleSearch를 제안합니다. ScaleSearch는 미세 조정 검색을 통해 가수부 비트(mantissa bits)를 활용하여 스케일을 결정하고, 이를 기존 PTQ 및 저정밀도 어텐션 방법론에 통합함으로써 성능 향상을 입증했습니다.
5월 13일6
OpenAIAI 번역헤드라인
NVIDIA 엔지니어와 연구원들이 Codex로 구축하는 방법
NVIDIA 엔지니어와 연구원들은 Codex를 핵심 도구로 활용하여 복잡한 엔지니어링 및 end-to-end 머신러닝 실험 워크플로우의 속도를 획기적으로 향상시키고 있습니다. GPT-5.5 기반의 Codex는 단순 실행을 넘어 문제점과 아이디어를 자율적으로 표면화하며, 긴 세션 동안 높은 정확도로 작업을 유지하고 전술적으로 적절한 도구를 선택하는 능력을 보여줍니다. 이를 통해 연구 영역 식별부터 스크립트 작성 및 원격 실험 실행까지 전체 연구 루프를 자동화하여 개발 속도를 극대화합니다.
5월 13일6
RedditAI 번역요약
Needle: Gemini의 Tool Calling 기능을 26M 모델로 증류(Distilled)했습니다
Needle은 26M 파라미터 규모의 경량 함수 호출(tool calling) 모델을 오픈 소스로 공개했습니다. 이 모델은 소비자용 기기에서 높은 속도로 실행 가능하며, 도구 사용 과정을 근본적으로 검색 및 조립 과정으로 정의하여 Cross-attention만을 사용하여 FFN(Feed-Forward Network) 파라미터를 제거한 것이 특징입니다. Needle은 온디바이스 AI 환경을 목표로 하며, RAG나 도구 사용 등 외부 구조화된 지식 접근 작업 전반에 적용 가능한 원시 요소임을 제시합니다.
5월 13일2
TheAI 번역헤드라인
Mark Zuckerberg, '완전히 프라이빗한' 암호화된 Meta AI 채팅 발표
Meta CEO Mark Zuckerberg가 '완전히 프라이빗한' 암호화된 새로운 Incognito Chat 기능을 발표했습니다. 이 기능은 서버에 대화 기록이 저장되지 않으며, 특히 Meta가 Instagram DM에서 제거했던 종단간 암호화(end-to-end encryption)를 사용하여 진정한 사생활 보호 수준을 제공한다고 강조합니다.
5월 13일5
llama.cppAI 번역헤드라인
CUDA provider를 위한 내부 AllReduce 커널 ( #22299 ) ggml-cuda: 텐서 병렬화 (tensor paralleli
본 업데이트는 CUDA provider를 위한 내부 AllReduce 커널을 도입하여, NCCL 없이도 GPU 간의 텐서 병렬화(tensor parallelism)에 필요한 AllReduce 기능을 구현합니다. 이 새로운 internal provider는 단일 단계 CUDA 커널과 파이프라이닝 기법을 사용하여 효율적인 통신을 제공하며, `ggml-cuda` 라이브러리와 `llama-bench` 도구 모두에서 이를 지원하고 있습니다. 또한, 사용자가 NCCL 또는 내부 Provider를 명시적으로 선택할 수 있도록 환경 변수 및 플래그가 추가되었습니다.
5월 13일4
Tom's HardwareAI 번역헤드라인
Google의 새로운 노트북 플랫폼 'Googlebook' 공개 행사 전 유출 — Android와 Google Gemini를 탑재하여
Google이 차세대 노트북 플랫폼 'Googlebook'의 존재를 유출했습니다. 이 플랫폼은 Android OS를 기반으로 하며, 기존 ChromeOS와 스마트폰용 Android 간의 기능적 격차를 해소하는 것을 목표로 합니다. 주요 특징으로는 Gemini 기반의 커스텀 위젯 생성, 문맥을 이해하는 'Magic Pointer', 그리고 상단에 내장되는 LED 스트립 형태의 'Glowbar' 등이 있습니다. Google은 이 기기들을 Asus, Dell 등 외부 PC 벤더들에게 제조를 맡길 예정이며, 이는 Android와 ChromeOS 통합이라는 내부적 노력을 반영합니다.
5월 13일5
LilianAI 번역헤드라인
단어 임베딩 (Word Embedding) 학습
단어 임베딩은 텍스트 단어를 계산 가능한 저차원의 밀집(dense) 수치 벡터로 변환하는 기술입니다. 이는 원-핫 인코딩의 비효율성을 극복하고, 단어 간의 유사성이나 숨겨진 의미론적 관계를 벡터 공간에 효과적으로 표현할 수 있게 합니다. 학습 방식은 전역 동시 출현 행렬을 이용하는 '카운트 기반' 접근법과, 국소 문맥에서 타겟 단어를 예측하는 '문맥 기반' 접근법(예: Skip-gram)으로 나뉩니다.
5월 13일3
r/LocalLLaMAAI 번역분석
--n-cpu-moe로 부분 오프로드된 모델의 프롬프트 처리 속도를 획기적으로 개선하기
llama.cpp를 사용하여 RTX 3090 환경에서 gpt-oss-120b 모델을 구동할 때, --n-cpu-moe 설정을 높여 MoE 레이어를 CPU로 오프로드하면 더 큰 ubatch 크기를 사용할 수 있습니다. 이를 통해 프롬프트 처리(prefill) 속도를 최대 8.7배까지 획기적으로 향상시킬 수 있으나, 토큰 생성 속도는 약간 감소하는 트레이드오프가 발생합니다.
5월 13일6
OpenAIAI 번역헤드라인
API의 새로운 모델들을 통한 음성 지능 (voice intelligence)의 발전
본 기사는 개발자들이 세 가지 새로운 오디오 모델(GPT-Realtime-2, GPT-Realtime-Translate, GPT-Realtime-Whisper)을 활용하여 더욱 자연스럽고 지능적인 음성 앱을 구현할 수 있도록 API를 확장했음을 설명합니다. 이 모델들은 복잡한 추론 능력, 실시간 다국어 번역, 스트리밍 STT 기능을 제공하며, 단순한 질의응답을 넘어선 진화된 음성 인터페이스 구축을 가능하게 합니다. 음성 AI는 이제 'Voice-to-action', 'Systems-to-voice', 'Voice-to-voice'와 같은 세 가지 패턴으로 발전하고 있으며, GPT-Realtime-2와 같은 새로운 기능들은 에이전트가 작업 처리 과정과 실패 상황까지도 사용자에게 자연스럽게 전달하며 대화를 지속할 수 있도록 돕습니다.
5월 13일6
RedditAI 번역요약
높은 RAM 가격으로 인해 DIY 시장 하락세
NVIDIA GPU 업그레이드 둔화와 CPU 및 메모리 가격 상승, 그리고 전반적인 공급망 압박이 결합되면서 PC DIY 시장이 심각한 침체기에 접어들었습니다. 주요 메인보드 제조업체들은 2026년 출하 목표를 대폭 하향 조정했으며, 특히 소비자용 CPU와 메모리의 부족 및 가격 상승이 판매 감소의 주된 원인으로 지목됩니다. AI 수요 증가로 인해 고성능 데이터 센터 플랫폼(Xeon, EPYC)에 생산 능력이 우선 배분되면서 일반 소비자용 부품의 공급이 어려워졌고, 게이밍 시장을 이끌던 NVIDIA 역시 AI GPU 매출 증대 덕분에 차세대 제품 업데이트가 지연되고 있습니다.
5월 13일7
GH TrendingAI 번역릴리즈
EleutherAI/lm-evaluation-harness
EleutherAI/lm-evaluation-harness는 생성형 언어 모델을 다양한 학술 벤치마크에서 테스트할 수 있는 통합 평가 프레임워크입니다. 이 프로젝트는 60개 이상의 LLM 표준 벤치마크를 지원하며, vLLM, OpenAI API, HuggingFace PEFT 등 다양한 백엔드를 통해 빠르고 유연한 추론 및 평가 기능을 제공합니다. 최근 업데이트에서는 CLI 리팩토링, YAML 설정 파일 지원, 멀티모달 입력/출력 기능 추가, 그리고 새로운 Open LLM Leaderboard 태스크들이 포함되었습니다.
5월 13일6
XAI 번역요약
NVIDIA가 Hugging Face에 AnyFlow를 출시했습니다
NVIDIA가 Hugging Face에 AnyFlow라는 새로운 텍스트-투-비디오(text-to-video) 확산 모델을 출시했습니다. 이 모델은 추론 예산과 관계없이 고품질의 비디오를 생성할 수 있는 최초의 any-step 비디오 확산 모델로, 단계 수(예: 4단계 또는 50단계)가 변해도 품질 저하 없이 매끄럽게 확장되는 것이 특징입니다.
5월 13일7