Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
HuggingFaceAI 번역헤드라인
시뮬레이션에서 훈련하고 실제 로봇에 배포하기: Microduck과 Isaac Lab 3.0
본 문서는 오픈 소스 이족 보행 로봇인 Microduck을 Isaac Lab 3.0과 Newton을 사용하여 시뮬레이션에서 훈련하고 실제 로봇에 배포하는 과정을 안내합니다. 개발자는 NVIDIA Isaac Lab의 병렬 시뮬레이션을 활용하여 보행 정책을 학습시키고, ONNX로 내보낸 후 물리적 로봇에 적용할 수 있습니다.
2일 전0
HuggingFaceAI 번역헤드라인
SLM의 어휘 전문화가 실제 애플리케이션에서 추론 비용을 77% 절감하는 방법
본 글은 특정 도메인에 특화된 모델의 토크나이저를 전문화하는 VocabX 방법을 소개합니다. 일반적인 범용 모델의 토크나이저는 다양한 데이터를 학습하여 단일 도메인에서 불필요한 비용을 발생시킵니다. VocabX는 토큰 빈도수가 아닌 '비용' 중심으로 어휘를 재구축하여 추론 비용을 77% 절감할 수 있습니다.
2일 전0
HuggingFaceAI 번역헤드라인
SimReady Central 발표: 로봇 공학 및 AI 팩토리를 위한 시뮬레이션 준비 3D 에셋의 오픈 라이브러리
SimReady Central은 로봇 공학 및 AI 팩토리 디지털 트윈 구축을 위한 시뮬레이션 준비가 완료된 OpenUSD 에셋 오픈 라이브러리입니다. 이 라이브러리는 충돌 기하학, 질량, 마찰 등 물리적 속성이 미리 포함되어 있어 개발자가 수동 작업을 줄이고 빠르고 정확하게 AI 학습 환경을 구축할 수 있도록 돕습니다.
2일 전0
HuggingFaceAI 번역헤드라인
ALTK-Evolve: 학습된 메모리가 최첨단 모델 없이 고객 서비스 작업에서 τ²-bench 리더보드를 석권하는 방법
ALTK-Evolve는 GPT-4.1과 같은 모델 가중치 업데이트 없이, 플레이북 학습을 통해 고객 서비스 에이전트의 성능을 향상시키는 방법을 제시합니다. 이 방법은 성공/실패 사례를 분석하여 추출한 행동 규칙(가이드라인)을 시스템 프롬프트에 추가하는 방식으로 작동하며, 기존 벤치마크인 τ²-bench에서 높은 점수를 기록했습니다.
3일 전0
HuggingFaceAI 번역헤드라인
AnyLanguageModel 1.0 출시: Apple 플랫폼에서 로컬 모델을 활용한 1년간의 발전
AnyLanguageModel 1.0 출시와 함께 로컬 및 호스팅 추론을 통합하는 새로운 개발 환경이 제공됩니다. 이 라이브러리는 Core ML, llama.cpp 등 다양한 오픈 가중치 모델과 OpenAI, Anthropic, Google Gemini 등 주요 클라우드 API를 단일 코드베이스로 지원합니다. 이를 통해 앱의 플랫폼에 관계없이 일관된 방식으로 LLM 기능을 구현할 수 있습니다.
3일 전0
HuggingFaceAI 번역헤드라인
TorchNeuron: AWS Trainium에서 HF 모델을 실행하는 것이 그 어느 때보다 쉬워졌다
TorchNeuron은 PyTorch 플러그인으로, AWS Trainium에서 Hugging Face 모델을 실행하는 과정을 혁신적으로 개선했습니다. 이로써 eager 모드와 `torch.compile` 지원이 가능해져 개발 편의성이 크게 향상되었습니다. 이제 Neuron 장치가 네이티브 PyTorch 장치로 통합되면서, 기존에 복잡했던 Optimum Neuron 단계를 거칠 필요 없이 표준 Hugging Face 라이브러리를 직접 사용할 수 있게 되었습니다.
3일 전0
HuggingFaceAI 번역헤드라인
Granite Switch 4.1: 하나의 엔드포인트에서 채팅, 의사결정 및 음성 처리 기능 제공
Granite Switch 4.1 모델은 단일 엔드포인트에서 채팅, 일반/전문 의사결정, 음성 인식(ASR) 기능을 통합 제공합니다. 이는 여러 전문 어댑터와 ASR 인코더를 결합하여 GPU VRAM 효율성을 높이고, KV 캐시 재사용을 통해 빠른 전환 속도를 구현한 것이 특징입니다.
10월 15일0
HuggingFaceAI 번역헤드라인
Meta의 Muse Spark Open: Meta가 공개하는 오픈 가중치 프론티어 멀티모달 Mixture-of-Experts 모델
Meta가 오픈 가중치 프론티어 멀티모달 MoE 모델인 Muse Spark Open을 공개했습니다. 이 모델은 에이전트 코딩, 디버깅, 도구 호출 등 실제 개발자 워크플로우에 최적화되었으며, 이미지/오디오/비디오를 처리하는 강력한 멀티모달 기능을 갖추고 있습니다. MoE 아키텍처를 통해 전체 816B 매개변수 중 토큰당 약 42B만 활성화되어 높은 효율성과 성능을 동시에 달성했습니다.
10월 15일0
HuggingFaceAI 번역헤드라인
모델 라우팅은 간단할 때까지는 그렇다.
모델 라우팅은 단순히 분류 문제로 간주하기 쉽지만, 실제로는 시스템 최적화의 복잡한 문제입니다. 비용 효율성만 고려하는 것은 위험하며, 캐싱 효과와 같은 인프라 요소가 실제 비용을 좌우합니다. 또한, 라우터는 비용, 지연 시간 외에도 규정 준수, 신뢰성 등 다차원적인 요소를 동시에 관리해야 합니다.
10월 15일1
HuggingFaceAI 번역헤드라인
Grabette: 로봇 조작 데이터를 기록하기 위한 개방형 시스템
Grabette는 로봇을 직접 사용하지 않고도 인간의 손 움직임과 6-DoF 궤적 데이터를 기록할 수 있는 개방형 저비용 시스템입니다. 이 장치는 휴대성이 뛰어나 누구나 쉽게 작업 시연을 녹화하여, 대규모 협업 기반의 로봇 조작 데이터셋 구축에 기여할 수 있게 합니다.
10월 15일0
HuggingFaceAI 번역헤드라인
새로운 아키텍처에도 불구하고, DharmaOCR이 브라질 포르투갈어에서 우위를 점한 이유
DharmaOCR은 브라질 포르투갈어에 특화된 OCR 시스템으로, 일반적인 아키텍처보다 도메인 특화 및 목표 지향 훈련을 통해 우위를 점했습니다. 특히 지도 미세 조정(supervised fine-tuning)으로 언어와 문서 구조를 정렬하고, DPO(Direct Preference Optimization)로 안정성을 확보하여 프로덕션 환경의 신뢰도를 높였습니다.
10월 15일0
HuggingFaceAI 번역헤드라인
Baseten이 Hugging Face Inference Provider로 지원됩니다
Baseten이 Hugging Face Hub의 공식 Inference Provider로 통합되었습니다. 이를 통해 사용자는 서버리스 추론 기능을 활용하여 다양한 최첨단 AI 모델을 쉽게 애플리케이션에 통합할 수 있습니다. 특히 대화형 및 텍스트 생성 작업에서 Kimi K3, DeepSeek V4 Flash 등 인기 오픈 웨이트 LLM 접근이 가능해졌습니다.
10월 10일1
HuggingFaceAI 번역헤드라인
ACE를 생각하고 계신가요? 토큰을 더 적게 사용하며 구현할 수 있습니다
본 기사는 LLM 에이전트가 다단계 작업에서 발생하는 실패로부터 학습하는 '에이전트 메모리'의 중요성을 설명합니다. ACE와 ALTK-Evolve는 과거 궤적을 재사용 가능한 '교훈(lessons)'으로 변환하여 추론 시 공급하며, 가중치 업데이트 없이 에이전트를 개선합니다. 두 시스템은 교훈을 정리하고 전달하는 방식에 차이가 있으며, 특히 개별적인 경험의 기록(지원 횟수)을 보존하는 것이 중요하다고 강조합니다.
10월 10일1
HuggingFaceAI 번역헤드라인
NVIDIA Magpie TTS로 저지연 다국어 음성 에이전트 구축: 오픈 웨이트 및 완전한 배포 제어
NVIDIA Magpie TTS는 오픈 웨이트 기반의 저지연 다국어 음성 에이전트 구축을 위한 솔루션입니다. 이 모델은 자체 인프라에 배포 가능하며, 여러 언어를 지원하고 워크로드별 지연 시간 최적화 및 사용자 정의가 가능합니다. 특히 한국어와 Modern Standard Arabic 등 신규 언어 커버리지를 확장했습니다.
10월 9일1
HuggingFaceAI 번역헤드라인
Strands Agents, LeRobot 및 Hugging Face Storage Buckets로 한 곳에서 기록, 훈련, 배포하기
본 기사는 Strands Agents와 LeRobot, Hugging Face Storage Buckets를 활용하여 로봇 시연 기록, 훈련, 배포 과정을 통합하는 에이전트 루프 워크스루를 제시합니다. 이 시스템은 데이터를 한 곳에서 관리하며, 데이터 수집부터 정책 개선 및 하드웨어 배포까지의 전체 파이프라인을 자동화할 수 있습니다.
10월 7일1
HuggingFaceAI 번역헤드라인
동일한 클러스터에서 33% 포인트 더 높은 활용률 달성: 달라진 것은 할당 결정의 순서
본 글은 제약 조건 인식 GPU 할당기(constraint-aware GPU allocator)를 개발하고 FIFO 스케줄러와 비교한 연구 결과를 다룹니다. 동일 하드웨어에서 할당 결정의 순서만 변경해도 GPU 활용률을 최대 33%까지 높일 수 있음을 보여줍니다. 특히, 실시간 추론과 배치 작업이 자원을 두고 경쟁하는 상황에서의 효율적인 스케줄링 중요성을 강조합니다.
10월 7일0
HuggingFaceAI 번역헤드라인
Multi-Vector (후기 상호작용) 임베딩 모델을 활용한 검색
본 글은 ColBERT 스타일의 Multi-Vector 임베딩 모델을 활용한 검색 기술을 다룹니다. 일반적인 단일 벡터 방식과 달리, 멀티-벡터 모델은 토큰당 벡터를 유지하여 정보 손실 없이 강력한 매칭 정보를 보존합니다. 이를 통해 더 높은 검색 성능을 제공하며, 시각 문서 및 오디오/비디오 검색에도 적용 가능합니다.
10월 7일1
HuggingFaceAI 번역헤드라인
에이전트가 실제로 필요로 하는 메모리 용량은 어느 정도인가?
본 글은 에이전트에게 제공해야 할 '메모리 용량(dose)'을 모델 성능과 작업 특성에 맞춰 조절하는 것이 중요함을 강조합니다. 강력한 모델은 전체 가이드라인 세트를, 약한 모델은 검색 기반의 간결한 핵심 정보를 받는 것이 가장 효과적입니다.
10월 7일1
HuggingFaceAI 번역헤드라인
Wire It, Run It, Deploy It: Gradio의 AI 워크플로우 가이드
Gradio의 gr.Workflow는 타입 지정 노드들의 그래프를 통해 AI 워크플로우 인터페이스를 구현합니다. 사용자는 드래그 앤 드롭으로 단계를 설명하고, Gradio가 이를 REST API 및 Hugging Face Spaces로 한 번에 배포할 수 있게 합니다. 이 시스템은 참조(references), 연산자(operators), 주제(subjects)의 세 가지 노드로 구성되어 복잡한 AI 파이프라인을 쉽게 구축하도록 돕습니다.
10월 7일1
HuggingFaceAI 번역헤드라인
huggingface/kernels 소개: 로컬 AI를 위한 200개 이상의 WebGPU 커널
Hugging Face가 로컬 AI 구동을 위한 WebGPU 커널 라이브러리 `@huggingface/kernels`와 207개 이상의 최적화된 커널 컬렉션을 공개했습니다. 이 커널들은 머신러닝의 핵심 연산을 다루며, 각 커널은 버전 관리 및 명시적인 계약과 함께 제공됩니다. 또한, 브라우저 기반 성능 테스트 스위트인 Fleet을 출시하여 크라우드소싱 방식으로 하드웨어 전반의 정확성과 성능 증거를 수집합니다.
10월 7일2