Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
HuggingFaceAI 번역헤드라인
시뮬레이션에서 훈련하고 실제 로봇에 배포하기: Microduck과 Isaac Lab 3.0
본 문서는 오픈 소스 이족 보행 로봇인 Microduck을 Isaac Lab 3.0과 Newton을 사용하여 시뮬레이션에서 훈련하고 실제 로봇에 배포하는 과정을 안내합니다. 개발자는 NVIDIA Isaac Lab의 병렬 시뮬레이션을 활용하여 보행 정책을 학습시키고, ONNX로 내보낸 후 물리적 로봇에 적용할 수 있습니다.
2일 전0
HuggingFaceAI 번역헤드라인
SLM의 어휘 전문화가 실제 애플리케이션에서 추론 비용을 77% 절감하는 방법
본 글은 특정 도메인에 특화된 모델의 토크나이저를 전문화하는 VocabX 방법을 소개합니다. 일반적인 범용 모델의 토크나이저는 다양한 데이터를 학습하여 단일 도메인에서 불필요한 비용을 발생시킵니다. VocabX는 토큰 빈도수가 아닌 '비용' 중심으로 어휘를 재구축하여 추론 비용을 77% 절감할 수 있습니다.
2일 전0
HuggingFaceAI 번역헤드라인
Granite Speech 5.0: 더 정확하고 빠르게 전사(Transcribe), 번역(Translate), 화자 식별(Attribute)하기
IBM이 높은 정확도와 속도를 갖춘 세 가지 업데이트된 Granite Speech 모델을 공개했습니다. 새로운 granite-speech-5.0-2b는 노이즈에 강한 다국어 전사 및 번역 성능을 제공하며, 470m 버전은 온디바이스 환경에 최적화되었습니다. 이 모델들은 ASR 정확도 향상과 화자 식별 기능을 강화했습니다.
2일 전0
HuggingFaceAI 번역헤드라인
NVIDIA Kumo Forecast: 사전 학습된 시계열 표현과 역사적 패턴 검색 및 해석 가능성을 결합
NVIDIA Kumo Forecast는 사전 학습된 Transformer 백본과 역사적 패턴 검색(DARR) 기능을 결합한 다변량 시계열 예측 모델입니다. 이 모델은 직접적인 예측 경로와 과거 데이터에서 검색된 패턴을 혼합하여 높은 정확도와 해석 가능성을 제공합니다. 개발자는 다양한 구성 옵션을 통해 각 정보 출처의 기여도를 조정할 수 있습니다.
2일 전0
HuggingFaceAI 번역헤드라인
SimReady Central 발표: 로봇 공학 및 AI 팩토리를 위한 시뮬레이션 준비 3D 에셋의 오픈 라이브러리
SimReady Central은 로봇 공학 및 AI 팩토리 디지털 트윈 구축을 위한 시뮬레이션 준비가 완료된 OpenUSD 에셋 오픈 라이브러리입니다. 이 라이브러리는 충돌 기하학, 질량, 마찰 등 물리적 속성이 미리 포함되어 있어 개발자가 수동 작업을 줄이고 빠르고 정확하게 AI 학습 환경을 구축할 수 있도록 돕습니다.
2일 전0
HuggingFaceAI 번역헤드라인
NVIDIA Cosmos3-H-Dreams: 생성 시뮬레이션을 통해 임상 수술을 구현하다
NVIDIA Cosmos3-H-Dreams는 인터랙티브 생성 시뮬레이션을 통해 수술 로봇 공학 분야에 혁신을 가져왔습니다. 이 모델은 기존의 수치 시뮬레이션 대신, 실제 임상 절차 비디오와 로봇 운동학 데이터를 학습하여 높은 현실성을 가진 테이블탑 작업 시뮬레이터를 구현했습니다. 특히 실시간 생성 능력을 갖춘 최초의 임상 담낭절제술 시뮬레이터로 주목받고 있습니다.
3일 전0
HuggingFaceAI 번역헤드라인
Hugging Face ❤️ TorchTPU: TPUs를 네이티브로 지원하다
Hugging Face가 TorchTPU를 통해 PyTorch 생태계에 TPU 네이티브 지원을 제공합니다. 기존에는 `torch_xla`나 JAX 사용이 필요했지만, 이제 일반적인 PyTorch 코드로 Transformers 및 Diffusers 모델을 TPU에서 직접 실행할 수 있게 되어 개발 편의성이 크게 향상되었습니다.
3일 전0
HuggingFaceAI 번역헤드라인
ALTK-Evolve: 학습된 메모리가 최첨단 모델 없이 고객 서비스 작업에서 τ²-bench 리더보드를 석권하는 방법
ALTK-Evolve는 GPT-4.1과 같은 모델 가중치 업데이트 없이, 플레이북 학습을 통해 고객 서비스 에이전트의 성능을 향상시키는 방법을 제시합니다. 이 방법은 성공/실패 사례를 분석하여 추출한 행동 규칙(가이드라인)을 시스템 프롬프트에 추가하는 방식으로 작동하며, 기존 벤치마크인 τ²-bench에서 높은 점수를 기록했습니다.
3일 전0
HuggingFaceAI 번역헤드라인
FairStress: LLM 의사결정의 공정성에 대한 심층 평가
FairStress는 LLM의 결정 과정에서 나타날 수 있는 인구통계학적 편향을 측정하는 새로운 벤치마크입니다. 이 벤치마크는 모델이 설득력 있는 주장(adversarial prefixes)에 의해 결정을 얼마나 쉽게 변경하는지, 즉 숨겨진 비대칭성을 평가합니다. 이를 통해 '대칭적 공정성'이라는 개념을 정의하고 측정하고자 합니다.
3일 전0
HuggingFaceAI 번역헤드라인
AnyLanguageModel 1.0 출시: Apple 플랫폼에서 로컬 모델을 활용한 1년간의 발전
AnyLanguageModel 1.0 출시와 함께 로컬 및 호스팅 추론을 통합하는 새로운 개발 환경이 제공됩니다. 이 라이브러리는 Core ML, llama.cpp 등 다양한 오픈 가중치 모델과 OpenAI, Anthropic, Google Gemini 등 주요 클라우드 API를 단일 코드베이스로 지원합니다. 이를 통해 앱의 플랫폼에 관계없이 일관된 방식으로 LLM 기능을 구현할 수 있습니다.
3일 전0
HuggingFaceAI 번역헤드라인
TorchNeuron: AWS Trainium에서 HF 모델을 실행하는 것이 그 어느 때보다 쉬워졌다
TorchNeuron은 PyTorch 플러그인으로, AWS Trainium에서 Hugging Face 모델을 실행하는 과정을 혁신적으로 개선했습니다. 이로써 eager 모드와 `torch.compile` 지원이 가능해져 개발 편의성이 크게 향상되었습니다. 이제 Neuron 장치가 네이티브 PyTorch 장치로 통합되면서, 기존에 복잡했던 Optimum Neuron 단계를 거칠 필요 없이 표준 Hugging Face 라이브러리를 직접 사용할 수 있게 되었습니다.
3일 전0
HuggingFaceAI 번역헤드라인
*22개 언어에 대한 네이티브 스크립트 데이터, 12개 언어에 대한 로마자화 데이터, 그리고 번역, 품질 평가 및 복구를 위한 재사용 가능한 G
AI4Bharat와 NVIDIA가 22개 인도어(Indic) 언어를 포괄하는 대규모 사전 학습 모델 Nemotron-pretraining-Indic-v1을 공개했습니다. 이 모델은 약 2.8조 토큰 규모이며, 개방형 GPU 가속 데이터 생성 파이프라인과 함께 제공되어 개발자들이 직접 데이터를 확장할 수 있게 합니다.
10월 16일1
HuggingFaceAI 번역헤드라인
Granite Switch 4.1: 하나의 엔드포인트에서 채팅, 의사결정 및 음성 처리 기능 제공
Granite Switch 4.1 모델은 단일 엔드포인트에서 채팅, 일반/전문 의사결정, 음성 인식(ASR) 기능을 통합 제공합니다. 이는 여러 전문 어댑터와 ASR 인코더를 결합하여 GPU VRAM 효율성을 높이고, KV 캐시 재사용을 통해 빠른 전환 속도를 구현한 것이 특징입니다.
10월 15일0
HuggingFaceAI 번역헤드라인
PyTorch 프로파일링 (Part 3): 어텐션은 모든 것을 아우른다
본 글은 PyTorch의 프로파일링 기법을 활용하여 어텐션 메커니즘을 분석하는 내용을 다룹니다. Part 1과 Part 2에서 기본 연산 및 선형 레이어 프로파일링 경험을 바탕으로, Transformer 핵심인 어텐션을 다음 주제로 선정했습니다. 다양한 구현 방식(naive, inplace ops, sdpa 등)의 성능 차이를 비교하며 최적화 기법을 탐구합니다.
10월 15일0
HuggingFaceAI 번역헤드라인
Meta의 Muse Spark Open: Meta가 공개하는 오픈 가중치 프론티어 멀티모달 Mixture-of-Experts 모델
Meta가 오픈 가중치 프론티어 멀티모달 MoE 모델인 Muse Spark Open을 공개했습니다. 이 모델은 에이전트 코딩, 디버깅, 도구 호출 등 실제 개발자 워크플로우에 최적화되었으며, 이미지/오디오/비디오를 처리하는 강력한 멀티모달 기능을 갖추고 있습니다. MoE 아키텍처를 통해 전체 816B 매개변수 중 토큰당 약 42B만 활성화되어 높은 효율성과 성능을 동시에 달성했습니다.
10월 15일0
HuggingFaceAI 번역헤드라인
FLUX.3 Image Klein을 Diffusers에서 사용해 보기: Black Forest Labs의 최신 오픈 이미지 생성 모델
Black Forest Labs가 오픈 소스로 FLUX.3 Image Klein 모델을 공개했습니다. 이 모델은 텍스트-투-이미지, 다중 참조 이미지-투-이미지 생성 및 바운딩 박스를 이용한 레이아웃 제어를 지원합니다. 특히 증류된 체크포인트는 빠른 추론 속도를 자랑하며, 모듈형 Diffusers 파이프라인으로 배포되어 유연성이 높습니다.
10월 15일0
HuggingFaceAI 번역헤드라인
Real World VoiceEQ 소개: 음성 AI의 인간적 품질 측정
본 기사는 기존 벤치마크가 놓치는 음성 AI의 인간적 품질을 측정하기 위해 'Real World VoiceEQ'를 소개합니다. 이 벤치마크는 어조, 감정, 화자 식별 등 음향 정보를 포괄적으로 평가하며, ASR, TTS, S2S, 이해 등 다양한 영역에서 광범위한 지표로 모델들을 검증합니다.
10월 15일0
HuggingFaceAI 번역헤드라인
Thinking Machines의 Inkling 모델 공개
Thinking Machines가 1T 파라미터 규모의 오픈 멀티모달 LLM인 Inkling을 공개했습니다. Inkling은 이미지, 텍스트, 오디오 입력을 네이티브하게 처리하며, 1M 컨텍스트 창과 에이전트적 기능을 갖춘 것이 특징입니다. MoE 구조와 상대적 어텐션 등 최신 기술을 적용하여 높은 성능과 효율성을 자랑합니다.
10월 15일0
HuggingFaceAI 번역헤드라인
모델 라우팅은 간단할 때까지는 그렇다.
모델 라우팅은 단순히 분류 문제로 간주하기 쉽지만, 실제로는 시스템 최적화의 복잡한 문제입니다. 비용 효율성만 고려하는 것은 위험하며, 캐싱 효과와 같은 인프라 요소가 실제 비용을 좌우합니다. 또한, 라우터는 비용, 지연 시간 외에도 규정 준수, 신뢰성 등 다차원적인 요소를 동시에 관리해야 합니다.
10월 15일1
HuggingFaceAI 번역헤드라인
Apertus 1.5 출시 노트
Apertus 1.5 모델은 지속적인 사전 학습을 통해 성능을 대폭 개선한 오픈 가중치 모델입니다. 70B 버전은 총 17T의 데이터로 확장되었으며, 컨텍스트 창이 262K 토큰으로 증가했습니다. 네이티브 멀티모달 이해와 사고 모드 등 다양한 기능을 제공합니다.
10월 15일0