Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
🤗 HFAI 번역헤드라인
PyTorch 2.15에서 Mac용 MPS 지원 기능 소개
PyTorch 팀이 PyTorch 2.15를 통해 Mac용 MPS(Metal Performance Shaders) 지원 기능을 대폭 개선했습니다. 이 업데이트는 MoE 모델 디코딩 속도를 크게 향상시키고, 선형 레이어 및 소프트맥스 연산을 가속화하여 로컬 LLM 성능을 비약적으로 끌어올립니다. 또한, 메모리 효율성을 높여 대용량 미디어 처리도 가능하게 했습니다.
2일 전0
🤗 HFAI 번역헤드라인
LFM2.5-24B-A2B: 온디바이스에서 빠르고 사적인 에이전트 구동을 위한 24B 매개변수 추론 모델
LFM2.5-24B-A2B는 온디바이스 환경에서 빠르고 사적인 에이전트 구동을 위해 설계된 24B 매개변수 추론 모델입니다. 이 모델은 활성 매개변수를 최소화하여 비용 효율성을 높였으며, Apple M5 Max 및 NVIDIA B300 GPU 등 다양한 하드웨어에서 높은 처리 속도를 보여줍니다. 특히 에이전트 작업과 도구 사용 능력에서 뛰어난 성능을 입증했습니다.
10월 13일1
🤗 HFAI 번역헤드라인
GPU 클러스터의 영향력 있는 스케줄링
본 글은 대규모 AI 분산 훈련 워크로드를 관리하는 클러스터 스케줄링 시스템 개선 사례입니다. 기존의 우선순위 기반 스케줄러가 GPU 스쿼팅이나 우선순위 인플레이션 같은 문제를 야기했기에, 이를 해결하기 위해 계층적 공정 공유 할당 및 시간 슬라이싱 계약을 포함한 새로운 시스템으로 교체했습니다.
10월 9일1
🤗 HFAI 번역헤드라인
Asta의 빠른 보고서 생성 모델, AstaBrief를 오픈소싱하다
Asta는 과학적 보고서 생성을 위해 특별히 훈련된 오픈 가중치 모델 AstaBrief 8B를 공개했습니다. 이 모델은 연구 질문과 검색 문헌을 인용 기반의 보고서로 변환하는 데 초점을 맞췄습니다. 이를 통해 기존 독점 모델 대비 보고서 생성 시간을 크게 단축하고, 기관이 자체 인프라에서 민감한 데이터를 다룰 수 있도록 했습니다.
10월 9일1
🤗 HFAI 번역헤드라인
AutoSynthData: 엔터프라이즈 에이전트 학습 데이터 생성
AutoSynthData는 기업 에이전트가 직면하는 능력 격차를 학습 데이터로 전환하기 위해 개발된 방법론입니다. 이는 타겟 모델의 실패와 강력한 교사(teacher)의 성공을 활용하여, 모델이 개선해야 할 새로운 작업을 생성하고 검증합니다. 이 과정은 EnterpriseOps Gym 환경에서 설명되며, 작업은 시스템 명세, 사용자 프롬프트, 그리고 검증기로 구성됩니다.
10월 9일1
🤗 HFAI 번역헤드라인
존재하지 않던 모델을 직접 만들다
작성자는 ML Intern이라는 에이전트를 활용하여 원하는 AI 모델을 직접 구축하는 과정을 공유합니다. 이 과정에서 9B 모델의 압축된 0.8B 버전을 얻는 등, 효율적인 컴퓨팅 비용으로 고품질의 맞춤형 모델을 개발할 수 있음을 보여줍니다. 또한, 프로젝트 계획, 예산 요청, 테스트 실행 등의 체계적인 워크플로우를 구축하는 방법을 설명합니다.
10월 8일1
🤗 HFAI 번역헤드라인
하나의 모델 패밀리로 두 개의 최고 수준 결과 달성: IOI 및 IMO를 위한 Nemotron 미세 조정
Nemotron 기반의 모델이 지도 학습(SFT), 강화학습(RL) 및 추론 루프를 통해 IOI 2026과 IMO 2026에서 최고 수준의 성과를 달성했음을 보여줍니다. 이는 강력한 기본 모델을 재사용 가능한 레시피로 전문화하여 까다로운 도메인에 적응할 수 있음을 입증합니다.
10월 7일2
🤗 HFAI 번역헤드라인
Falcon-Emirati: LLM이 방언, 문화, 뉘앙스를 학습할 때
본 기사는 현대 표준 아랍어(MSA)와 실제 구어체인 에미레이티 아랍어 사이의 간극을 메우기 위해 Falcon-Emirati-7B 모델을 개발한 과정을 설명합니다. 이 모델은 기존의 강력한 기반 모델인 Falcon-H1-Arabic를 활용하여, 방언 특유의 어휘, 톤, 문화적 맥락에 초점을 맞춰 에미레이티 아랍어 이해도를 높였습니다.
10월 7일1
🤗 HFAI 번역헤드라인
NeoMME: 효율적인 멀티모달 네이티브 및 다국어 인코더
NeoMME는 별도의 비전 타워나 인과적 언어 모델 없이 단일 양방향 트랜스포머로 텍스트와 이미지 패치를 모두 처리하는 다국어 멀티모달 인코더입니다. 이 모델은 마스크드 이산 확산 목적 함수로 학습되었으며, 시각 문서 검색에 최적화되어 높은 효율성과 성능을 보여줍니다.
10월 7일1
🤗 HFAI 번역헤드라인
HF Jobs 전반에 걸친 LoRA를 사용한 Async GRPO: 버킷, 프록시, 그리고 NCCL 불필요
TRL의 AsyncGRPOTrainer가 LoRA 어댑터 학습 및 동기화 기능을 추가하여 vLLM과 연동성을 높였습니다. 이 업데이트는 트레이너와 추론 서버를 별도의 Hugging Face Job으로 분리할 수 있게 하며, 대규모 클러스터 환경에서도 효율적인 RL 훈련을 가능하게 합니다.
10월 7일1
🤗 HFAI 번역헤드라인
에이전트가 작업을 성공했을 때, 다음에도 할 수 있을까요?
기존 에이전트 벤치마크가 평균 성공률(Accuracy)에만 초점을 맞춰 신뢰성 문제를 가리고 있음을 지적합니다. 본 글은 '일관성 분석기(Consistency Analyzer)'라는 진단 도구를 소개하며, 에이전트의 반복 실행 시 실패하기 쉬운 의사결정 지점(flip-prone decision points)을 찾아내어 일관성을 개선하는 방법을 제시합니다.
10월 6일1
🤗 HFAI 번역헤드라인
UK AISI와 EvalEval이 벤치마크 결과 재현성을 높이는 방법
AISI와 EvalEval은 모델 성능 평가의 재현성 문제를 해결하기 위해 협력하여 'Every Eval Ever (EEE)' 스키마를 구축하고, 이를 위한 개방형 플랫폼인 Evaluation Cards를 공개했습니다. 이 릴리스에는 HealthBench, SWE-Bench Pro 등 주요 벤치마크에 대한 최첨단 모델(Claude Opus 시리즈, GPT-5 시리즈)의 검증된 결과가 포함되어 있습니다. 이러한 공유 인프라는 평가 보고의 투명성을 높이고, 연구자들이 성능을 맥락 속에서 해석할 수 있는 표준화된 기준점을 제공합니다.
10월 6일1
🤗 HFAI 번역헤드라인
사실만 아는 것이 아니라 출처를 정확히 파악하기: MCP 에이전트를 위한 출처 인식 검증
논문 'ProvenanceGuard'는 LLM 에이전트가 생성한 답변의 사실성(factuality)을 출처 기반으로 검증하는 후처리 계층입니다. 이 시스템은 단순히 증거를 통합하지 않고, 파이프라인 전반에 걸쳐 출처의 정체성을 유지하며 다섯 단계의 엄격한 검증 과정을 거칩니다.
10월 6일2
🤗 HFAI 번역헤드라인
NVIDIA Kumo Tabular, 테이블 예측의 새로운 정확도-효율성 경계를 제시하다
NVIDIA가 테이블 데이터 예측을 위한 오픈 파운데이션 모델인 Kumo Tabular를 공개했습니다. 이 모델은 추가 학습이나 피처 엔지니어링 없이 단일 순방향 패스만으로 분류 및 회귀 작업을 수행합니다. 이는 LLM의 인컨텍스트 러닝 개념을 테이블 구조에 적용한 혁신적인 접근 방식입니다.
10월 6일1
🤗 HFAI 번역헤드라인
클릭 한 번으로 Hugging Face에서 Amazon SageMaker Studio로
Hugging Face 모델을 Amazon SageMaker Studio로 클릭 한 번에 연결하여 즉시 미세 조정하거나 배포할 수 있는 통합 기능이 출시되었습니다. 복잡한 AWS 설정 과정 없이 모델 컨텍스트를 유지하며 엔터프라이즈 환경으로 빠르게 전환할 수 있습니다.
7월 7일1
🤗 HFAI 번역헤드라인
어떤 클라우드에서도 AI 워크로드를 실행하고 Hugging Face에 저장하세요: SkyPilot을 통한 제로 이그레스
Hugging Face와 SkyPilot의 협업을 통해 어떤 클라우드 환경에서도 데이터 전송 비용(egress) 없이 AI 워크로드를 실행할 수 있는 기능을 출시했습니다. hf:// 스킴을 사용하여 Hugging Face의 모델과 데이터셋을 SkyPilot 작업에 직접 마운트하여 효율적인 학습 및 서빙이 가능합니다.
7월 7일1
🤗 HFAI 번역헤드라인
PRX Part 4: 우리의 데이터 전략
PRX 모델 학습을 위한 데이터 전략을 다룹니다. 공개 및 내부 데이터셋을 혼합하고 VLM을 활용해 이미지 캡션을 재작성하여 다양성 있는 사전 학습 코퍼스를 구축하는 파이프라인을 설명합니다.
7월 6일1
🤗 HFAI 번역헤드라인
LeRobot v0.6.0: 상상하고, 평가하고, 개선하라
LeRobot v0.6.0은 월드 모델 정책, 새로운 VLA 모델, 보상 모델 API를 도입하여 로보틱스 연구 역량을 강화했습니다. 시뮬레이션 벤치마크 통합과 데이터 로딩 속도 개선 등 학습 및 평가 효율성을 대폭 높였습니다.
7월 6일1
🤗 HFAI 번역헤드라인
🤗 Kernels: 주요 업데이트
Hugging Face가 새로운 리포지토리 유형인 'Kernels'를 도입하여 컴퓨팅 특화 서비스를 제공합니다. 보안 강화를 위해 Nix 기반의 재현성 확보, 코드 서명, 신뢰할 수 있는 게시자 시스템을 구축했습니다.
7월 6일1
🤗 HFAI 번역헤드라인
Hugging Face와 Cerebras, Gemma 4를 실시간 음성 AI에 도입
Hugging Face와 Cerebras가 협력하여 Gemma 4를 활용한 실시간 음성-대-음성(speech-to-speech) 파이프라인을 공개했습니다. Cerebras의 빠른 추론 성능을 통해 지연 시간을 획기적으로 줄여 자연스러운 대화형 AI 경험을 제공합니다.
7월 1일1