Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
HuggingFaceAI 번역헤드라인
Transformers.js에서 제안된 Cross-Origin Storage API 실험하기
Transformers.js를 사용하여 브라우저 환경에서 AI 모델을 실행할 때 발생하는 Cross-Origin 저장소 문제를 다룹니다. 서로 다른 오리진의 앱이 동일한 모델이나 Wasm 런타임을 사용할 경우, 브라우저가 이를 재다운로드하여 저장 공간과 네트워크를 낭비하는 현상을 실험을 통해 보여줍니다.
6월 23일0
HuggingFaceAI 번역헤드라인
CUGA를 사용하여 실제 에이전트 앱 구축하기: 경량 하네스를 활용한 24가지 작동 예시
IBM의 오픈 소스 에이전트 하네스인 CUGA를 활용하여 복잡한 에이전트 앱 구축 과정을 단순화하는 방법을 소개합니다. CUGA는 계획, 실행 루프, 도구 호출 등 번거로운 배관 작업을 자동화하여 개발자가 도구와 프롬프트에만 집중할 수 있게 돕습니다.
6월 23일0
HuggingFaceAI 번역헤드라인
GitHub CI를 Hugging Face Jobs로 마이그레이션하기
GitHub Actions의 한계를 극복하기 위해 Hugging Face Jobs를 CI 인프라로 활용하는 마이그레이션 방법을 소개합니다. 이를 통해 CPU 작업 속도를 30% 단축하고, GPU 하드웨어가 필요한 테스트 스위트를 효율적으로 실행할 수 있습니다.
6월 9일0
HuggingFaceAI 번역헤드라인
오픈 소스 커뮤니티가 에이전트 강화학습 (Agentic RL)을 위한 OpenEnv를 지원합니다
OpenEnv가 에이전트 강화학습(Agentic RL)을 위한 상호운용성 계층으로 진화하며 오픈 소스 프로젝트로 전환됩니다. Hugging Face를 포함한 주요 AI 기업들이 참여하여 에이전트 실행 환경의 표준화를 목표로 합니다.
6월 8일0
HuggingFaceAI 번역헤드라인
Pakistan Notice Helper 구축하기: 매우 국지적인 안전 문제를 위한 작은 AI 도구
파키스탄의 사기 메시지 문제를 해결하기 위해 Qwen3.5 4B 소형 모델을 활용한 'Pakistan Notice Helper' 구축 사례를 소개합니다. 텍스트와 스크린샷을 분석하여 위험도를 분류하고, 우르두어 지원을 통해 지역 맞춤형 안전 가이드를 제공합니다.
6월 8일0
HuggingFaceAI 번역헤드라인
다섯 개의 연구소, 다섯 개의 지능: 소형 모델로 구축한 멀티 모델 금융 드라마
다양한 연구소의 소형 모델(SLM)을 활용하여 금융 에이전트들이 상호작용하는 멀티 모델 시뮬레이션 환경 구축 사례를 다룹니다. 서로 다른 모델을 하나의 플랫폼에서 운영할 때 발생하는 서빙 계층의 기술적 이슈와 해결 방법을 엔지니어링 관점에서 설명합니다.
6월 6일0
HuggingFaceAI 번역헤드라인
구직 도우미 (Job Searcher)
DeepSeek V4 Pro를 교사 모델로, Qwen3-8B를 학생 모델로 활용하여 이력서 기반의 맞춤형 구직 에이전트를 구축하는 기술적 과정을 설명합니다. 쿼리 생성, 검색, 5개 차원의 점수 산정 단계를 거쳐 논리적 근거를 갖춘 최종 후보 명단을 도출합니다.
6월 6일0
HuggingFaceAI 번역헤드라인
Thousand Token Wood: 3B 모델로 구현한 멀티 에이전트 경제 시스템
Qwen2.5-3B 소형 모델을 활용하여 실시간 멀티 에이전트 경제 시뮬레이션 시스템을 구축한 엔지니어링 보고서입니다. 모델의 제약을 극복하기 위해 설계된 희소성 메커니즘과 프롬프트 엔지니어링 기법을 다룹니다.
6월 5일0
HuggingFaceAI 번역헤드라인
에이전트에 최적화된 Hub 작업 방식으로서의 hf CLI 설계
Hugging Face는 코딩 에이전트의 효율성을 높이기 위해 hf CLI를 재설계했습니다. 에이전트 감지 기능을 통해 출력 형식을 최적화하며, 이를 통해 기존 방식 대비 토큰 사용량을 최대 6배 절감할 수 있음을 확인했습니다.
6월 4일0
HuggingFaceAI 번역헤드라인
사용자의 언어, 도메인 또는 억양에 맞춰 Nemotron 3.5 ASR을 미세 조정(Fine-Tune)하는 방법
Nemotron 3.5 ASR은 40개의 언어 로케일을 지원하며 낮은 지연 시간과 높은 정확도를 동시에 제공하는 오픈 웨이트 모델입니다. 단일 체크포인트로 다국어 지원, 실시간 스트리밍, 구두점 자동 삽입 기능을 통합하여 기존 ASR 구축 시 발생하는 비용과 복잡성을 해결합니다.
6월 4일0
HuggingFaceAI 번역헤드라인
Hub Bucket을 통한 1조 개의 파라미터 전송: TRL의 Delta Weight Sync
비동기 강화학습(Async RL) 시 모델 전체를 전송하는 대신, 변경된 가중치(delta)만 전송하여 대역폭을 획기적으로 절감하는 기술을 소개합니다. TRL의 Delta Weight Sync를 통해 Hugging Face Bucket을 활용한 분리형 훈련(disaggregated training)이 가능해집니다.
5월 27일0
HuggingFaceAI 번역헤드라인
Harness, Scaffold, 그리고 정확히 이해해야 할 AI Agent 용어들
AI 에이전트 구축 시 혼동하기 쉬운 'Harness'와 'Scaffold' 등 주요 용어의 개념을 정립합니다. 모델을 에이전트로 변환하기 위해 필요한 동작 정의 계층과 인프라의 차이를 실용적인 관점에서 설명합니다.
5월 25일0
HuggingFaceAI 번역헤드라인
Ettin Reranker 제품군 소개
Ettin ModernBERT 인코더를 기반으로 한 6가지 크기의 새로운 Sentence Transformers CrossEncoder 리랭커 제품군이 공개되었습니다. 이 모델들은 증류(distillation) 기법을 통해 학습되었으며, 검색 후 리랭킹(retrieve-then-rerank) 패턴을 통해 검색 정확도와 비용 효율성을 동시에 최적화합니다.
5월 19일1
HuggingFaceAI 번역헤드라인
로봇 비디오 생성을 위한 LoRA 및 DoRA 기반 NVIDIA Cosmos Predict 2.5 미세 조정 가이드
NVIDIA Cosmos Predict 2.5 월드 모델을 로봇 조작 도메인에 최적화하기 위한 LoRA 및 DoRA 기반의 매개변수 효율적 미세 조정(PEFT) 가이드를 제공합니다. 실제 로봇 데이터 수집의 비용 문제를 해결하기 위해 미세 조정된 모델로 합성 궤적을 생성하는 방법을 다루며, 단일 GPU 환경에서도 실용적인 학습이 가능하도록 설계되었습니다.
5월 18일1
HuggingFaceAI 번역헤드라인
범용 AI 에이전트 성능 측정을 위한 Open Agent Leaderboard 공개
범용 AI 에이전트의 성능을 모델 단위가 아닌 전체 시스템 관점에서 측정하기 위한 'Open Agent Leaderboard'가 공개되었습니다. 이 리더보드는 에이전트가 다양한 도구와 제약 조건이 있는 생소한 환경에서 얼마나 잘 작동하는지(품질)와 실행 비용(비용)을 동시에 평가하여 실제 배포 가치를 판단할 수 있게 합니다.
5월 18일0
HuggingFaceAI 번역헤드라인
Transformers 백엔드를 지원하는 PaddleOCR 3.5: OCR 및 문서 파싱 작업 수행
PaddleOCR 3.5는 Hugging Face Transformers를 새로운 추론 백엔드로 지원하여 모델 실행의 유연성을 높였습니다. 이를 통해 개발자는 PP-OCRv5 및 PaddleOCR-VL 1.5와 같은 모델을 Transformers 중심의 생태계에서 더욱 쉽게 활용할 수 있습니다.
5월 18일0
HuggingFaceAI 번역헤드라인
SyGra: LLM 및 SLM을 위한 데이터 구축 원스톱 프레임워크
SyGra는 LLM 및 SLM을 위한 데이터셋 생성, 변환, 정렬(Alignment) 과정을 단순화하도록 설계된 로우코드/노코드 프레임워크입니다. 이 프레임워크는 복잡한 파이프라인 구축 대신 사용자가 프롬프트 엔지니어링에 집중할 수 있게 돕습니다. SyGra는 Q&A 데이터셋 생성, DPO를 활용한 모델 정렬, 추론 강화 등 다양한 고급 AI 워크플로우 전반에서 높은 유연성과 확장성을 제공합니다.
5월 13일5
HuggingFaceAI 번역헤드라인
Tiny Agents: an MCP-powered agent in 50 lines of code
본 기사는 Model Context Protocol(MCP)을 활용하여 에이전트 개발의 복잡성을 획기적으로 단순화하는 방법을 소개합니다. MCP는 LLM에 연결할 수 있는 표준 도구 세트를 노출하는 API로, 이를 통해 기존 Inference Client를 확장하여 다양한 외부 기능을 에이전트에 통합할 수 있습니다. 작성자는 이 원리를 바탕으로 TypeScript(JS) 기반의 'Tiny Agent' 코드를 구현했으며, 이 접근 방식은 에이전트가 여러 MCP 서버(예: 파일 시스템, 브라우저)에 연결하여 복잡한 작업을 수행하는 과정을 매우 간결하게 보여줍니다.
5월 8일11
HuggingFaceAI 번역헤드라인
1 Billion Classifications
본 기술 기사는 대규모 분류 및 임베딩 작업(1B+ 요청 규모)의 비용과 지연 시간을 체계적으로 분석하고 최적화하는 방법을 설명합니다. 단순히 모델을 사용하는 것을 넘어, 다양한 하드웨어 옵션, 배포 방법론, 로드 테스트 도구 등 4가지 핵심 구성 요소를 통합하여 전체 시스템의 효율성을 극대화하는 프레임워크를 제시합니다. 이를 통해 사용자는 특정 규모의 작업을 가장 저렴하고 빠르게 처리할 수 있는 최적의 아키텍처 설계를 할 수 있습니다.
5월 7일20
HuggingFaceAI 번역헤드라인
FastRTC: Python 의 실시간 통신 라이브러리
최근 OpenAI와 Google 등에서 라이브 멀티모달 API가 폭발적으로 성장함에 따라, 실시간 오디오/비디오 AI 애플리케이션 구축의 어려움이 대두되었습니다. 이에 'FastRTC'라는 Python 라이브러리가 출시되었으며, 이는 개발자가 WebRTC 기반의 실시간 오디오 및 비디오 AI 앱을 쉽게 만들 수 있도록 설계되었습니다. FastRTC는 자동 음성 감지(Turn Taking), Gradio UI 내장, 무료 전화 호출 기능(`fastphone()`), 그리고 FastAPI 통합 등 강력한 기능을 제공하여, 사용자는 복잡한 스트리밍 인프라 대신 응답 로직 자체에만 집중할 수 있게 합니다.
5월 7일6