Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
HuggingFaceAI 번역헤드라인
ITBench-AA: 에이전트 기반 기업 IT 작업을 위한 최초의 벤치마크에서 프런티어 모델들이 50% 미만의 점수를 기록하다 —
Artificial Analysis와 IBM Research가 에이전트 기반 기업 IT 작업을 평가하는 새로운 벤치마크인 ITBench-AA를 출시했습니다. 첫 번째 영역인 SRE(사이트 신뢰성 공학) 테스트에서 모든 프런티어 모델이 50% 미만의 낮은 점수를 기록하며 에이전트 성능의 한계를 보여주었습니다.
5월 27일0
HuggingFaceAI 번역헤드라인
Hub Bucket을 통한 1조 개의 파라미터 전송: TRL의 Delta Weight Sync
비동기 강화학습(Async RL) 시 모델 전체를 전송하는 대신, 변경된 가중치(delta)만 전송하여 대역폭을 획기적으로 절감하는 기술을 소개합니다. TRL의 Delta Weight Sync를 통해 Hugging Face Bucket을 활용한 분리형 훈련(disaggregated training)이 가능해집니다.
5월 27일0
HuggingFaceAI 번역헤드라인
Harness, Scaffold, 그리고 정확히 이해해야 할 AI Agent 용어들
AI 에이전트 구축 시 혼동하기 쉬운 'Harness'와 'Scaffold' 등 주요 용어의 개념을 정립합니다. 모델을 에이전트로 변환하기 위해 필요한 동작 정의 계층과 인프라의 차이를 실용적인 관점에서 설명합니다.
5월 25일0
HuggingFaceAI 번역헤드라인
OlmoEarth v1.1: 더 효율적인 모델 제품군
OlmoEarth v1.1은 기존 v1의 성능을 유지하면서도 연산 비용을 최대 3배까지 절감한 새로운 위성 이미지 분석 모델 제품군입니다. 트랜스포머 아키텍처의 효율성을 높이기 위해 모델 크기와 토큰 시퀀스 길이를 최적화하여, 대규모 원격 탐사 데이터 처리 시 발생하는 높은 비용 문제를 해결하고자 합니다.
5월 19일0
HuggingFaceAI 번역헤드라인
Ettin Reranker 제품군 소개
Ettin ModernBERT 인코더를 기반으로 한 6가지 크기의 새로운 Sentence Transformers CrossEncoder 리랭커 제품군이 공개되었습니다. 이 모델들은 증류(distillation) 기법을 통해 학습되었으며, 검색 후 리랭킹(retrieve-then-rerank) 패턴을 통해 검색 정확도와 비용 효율성을 동시에 최적화합니다.
5월 19일1
HuggingFaceAI 번역헤드라인
로봇 비디오 생성을 위한 LoRA 및 DoRA 기반 NVIDIA Cosmos Predict 2.5 미세 조정 가이드
NVIDIA Cosmos Predict 2.5 월드 모델을 로봇 조작 도메인에 최적화하기 위한 LoRA 및 DoRA 기반의 매개변수 효율적 미세 조정(PEFT) 가이드를 제공합니다. 실제 로봇 데이터 수집의 비용 문제를 해결하기 위해 미세 조정된 모델로 합성 궤적을 생성하는 방법을 다루며, 단일 GPU 환경에서도 실용적인 학습이 가능하도록 설계되었습니다.
5월 18일1
HuggingFaceAI 번역헤드라인
범용 AI 에이전트 성능 측정을 위한 Open Agent Leaderboard 공개
범용 AI 에이전트의 성능을 모델 단위가 아닌 전체 시스템 관점에서 측정하기 위한 'Open Agent Leaderboard'가 공개되었습니다. 이 리더보드는 에이전트가 다양한 도구와 제약 조건이 있는 생소한 환경에서 얼마나 잘 작동하는지(품질)와 실행 비용(비용)을 동시에 평가하여 실제 배포 가치를 판단할 수 있게 합니다.
5월 18일0
HuggingFaceAI 번역헤드라인
Transformers 백엔드를 지원하는 PaddleOCR 3.5: OCR 및 문서 파싱 작업 수행
PaddleOCR 3.5는 Hugging Face Transformers를 새로운 추론 백엔드로 지원하여 모델 실행의 유연성을 높였습니다. 이를 통해 개발자는 PP-OCRv5 및 PaddleOCR-VL 1.5와 같은 모델을 Transformers 중심의 생태계에서 더욱 쉽게 활용할 수 있습니다.
5월 18일0
HuggingFaceAI 번역헤드라인
Granite Embedding Multilingual R2: 32K 컨텍스트를 지원하는 Open Apache 2.0 다국어 임베딩 — 최고의
Granite Embedding Multilingual R2는 32K 컨텍스트를 지원하는 두 가지 새로운 Apache 2.0 다국어 임베딩 모델을 출시했습니다. 이 모델들은 200개 이상의 언어를 지원하며, 특히 52개 주요 언어와 프로그래밍 코드에 대해 향상된 검색 품질을 제공합니다. 97M 파라미터의 컴팩트 모델과 311M 파라미터의 풀사이즈 모델이 제공되어, 성능과 효율성 사이에서 선택할 수 있습니다.
5월 14일3
HuggingFaceAI 번역헤드라인
Continuous Batching에서 비동기성(asynchronicity) 구현하기
본 글은 LLM 추론 성능 향상을 위해 Continuous Batching의 한계점인 동기적(synchronous) 작동 방식을 개선하는 방법을 다룹니다. 기존 방식에서는 GPU 계산과 CPU 준비 작업이 순차적으로 진행되어 유휴 시간이 발생하며, 이는 전체 처리량 손실을 초래합니다. 이를 해결하기 위해 CPU와 GPU 워크로드를 분리하여 병렬로 실행할 수 있는 비동기 배치(asynchronous batching) 구현의 필요성과 기술적 접근 방식을 설명합니다.
5월 14일2
HuggingFaceAI 번역헤드라인
열린 미래를 위한 구축 - Google Cloud와의 새로운 파트너십
Hugging Face는 새로운 전략적 파트너십을 통해 Google Cloud와의 협력을 강화하며, 모든 기업이 자신만의 AI를 구축하고 커스터마이징할 수 있는 환경을 제공합니다. 이 파트너십은 Vertex AI, GKE, Cloud Run 등 다양한 Google Cloud 서비스에서 Hugging Face의 방대한 오픈 모델(open models)을 쉽게 배포하고 사용할 수 있도록 지원하며, CDN Gateway와 같은 기술적 개선을 통해 모델 공급망의 안정성과 속도를 대폭 향상시킵니다. 또한, TPU 네이티브 지원 및 강화된 보안 기능을 통합하여 사용자들에게 최고의 성능과 안전성을 제공하는 것을 목표로 합니다.
5월 14일4
HuggingFaceAI 번역헤드라인
Reachy Mini - 오늘과 내일의 AI 빌더를 위한 오픈 소스 로봇
Reachy Mini는 인간-로봇 상호작용(HRI), 창의적 코딩, AI 실험을 위해 설계된 오픈 소스 로봇입니다. Python 기반으로 프로그래밍이 가능하며, $299부터 시작하는 가격으로 누구나 접근할 수 있습니다. 이 키트형 로봇은 데스크톱 크기로, 최신 AI 모델을 활용하여 실제 애플리케이션 개발 및 테스트를 할 수 있도록 지원합니다. Reachy Mini는 표현력이 풍부한 움직임과 멀티모달 센싱(카메라, 마이크 등) 기능을 갖추고 있으며, Hugging Face 통합을 통해 오픈 소스 생태계의 이점을 극대화합니다. 또한 모든 하드웨어와 소프트웨어가 오픈 소스로 제공되어 커뮤니티 주도 성장이 가능합니다.
5월 14일4
HuggingFaceAI 번역헤드라인
Gradio를 이용한 가시적 워터마킹 (Visible Watermarking)
본 글은 생성형 AI 콘텐츠의 확산으로 인해 중요성이 커진 워터마킹 필요성을 언급하며, Hugging Face가 이를 쉽게 구현할 수 있는 '가시적 워터마킹(Visible Watermarking)' 기능을 Gradio 라이브러리에 추가했음을 소개합니다. 개발자는 단 한 줄의 코드를 사용하여 이미지, 비디오, 텍스트 등 다양한 형식에 워터마크를 적용할 수 있습니다.
5월 13일6
HuggingFaceAI 번역헤드라인
SyGra: LLM 및 SLM을 위한 데이터 구축 원스톱 프레임워크
SyGra는 LLM 및 SLM을 위한 데이터셋 생성, 변환, 정렬(Alignment) 과정을 단순화하도록 설계된 로우코드/노코드 프레임워크입니다. 이 프레임워크는 복잡한 파이프라인 구축 대신 사용자가 프롬프트 엔지니어링에 집중할 수 있게 돕습니다. SyGra는 Q&A 데이터셋 생성, DPO를 활용한 모델 정렬, 추론 강화 등 다양한 고급 AI 워크플로우 전반에서 높은 유연성과 확장성을 제공합니다.
5월 13일5
HuggingFaceAI 번역헤드라인
HCompany의 HoloTab을 만나보세요. 당신의 AI 브라우저 동반자입니다.
HCompany는 가장 진보된 컴퓨터 사용 AI 모델인 Holo3를 출시하고, 이를 브라우저에서 사용할 수 있는 Chrome 확장 프로그램 'HoloTab'을 공개했습니다. HoloTab은 사용자가 원하는 작업을 설명하기만 하면, 별도의 기술적 설정 없이도 웹사이트 인터페이스 탐색, 필드 채우기, 의사 결정 등의 모든 과정을 자동화합니다. 이 도구는 반복적이거나 시간이 많이 소요되는 온라인 업무(예: 가격 비교, 구인 공고 검색 등)를 녹화하고 루틴으로 저장하여, 사용자가 필요할 때마다 자동으로 처리하게 합니다.
5월 13일1
HuggingFaceAI 번역헤드라인
AWS에서의 Foundation Model 학습 및 추론을 위한 빌딩 블록 (Building Blocks)
파운데이션 모델의 성능 확장이 사전 학습을 넘어 사후 학습과 테스트 시간 컴퓨팅으로 진화함에 따라, 이를 뒷받침할 통합 인프라의 중요성이 커지고 있습니다. 본 글은 AWS 인프라와 오픈 소스 소프트웨어(OSS) 스택이 결합된 계층적 아키텍처를 통해 대규모 분산 학습 및 추론을 구현하는 핵심 빌딩 블록을 분석합니다.
5월 13일3
HuggingFaceAI 번역헤드라인
EMO: 전문가 혼합(Mixture of Experts)을 이용한 창발적 모듈성 사전 학습
EMO는 인간이 정의한 사전 지식에 의존하지 않고 모듈 구조 자체가 데이터로부터 직접 창발되도록 종단 간(end-to-end)으로 사전 학습된 새로운 전문가 혼합(MoE) 모델입니다. EMO의 핵심은 '모듈성'을 일급 목표로 삼아, 특정 작업이나 도메인에 대해 전체 전문가 중 극히 작은 하위 집합만을 사용하여도 거의 전체 모델 수준의 성능을 유지할 수 있도록 하는 것입니다. 이는 대규모 LLM을 구성 가능한 아키텍처로 변환하여, 필요한 기능만 선택적으로 로드하고 배포함으로써 효율성과 유연성을 혁신적으로 개선합니다.
5월 12일7
HuggingFaceAI 번역헤드라인
CyberSecQwen-4B: Why Defensive Cyber Needs Small, Specialized, Locally-Runnable
본 기사는 방어 사이버 보안(Defensive Cyber) 분야에서 대규모 범용 모델(Frontier models)의 한계점을 지적하며, 소형화되고 전문화된 온디바이스 모델의 필요성을 강조합니다. 민감한 내부 데이터 유출 위험, 높은 API 호출 비용, 그리고 에어갭 환경에서의 배포 제약 등은 방어 작업에 치명적입니다. 이에 대응하여 CyberSecQwen-4B는 40억 개의 파라미터로 CWE 분류 및 CVE 매핑 같은 특정 사이버 위협 인텔리전스(CTI) 작업에서 기존의 대형 모델을 능가하는 성능과 뛰어난 배포 용이성을 입증했습니다.
5월 8일11
HuggingFaceAI 번역헤드라인
Tiny Agents: an MCP-powered agent in 50 lines of code
본 기사는 Model Context Protocol(MCP)을 활용하여 에이전트 개발의 복잡성을 획기적으로 단순화하는 방법을 소개합니다. MCP는 LLM에 연결할 수 있는 표준 도구 세트를 노출하는 API로, 이를 통해 기존 Inference Client를 확장하여 다양한 외부 기능을 에이전트에 통합할 수 있습니다. 작성자는 이 원리를 바탕으로 TypeScript(JS) 기반의 'Tiny Agent' 코드를 구현했으며, 이 접근 방식은 에이전트가 여러 MCP 서버(예: 파일 시스템, 브라우저)에 연결하여 복잡한 작업을 수행하는 과정을 매우 간결하게 보여줍니다.
5월 8일11
HuggingFaceAI 번역헤드라인
MedQA: Fine-Tuning a Clinical AI on AMD ROCm — No CUDA Required
본 기술 기사는 AMD Instinct MI300X GPU와 ROCm 환경을 사용하여 임상 질문-답변 모델(MedQA)을 LoRA 방식으로 미세 조정하는 과정을 상세히 설명합니다. 이 프로젝트의 핵심은 기존 의료 AI 작업이 NVIDIA CUDA에 의존하던 관행을 깨고, 코드 변경이나 커스텀 커널 없이 순수하게 AMD ROCm 환경에서 HuggingFace 생태계(Transformers, PEFT 등)를 활용하여 성공적으로 구현했다는 점입니다. 이를 통해 192GB의 대용량 VRAM을 활용하여 Qwen3-1.7B와 같은 모델을 FP16으로 학습하고, LoRA 기법을 적용해 효율적이고 접근성이 높은 임상 AI 개발 파이프라인을 제시합니다.
5월 8일10