Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
HuggingFaceAI 번역헤드라인
에이전트가 실제로 필요로 하는 메모리 용량은 어느 정도인가?
본 글은 에이전트에게 제공해야 할 '메모리 용량(dose)'을 모델 성능과 작업 특성에 맞춰 조절하는 것이 중요함을 강조합니다. 강력한 모델은 전체 가이드라인 세트를, 약한 모델은 검색 기반의 간결한 핵심 정보를 받는 것이 가장 효과적입니다.
10월 7일1
HuggingFaceAI 번역헤드라인
Falcon-ASR 소개
Falcon-ASR은 아랍어 음성 인식(ASR) 모델로, 특히 에미레이트 방언에 초점을 맞추었습니다. 16억 개 파라미터 규모의 이 모델은 영어, 프랑스어 등 다국어를 지원하며, 공식 리더보드에서 낮은 단어 오류율(WER)을 기록했습니다. 또한, 전사된 단어에 대한 시간 스탬프를 제공하여 오디오 위치와 연결할 수 있는 기능을 갖추고 있습니다.
10월 7일1
HuggingFaceAI 번역헤드라인
Hugging Face Inference Endpoints, Jobs, 그리고 Buckets가 Papers with Code의 검색 기능을
본 글은 Papers with Code의 강력한 논문 검색 기능을 구현한 아키텍처를 설명합니다. 오프라인 코퍼스 구축, 온라인 하이브리드 검색 서비스, 그리고 Inference Endpoint를 분리하여 시스템의 안정성과 속도를 확보했습니다. 또한, 임베딩 파이프라인 실패 방지를 위해 버전 관리되는 API와 상세 메타데이터 기록을 강조합니다.
10월 7일1
HuggingFaceAI 번역헤드라인
양자화 인식 힐링(Quantization-Aware Healing): 압축된 4비트 모델이 원본 전체 정밀도 모델을 능가하다
본 논문은 구조적 압축 및 4비트 양자화된 LLM의 복구 문제를 다루며, Quantization-Aware Healing (QAH) 기법을 제안합니다. QAH는 원래의 비압축 모델에서 직접 증류하여, 기존 방법론들이 해결하지 못했던 낮은 정밀도 모델의 정확도 한계를 극복하고 원본 전체 정밀도 버전을 능가하는 성능을 보여줍니다.
10월 7일1
HuggingFaceAI 번역헤드라인
Wire It, Run It, Deploy It: Gradio의 AI 워크플로우 가이드
Gradio의 gr.Workflow는 타입 지정 노드들의 그래프를 통해 AI 워크플로우 인터페이스를 구현합니다. 사용자는 드래그 앤 드롭으로 단계를 설명하고, Gradio가 이를 REST API 및 Hugging Face Spaces로 한 번에 배포할 수 있게 합니다. 이 시스템은 참조(references), 연산자(operators), 주제(subjects)의 세 가지 노드로 구성되어 복잡한 AI 파이프라인을 쉽게 구축하도록 돕습니다.
10월 7일1
HuggingFaceAI 번역헤드라인
Sentence Transformers를 사용한 다중 벡터 임베딩 모델 학습 및 미세 조정
본 글은 Sentence Transformers를 활용하여 다중 벡터 임베딩 모델을 학습하고 미세 조정하는 방법을 소개합니다. 일반적인 밀집 임베딩 방식과 달리, 다중 벡터 모델(ColBERT 스타일)은 토큰별 매칭을 통해 더 정교한 검색 성능을 제공하며, 특정 도메인에 맞춰 미세 조정할 경우 효과가 극대화됩니다. 또한 문서 길이 제한으로 인한 정보 손실 문제를 지적하고 사용자 데이터 기반의 아키텍처 설정을 강조합니다.
10월 7일1
HuggingFaceAI 번역헤드라인
Open ASR Leaderboard, 인도 지역의 첫 언어 추가
Open ASR Leaderboard가 힌디어 및 인도 영어에 대한 개방형 ASR 평가를 시작하며, 이는 인도 지역 언어 지원의 중요한 진전을 의미합니다. 기존 리더보드는 인종적/성별/연령 등 화자 특성에 따른 성능 격차(Bias)를 포착하지 못하는 한계가 있었습니다. 새로운 Monsoon 세트는 지리, 연령, 성별 등 9가지 축을 따라 변화하도록 설계되어 보다 현실적인 평가 환경을 제공합니다.
10월 7일1
HuggingFaceAI 번역헤드라인
huggingface/kernels 소개: 로컬 AI를 위한 200개 이상의 WebGPU 커널
Hugging Face가 로컬 AI 구동을 위한 WebGPU 커널 라이브러리 `@huggingface/kernels`와 207개 이상의 최적화된 커널 컬렉션을 공개했습니다. 이 커널들은 머신러닝의 핵심 연산을 다루며, 각 커널은 버전 관리 및 명시적인 계약과 함께 제공됩니다. 또한, 브라우저 기반 성능 테스트 스위트인 Fleet을 출시하여 크라우드소싱 방식으로 하드웨어 전반의 정확성과 성능 증거를 수집합니다.
10월 7일2
HuggingFaceAI 번역헤드라인
BenchMIRT: LLM 벤치마크는 실제로 무엇을 측정하는가?
BenchMIRT는 LLM 벤치마크를 개별 질문/과제 수준에서 감사하는 새로운 방법입니다. 이는 Item Response Theory (IRT)의 다차원 확장인 MIRT를 사용하여, 모델 성능에 기여하는 여러 근본적인 역량(예: 안전성, 일반 추론)을 분리 분석합니다. 이를 통해 벤치마크가 실제로 무엇을 측정하는지 심층적으로 파악할 수 있습니다.
10월 7일1
HuggingFaceAI 번역헤드라인
TRL과 OpenEnv를 사용해 코드로 수채화 그리는 모델 훈련하기
본 글은 언어 모델을 활용하여 코드로 수채화 그림을 그리는 과정을 TRL과 OpenEnv를 이용해 재현한 기술 보고서입니다. Hugging Face의 Jobs, Spaces 등을 사용하여 엔드투엔드 파이프라인을 구축하고, RL 환경 및 훈련 스크립트를 공개했습니다. 이는 예술적 아이디어를 공학적으로 접근하여 모든 결과물을 재현 가능하게 만드는 과정을 보여줍니다.
10월 7일1
HuggingFaceAI 번역헤드라인
3억 5천만 개 매개변수 모델을 100 GRPO 단계로 미세 조정하여 구조화된 출력 개선하기
본 가이드는 소형 모델(3억 5천만 개 매개변수)을 작업별로 미세 조정하여 구조화된 출력 성능을 개선하는 방법을 다룹니다. IFStruct 벤치마크를 통해 스키마 준수 능력을 테스트하며, `llama.cpp`와 같은 로컬 도구를 사용하여 평가 과정을 설명합니다.
10월 7일1
HuggingFaceAI 번역헤드라인
AUTOMATIC1111을 Gradio Workflow로 재구축하기
본 글은 Gradio의 Workflow 기능을 활용하여 AUTOMATIC1111의 복잡한 기능을 단일 워크플로우로 재구축하는 방법을 안내합니다. 73개 노드와 11개의 미디어 파이프라인으로 구성된 'Workflow1111'을 통해 text-to-image, hi-resolution fix 등 다양한 SOTA 모델 통합 과정을 보여줍니다.
10월 7일1
HuggingFaceAI 번역헤드라인
tokenizers v1: 인코딩, 디코딩 및 확장성 측정 결과
tokenizers v1의 출시로 토크나이저 성능이 대폭 개선되었습니다. 이 버전은 이전 버전에 비해 수십 배 빨라졌으며, 단일/멀티 스레드 및 다양한 하드웨어에서의 확장성을 측정했습니다. 이는 모델 워크로드 증가에 맞춰 토큰화 과정의 효율성과 속도를 극대화하는 데 중점을 둡니다.
10월 6일2
HuggingFaceAI 번역헤드라인
Transformers에서 llama.cpp 양자화 모델 실행 지원 추가
transformers 라이브러리가 GGUF 모델을 효율적으로 로컬 환경에서 실행할 수 있는 기능을 추가했습니다. 이를 통해 사용자는 노트북 메모리에 맞는 크기의 체크포인트를 기존 API를 활용해 쉽게 불러와 사용할 수 있게 되었습니다. 이는 llama.cpp가 주도하는 로컬 AI 생태계에 큰 발전을 가져왔습니다.
10월 6일1
HuggingFaceAI 번역헤드라인
oMLX 개발자 Jun Kim, Hugging Face 합류하여 MLX 커뮤니티 지원
oMLX 개발자 Jun Kim이 Hugging Face에 합류하여 MLX 커뮤니티 지원을 맡게 되었습니다. 이는 로컬 AI 사용의 가속화와 건강한 생태계 구축을 목표로 합니다. oMLX는 기존 프로젝트들의 기반 작업을 활용하며, 특히 트랜스포머 모델 정의를 다양한 엔진이 소비할 수 있는 참조 MLX 구현으로 전환하는 데 초점을 맞출 예정입니다.
10월 6일1
HuggingFaceAI 번역헤드라인
LFM2.5-VL-DSpark를 활용한 비전-언어 모델 가속화
LFM2.5-VL-3B용 DSpark 초안 모델을 공개하며 비전-언어 모델(VLM)의 추론 속도 향상 방안을 제시했습니다. 이 초안 모델은 메모리 사용량 증가를 최소화하면서 최대 3.13배(온디바이스) 및 2.66배(H100)의 디코드 속도 향상을 제공합니다. llama.cpp, MLX-VLM 등 다양한 환경에서 즉시 사용할 수 있도록 지원됩니다.
10월 6일1
HuggingFaceAI 번역헤드라인
Hub에 RL 환경을 환영합니다
Hugging Face Hub에 RL(강화학습) 환경을 공식적으로 지원하여, 데이터셋 레포지토리가 다양한 프레임워크에서 실행 가능한 환경 파일들을 호스팅할 수 있게 되었습니다. 이를 통해 기존의 사일로화된 환경 공유 문제를 해결하고, 사용자들이 어떤 프레임워크와도 쉽게 연동할 수 있도록 합니다.
10월 6일1
HuggingFaceAI 번역헤드라인
Open TTS 리더보드: 다국어 텍스트-음성 변환 및 음성 복제에 대한 확장 가능한 평가
본 기사는 오픈 소스 TTS 모델의 평가 표준화 필요성을 제기하며, 기존의 인간 선호도 기반 리더보드(아레나 스타일)의 한계를 지적합니다. 이에 따라 명료성(WER/CER), 속도(RTFx/TTFA), 화자 유사성(SIM) 등 객관적인 지표를 활용한 Open TTS Leaderboard를 제안했습니다.
10월 6일2
HuggingFaceAI 번역헤드라인
Transformers.js에서 제안된 Cross-Origin Storage API 실험하기
Transformers.js를 사용하여 브라우저 환경에서 AI 모델을 실행할 때 발생하는 Cross-Origin 저장소 문제를 다룹니다. 서로 다른 오리진의 앱이 동일한 모델이나 Wasm 런타임을 사용할 경우, 브라우저가 이를 재다운로드하여 저장 공간과 네트워크를 낭비하는 현상을 실험을 통해 보여줍니다.
6월 23일1
HuggingFaceAI 번역헤드라인
CUGA를 사용하여 실제 에이전트 앱 구축하기: 경량 하네스를 활용한 24가지 작동 예시
IBM의 오픈 소스 에이전트 하네스인 CUGA를 활용하여 복잡한 에이전트 앱 구축 과정을 단순화하는 방법을 소개합니다. CUGA는 계획, 실행 루프, 도구 호출 등 번거로운 배관 작업을 자동화하여 개발자가 도구와 프롬프트에만 집중할 수 있게 돕습니다.
6월 23일1