Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
본 글은 Meta와 Hugging Face가 개발한 오픈소스 프레임워크 OpenEnv를 소개하며, AI 에이전트의 실제 환경 적용 가능성을 평가하는 방법을 다룹니다. 특히 Turing에서 제작한 'Calendar Gym'을 통해 접근 제어(Access Control), 시간 추론(Temporal Reasoning), 다단계 워크플로우 등 현실적인 제약 조건 하에 도구 사용 능력을 검증합니다. 분석 결과, 에이전트들이 단일 작업에서는 높은 성능을 보이지만, 장기적이고 모호하며 복잡한 다단계 추론 과정에서 신뢰성이 크게 떨어진다는 한계
본 글은 AI 코딩 에이전트(Codex, Claude 등)에게 도메인 지식(Domain Knowledge)을 주입하여 복잡한 CUDA 커널 개발 작업을 자동화하는 방법을 소개합니다. 기존에는 GPU 아키텍처별 최적화 가이드, PyTorch 라이브러리 통합 패턴, 환경 설정 문제 등으로 인해 전문적인 지식이 필수였으나, 새로운 에이전트 스킬(Skill)을 통해 이 모든 복잡한 과정을 구조화된 컨텍스트로 제공합니다. 그 결과, 에이전트는 H100 같은 특정 GPU 아키텍처를 타겟으로 하는 RMSNorm이나 어텐션 커널을 성공적으로 생성
Gradio의 `gr.HTML` 컴포넌트가 커스텀 템플릿, 스코프 CSS, JavaScript 상호작용을 지원하며 웹 앱 개발의 패러다임을 바꿉니다. 이를 통해 프론트엔드, 백엔드, 상태 관리를 모두 단일 Python 파일로 구현할 수 있게 되었습니다. 복잡한 인터랙티브 컴포넌트(예: 포도 타이머 애니메이션, 3D 카메라 제어, 실시간 음성 전사)를 별도의 빌드 과정 없이 즉시 배포 가능한 형태로 만들 수 있어, LLM을 활용한 아이디어-코드-배포 사이클을 극도로 단축합니다.
본 글은 IBM Research와 UC Berkeley가 실제 IT 자동화 환경에서 LLM 에이전트 시스템의 실패 원인을 진단하는 방법을 제시합니다. 기존 벤치마크가 단순 성공률만 측정하여 '실패 여부'만 알려줬다면, 연구진은 MAST (Multi-Agent System Failure Taxonomy)를 개발해 실패를 구조화된 시그니처로 분석했습니다. ITBench(SRE/보안/FinOps 자동화 표준 벤치마크)의 SRE 트레이스 310개를 Gemini-3-Flash, Kimi-K2, GPT-OSS-120B 세 가지 모델에 적용한지
본 가이드는 Unsloth의 효율적인 트레이닝 기술과 Hugging Face Jobs를 결합하여 대규모 언어 모델(LLM)을 저렴하고 쉽게 파인튜닝하는 방법을 제시합니다. 특히 LFM2.5-1.2B-Instruct와 같은 소형 모델은 1GB 미만의 메모리로도 구동되어 온디바이스 배포에 최적화됩니다. 독자들은 Unsloth Jobs Explorers 그룹 가입을 통해 무료 크레딧과 Pro 구독 기회를 얻을 수 있습니다. 또한, Claude Code나 Codex 같은 코딩 에이전트를 활용하면 복잡한 CLI 명령어 없이도 프롬프트만으로
llama.cpp의 핵심 개발팀이 Hugging Face(HF)에 공식적으로 합류하여, 로컬 환경에서의 대규모 언어 모델(LLM) 추론 생태계의 장기적인 발전을 목표로 합니다. llama.cpp는 로컬 추론의 근간이며, HF의 Transformers 라이브러리는 모델 정의의 핵심 역할을 수행합니다. 이번 협력을 통해 두 기술 스택을 더욱 매끄럽게 통합하여, 사용자들이 새로운 오픈소스 LLM을 '원클릭'에 가깝게 배포하고 접근할 수 있도록 사용자 경험(UX)과 패키징을 개선하는 데 초점을 맞출 것입니다. 이는 로컬 AI가 클라우드 추
기존 LLM은 모델 크기(파라미터 수)를 늘리는 '밀집 스케일링'에 의존해왔으나, 이는 높은 학습 비용과 추론 지연 시간 증가라는 한계에 직면했습니다. Mixture of Experts (MoEs)는 이 문제를 해결하는 대안으로, 트랜스포머의 피드-포워드 레이어(Feed-Forward Layer) 일부를 여러 개의 '전문가(Experts)'로 대체합니다. 각 토큰은 라우터(Router)를 통해 필요한 소수의 전문가만 활성화하여 사용하므로, 전체 파라미터 수 대비 실제 추론 시 사용하는 계산량(Active Parameters)을 획기
본 글은 기존에 개별적으로 검증했던 다양한 Diffusion Model의 최신 트레이닝 기법들을 하나로 통합하여, 제한된 컴퓨팅 예산(24시간, $1500) 내에서 Text-to-Image 모델을 학습시키는 실질적인 방법을 제시합니다. 핵심 내용은 픽셀 공간 (pixel space)에서의 직접 예측 방식을 채택하고, LPIPS 및 DINOv2 기반의 지각 손실(perceptual loss)을 추가하여 성능과 수렴 속도를 극대화하는 것입니다. 또한 TREAD를 활용한 토큰 라우팅(token routing)과 REPA를 이용한 표현 정
Modular Diffusers는 기존 `DiffusionPipeline`보다 유연하고 조합 가능한(composable) 대안을 제공합니다. 이 기능을 통해 텍스트 인코딩, 이미지 인코딩, 디노이징, 디코딩 등 확산 모델의 각 구성 요소를 독립적인 '블록'으로 분리하여 관리할 수 있습니다. 개발자는 이러한 블록들을 자유롭게 추가, 제거, 교체하며 자신만의 워크플로우를 구축할 수 있으며, 이를 노드 기반 인터페이스(Mellon)와 연동하거나 커스텀 Python 클래스로 구현하여 복잡한 AI 파이프라인을 효율적으로 설계하고 최적화할 수
최근 LLM의 발전으로 멀티모달 시스템이 등장했으며, 특히 Vision–Language–Action (VLA) 모델은 로봇 행동 생성까지 가능하게 했습니다. 하지만 이러한 첨단 모델을 컴퓨팅, 메모리, 전력 제약이 심한 임베디드 로봇 플랫폼에 배포하는 것은 복잡한 시스템 엔지니어링 문제입니다. 본 가이드는 NXP의 실질적인 모범 사례를 제시하며, 신뢰성 높은 로봇 데이터셋 기록 방법, VLA 정책(ACT 및 SmolVLA) 미세 조정(Fine-Tuning) 기법, 그리고 NXP i.MX 95 SoC에서의 실시간 성능 최적화 방안을
LeRobot v0.5.0은 지원 하드웨어 범위를 대폭 확장하고, 최신 AI 정책을 도입하며, 전체 시스템 성능을 개선한 주요 업데이트입니다. 가장 큰 변화는 Unitree G1 휴머노이드 전신 제어(Whole-Body Control)를 완벽하게 통합했다는 점입니다. 또한, Pi0-FAST (자가회귀적 Vision-Language-Action 모델), Wall-X (Qwen2.5-VL 기반 VLA), X-VLA (Florence-2 기반 VLA) 등 6가지 새로운 정책을 추가하여 로봇 학습의 다양성을 높였습니다. 실시간 추론 성능을
Ulysses Sequence Parallelism (SP)은 트랜스포머 모델의 핵심인 어텐션(Attention) 계산을 여러 GPU에 분산시켜 수백만 토큰 길이의 컨텍스트 학습을 가능하게 하는 기술입니다. 기존 방식이 메모리 한계로 인해 긴 시퀀스를 처리하기 어려웠으나, Ulysses는 시퀀스 차원과 어텐션 헤드(Attention Head)를 동시에 파티셔닝하여 효율적인 병렬 처리를 구현합니다. Hugging Face Accelerate와 TRL의 SFTTrainer 등 주요 라이브러리에 통합되어 실제 장문 컨텍스트 학습 워크플로
대규모 강화학습(RL) 모델을 효율적으로 학습시키기 위해서는 동기식(synchronous) 구조의 한계를 극복해야 합니다. 기존 방식은 데이터 생성(모델 추론, inference) 단계가 전체 시간을 지배하여 GPU 자원이 유휴 상태로 방치되는 병목 현상이 발생합니다. 본 글은 이 문제를 해결하기 위해 '추론'과 '학습'을 분리하고, 롤아웃 버퍼를 통해 비동기적으로 연결하는 아키텍처 패턴을 분석했습니다. 16개의 오픈소스 라이브러리를 조사한 결과, Ray가 오케스트레이션에서 강점을 보였으며, NCCL 브로드캐스트가 가중치 전송의 주
H Company가 NVIDIA의 Nemotron-Nano-2 VL 모델을 기반으로 개발한 멀티모달 컴퓨터 사용 에이전트 모델, Holotron-12B를 공개했습니다. 이 모델은 기존의 정적 비전이나 단순 명령어 수행에 초점을 맞춘 모델들과 달리, 복잡하고 상호작용적인 환경에서 '인지(Perceive), 결정(Decide), 행동(Act)'하는 에이전트 정책 모델을 목표로 합니다. Holotron-12B의 핵심 강점은 추론 효율성입니다. 하이브리드 State-Space Model (SSM)과 Attention 메커니즘을 결합한 독
본 보고서는 오픈 소스 AI 분야의 급격한 성장을 다룹니다. Hugging Face 사용자는 1,300만 명에 달하고 공개 모델은 2백만 개 이상으로 증가했습니다. 이는 단순한 관심 증대를 넘어, 사용자들이 파인튜닝(fine-tuned) 모델이나 어댑터 같은 파생 결과물을 적극적으로 생성하는 참여형 생태계로 변화했음을 의미합니다. 생태계는 여전히 집중되어 있지만, 미국과 중국을 중심으로 글로벌 역학 관계가 크게 변했습니다. 특히 개발 주체 측면에서 독립 개발자 및 소규모 집단이 전체 다운로드의 상당 부분을 차지하며 혁신 확산에 핵심
본 글은 일반 목적의 임베딩 모델을 특정 도메인(Domain)에 최적화하는 방법을 소개합니다. 별도의 수동 라벨링 없이, NVIDIA의 파이프라인과 LLM을 활용하여 합성 데이터(Synthetic Data)를 자동으로 생성할 수 있습니다. 이 과정을 통해 얻은 데이터를 사용하여 임베딩 모델을 미세 조정(Fine-tuning)하면 검색 성능(Recall@10, NDCG@10 등)에서 10% 이상의 개선 효과를 확인할 수 있습니다. 특히 'Hard Negative Mining' 기법을 적용하여 단순히 관련 없는 데이터가 아닌, 오답처럼
기존 음성 에이전트 평가는 '정확도(Accuracy)'와 '대화 경험(Experience)'을 분리하여 다루는 한계가 있었습니다. EVA(End-to-End Evaluation) 프레임워크는 이를 통합적으로 평가하는 최초의 방법론입니다. EVA는 실제 봇 간 대화 환경에서 에이전트의 성능을 측정하며, 단순히 작업 성공 여부뿐만 아니라 자연스러움, 간결성 등 음성 상호작용 경험까지 종합 점수(EVA-A, EVA-X)로 산출합니다. 이 프레임워크는 항공 예약 변경 등의 시나리오를 기반으로 구축되었으며, 에이전트의 정확도와 사용자 경험은
OpenClaw, Pi 또는 Open Code 에이전트의 기능을 복구해야 할 때, 두 가지 주요 방법을 사용할 수 있습니다. 첫째는 Hugging Face Inference Providers를 통해 오픈 모델을 사용하는 것이며, 이는 가장 빠르고 쉬운 방법입니다. 둘째는 Llama.cpp 등을 이용해 로컬 환경에 직접 모델을 구동하는 것입니다. 로컬 방식은 완벽한 개인 정보 보호와 API 비용 제로, 그리고 무제한 실험 기회를 제공합니다. 사용자는 자신의 에이전트에게 도움을 요청하여 이 과정을 시작할 수 있으며, 각 방식의 장단점을
TRL(Transformer Reinforcement Learning)은 75가지가 넘는 다양한 포스트 트레이닝(Post-training) 방법을 구현하며, LLM 분야의 급변하는 특성을 반영하여 v1.0을 출시했습니다. 과거 PPO, DPO, ORPO 등 여러 방법론이 등장하면서 '보상 모델 (Reward Model)'이나 '값 모델 (Value Model)' 같은 핵심 구성 요소들이 선택적이거나 아예 불필요해지는 등 패러다임 자체가 변화했습니다. TRL은 이러한 불안정한 환경에 대응하기 위해, 안정성을 보장하는 코어(Stable
OpenMed는 치료용 단백질 개념을 발현 가능한 DNA 서열로 변환하는 엔드투엔드(end-to-end) AI 파이프라인을 구축했습니다. 이 파이프라인은 ①단백질 구조 예측, ②아미노산 서열 설계, ③코돈 최적화의 세 단계로 구성됩니다. 특히 코돈 최적화 부분에 집중하여 여러 트랜스포머(transformer) 아키텍처를 비교한 결과, CodonRoBERTa-large-v2가 가장 우수한 성능을 보였습니다. 이를 25종의 생물종으로 확장하고 총 4개의 모델을 개발하는 데 성공했으며, 이는 오픈 소스 프로젝트 중 독보적인 성과입니다.