Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
XAI 번역요약
AI 에이전트가 시스템을 공격하고 방어하는 공개적인 사례가 시급합니다.
AI 에이전트가 시스템을 공격하고 방어하는 공개적인 사례(traces)의 필요성을 강조합니다. 방어자들은 관찰할 수 없는 위협으로부터 학습할 수 없으므로, 이러한 실제 사례 공유를 통해 AI 분야의 투명성과 공정성을 확보해야 한다고 주장합니다.
10월 8일1
XAI 번역요약
Claude Code, Codex, Hermes, Pi, @opencode 등 코딩 하니스를 RL 환경으로 변환
본 글은 Claude Code, Codex 등 다양한 코딩 하니스를 강화학습(RL) 환경으로 변환하는 방법을 제시합니다. 핵심은 모델 API와 통신하는 캡처 프록시를 구현하여, 실제 하니스가 환경 역할을 수행하도록 만든 것입니다. 이를 통해 모델의 행동을 정밀하게 제어하고 성능 향상을 입증했습니다.
10월 7일1
XAI 번역요약
Decision 모델이 llama.cpp에서 기기 상으로 구동됩니다. 무료, 빠르고 개인적입니다!
Decision 모델이 llama.cpp를 통해 기기(on device) 상에서 구동될 수 있게 되었습니다. 이는 사용자에게 무료, 빠르고 개인적인 AI 경험을 제공하며, 관련 사용법과 링크가 공유되었습니다.
10월 2일1
XAI 번역요약
우리가 아는 바에 따르면 (과도하게 믿지 마세요, 더 많은 투명성이 필요합니다!), 만약 @OpenAI가 자체 에이전트로 이를 실행했다면...
OpenAI의 에이전트가 자체 공격을 수행할 경우 발생할 수 있는 보안 취약점을 분석하고, 이에 대한 새로운 방어 메커니즘을 제시합니다. 기존의 화이트리스트만으로는 에이전트의 행동(payload)까지 제한하기 어렵다는 문제점을 지적하며, NVIDIA의 Open Agent Safety Platform에 기여한 'OpenShell'을 소개합니다.
9월 28일1
XAI 번역요약
최초로 공개된 에이전트 사이버 공격 피해 사례를 통해 새로운 위험을 목격하다
최초로 공개된 에이전트 사이버 공격 피해 사례를 직접 목격한 경험을 바탕으로, 새로운 유형의 위험에 대한 분석과 통찰을 공유합니다. 이 내용은 정책 입안자들과 논의하고 전문 컨퍼런스에서 발표될 예정입니다.
9월 15일1
XAI 번역요약
NVIDIA와 협력하여 129억 3,030만 달러 규모의 인수를 진행하게 된 것을 기쁘게 생각합니다
Hugging Face는 NVIDIA와 협력하여 대규모 인수를 진행하며 오픈소스 AI 생태계의 변곡점에 대응합니다. 이 파트너십은 Hugging Face가 플랫폼을 개방적이고 컴퓨팅 자원 중립적으로 유지하면서, 커뮤니티 주도의 오픈소스를 AI 구축의 핵심 방식으로 확립하는 데 초점을 맞추고 있습니다.
9월 6일1
XAI 번역요약
첫 번째 자율 에이전트 사이버 공격은 전례 없는 사건이며, 그에 걸맞은 전례 없는 투명성이 필요합니다.
첫 번째 자율 에이전트 기반의 사이버 공격 사례를 분석하고, 이에 대응하기 위한 기술적 타임라인과 방어 전략을 공개합니다. 오픈 모델을 활용한 방어 체계 구축 과정을 공유하여 보안 전문가들이 대비할 수 있도록 돕습니다.
7월 28일1
XAI 번역요약
접근 가능하거나 오픈 소스(open-source)인 AI 시스템이 더 안전한 이유
오픈 소스 AI 시스템이 더 많은 검증과 테스트를 통해 보안 결함을 빠르게 발견하고 수정할 수 있어 더 안전하다는 점을 강조합니다. 이를 위해 연구 기관 연합과 함께 AI 결함 보고 표준인 FLARE를 출시했습니다.
7월 1일1
XAI 번역요약
HF는 로보틱스 및 비디오 AI와 같이 데이터 규모가 거대한 분야를 위한 공개 및 비공개 데이터 저장의 최적의 장소로 조용히 자리 잡고
Hugging Face(HF)가 로보틱스 및 비디오 AI와 같이 대규모 데이터가 필요한 분야에서 최적의 데이터 저장 및 스트리밍 플랫폼으로 자리 잡고 있습니다. 효율적인 데이터 스트리밍을 통해 GPU 유휴 상태를 방지하고 학습 속도를 극대화하는 기술적 이점을 설명합니다.
6월 23일1
XAI 번역요약
테스트된 모델 간 작업당 비용 약 800배 차이: Claude Fable 5가 벤치마크를 선도하지만 평균 작업당 비용은 $31 이상인 반면...
다양한 AI 모델의 벤치마크 성능과 작업당 비용을 비교 분석한 결과, Claude Fable 5는 높은 성능을 보이지만 비용이 매우 높았습니다. 반면 DeepSeek V4 Flash와 GLM-5.2 같은 모델은 압도적인 가성비를 보여주었습니다.
6월 19일1
XAI 번역요약
직시합시다: 사후 API 가드레일(guardrails)은 프런티어 모델(frontier models)을 위한 올바른 안전 도구가 아닙니다.
사후 API 가드레일은 모델의 근본적인 위험 능력을 제거하지 못하며 탈옥에 취약하다는 점을 지적합니다. 대신 강력한 평가, 단계적 출시, 오픈 소스 지원 및 독립적 검증을 통한 근본적인 안전 확보를 제안합니다.
6월 18일1
XAI 번역요약
Gemma 챌린지 발표!
Google과 오픈 소스 커뮤니티는 AI 빌더들을 사보타주하기보다 역량 강화에 초점을 맞추고 있습니다. 특히 Hugging Face와 같은 플랫폼이 에이전트 간의 협업을 지원하는 허브 역할을 할 것으로 기대됩니다.
6월 14일1
XAI 번역요약
AI 평가의 구조적 문제점: 투명성 부족과 폐쇄형 API 선호
본 글은 현재 AI 평가(evals) 시스템이 구조적으로 투명성이 부족한 폐쇄형 API를 선호하는 문제점을 지적합니다. 라우팅, 폴백, 앙상블 등 백그라운드 과정들이 불투명하게 작동하여 공정한 비교가 어렵다는 비판입니다.
6월 12일1
XAI 번역요약
Opus 4.8의 성능 평가에 대한 오해와 '분할의 오류' 설명
본 글은 특정 모델(Opus 4.8, Fable 5)의 성능 평가에 대한 오해와 '분할의 오류'를 지적합니다. 단순히 평균 점수가 낮다고 해서 모든 질의에서 성능이 떨어진다는 결론을 내릴 수 없으며, 개별 벤치마크에서는 오히려 더 나은 성능을 보일 수 있음을 설명합니다.
6월 12일1
XAI 번역요약
내러티브의 위반: Stanford 연구에 따르면 로컬 모델이 실세계 채팅 및 추론 질의의 71.3%를 정확하게 답변할 수 있음
Stanford 연구에 따르면 로컬 모델의 실세계 채팅 및 추론 질의 정확도가 71.3%까지 상승했습니다. 이는 대부분의 작업에 고비용의 프런티어 모델이 필요하지 않음을 시사하며, 효율적인 멀티 모델 전략의 중요성을 강조합니다.
6월 8일0
XAI 번역요약
토큰 비용 때문에 SaaS 종말은 일어나지 않을 것입니다 / 좋은 개발 도구는 에이전트를 위한 캐시된 지능입니다!
에이전트가 모든 도구를 직접 구현하는 대신, 잘 설계된 CLI와 같은 추상화 계층을 사용하는 것이 토큰 비용 절감과 성공률 향상에 필수적임을 강조합니다. 좋은 개발 도구는 에이전트가 매번 추론할 필요가 없는 '캐시된 지능' 역할을 합니다.
6월 5일1
XAI 번역요약
HF 인프라 최적화 및 xet 중복 제거를 통한 68TB 데이터셋 복제
Hugging Face(HF)의 인프라 최적화와 xet 중복 제거 기술을 활용하여 4TB의 로컬 디스크 환경에서도 68TB 규모의 대규모 데이터셋을 1분 이내에 복제하는 방법을 소개합니다.
6월 1일2
XAI 번역요약
AI 안전은 밀실에서 이루어질 수 없습니다!
AI Security Institute가 Hugging Face를 통해 AI 안전 평가 도구, 데이터셋, 모델을 공개했습니다. 이를 통해 전 세계 연구자들이 AI 안전 기술을 검증하고 발전시킬 수 있는 개방형 연구 환경이 조성되었습니다.
5월 30일1
XAI 번역요약
HF 사이언스 팀이 비동기 RL 가중치 동기화의 대역폭 비용을 약 100배 절감했으며, 이제 공유 클러스터가 필요하지 않습니다.
HF 사이언스 팀이 비동기 강화학습(RL) 시 발생하는 가중치 동기화 대역폭 비용을 약 100배 절감하는 기술을 개발했습니다. 변경된 요소만 희소 safetensors로 인코딩하여 전송함으로써, 고가의 공유 클러스터 없이도 분리형 학습이 가능해졌습니다.
5월 28일1
XAI 번역요약
300,000명의 AI 빌더들이 @huggingface에 하드웨어 프로필을 작성했습니다. 그 결과를 공유합니다.
Hugging Face의 30만 명의 AI 빌더를 대상으로 한 하드웨어 프로필 조사 결과를 공유합니다. 로컬 AI의 폭발적인 성장세와 향후 하드웨어 활용 트렌드를 확인할 수 있습니다.
5월 24일1