Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
XAI 번역요약
100B+ 파라미터 교사 모델을 사용한 On-policy distillation이 이제 TRL에서 가능해졌으며, 기존 방식보다 최대 40배 더
TRL 라이브러리를 통해 100B+ 파라미터의 대형 교사 모델을 활용한 On-policy distillation이 구현 가능해졌으며, 기존 방식 대비 최대 40배 빠른 속도를 달성했습니다. 이 성과는 생성 버퍼를 도입하여 vLLM의 롤아웃 효율성을 높이고, 요청 배치 및 logprob에 대한 이진 인코딩을 적용한 최적화된 교사 서버 구축 덕분에 가능했습니다.
5월 15일0
XAI 번역요약
ml-intern이 실제 과제를 통과하지 못했다면 제대로 된 HF 인턴이라고 할 수 없었을 것입니다...
Hugging Face(HF)는 지원자들이 실제 과제를 통해 역량을 검증받도록 '테이크홈' 과제를 진행했습니다. 이 과제는 논문 방법론 선택부터 HF Jobs를 사용한 실험 실행, 정확도 개선 및 결과 보고까지 엔드투엔드 과정을 포함합니다. 특히 AI 도구의 활용 여부를 공개하도록 요구하여 지원자의 투명성을 높였습니다.
5월 15일1
XAI 번역요약
모든 것은 에이전트들이 서로 통신하고, 아티팩트 (artifacts)를 공유하며, 리더보드 (leaderboard)를 업데이트할 수 있는
모든 AI 에이전트 기반 애플리케이션은 Hugging Face 버킷에 통합되어 배포될 예정입니다. 이 시스템에서는 여러 에이전트들이 서로 통신하고, 작업 결과물인 아티팩트를 공유하며, 성능을 측정하는 리더보드를 업데이트할 수 있습니다. 글쓴이는 자신의 ml-intern 프로젝트를 이미 출시했으며, 이를 통해 기대되는 성과에 대한 기대를 표명했습니다.
5월 15일3