Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
XAI 번역요약
집단 보상 기반 강화학습(RLCR) 소개
RLCR(집단 보상 기반 강화학습)은 메시지 공유 공간을 활용하여 에이전트 조직으로 언어 모델을 훈련시키는 새로운 방법론입니다. 이 연구는 집단 지능과 다중 에이전트 안전성 연구를 위한 실험실을 제공하며, 노동 분업 학습이나 '집단 사고'의 출현 등 흥미로운 결과를 발견했습니다.
24분 전0
XAI 번역요약
OpenCode, 사이버 공격 중 거대 모델이 안전 가드레일로 인해 방어에 어려움을 겪다
OpenCode가 사이버 공격을 겪는 과정에서, 방어 목적으로 사용되던 최첨단 모델들이 안전 가드레일(safety guardrails) 작동으로 인해 공격 에이전트와의 대결을 거부하는 문제가 발생했습니다. 이는 AI 시스템의 보안 및 방어 메커니즘 설계 시 '안전성'과 '방어력' 사이의 근본적인 취약점을 보여줍니다.
6시간 전0
XAI 번역요약
이전 Carbon 모델 및 Evo2와의 성능 비교와 DNA 성능에 대한 참고 사항
이 글은 새로운 모델의 성능을 이전 Carbon 및 Evo2와 비교하며, DNA 성능에 대한 참고 사항을 제공합니다. 다만, 새 모델이 오직 160B DNA 토큰으로만 학습되어 기존 1T 토큰 기반 모델 대비 성능 포화도가 낮다는 점을 유의해야 합니다.
1일 전0
XAI 번역요약
훌륭한 출시이며, sub-100B 영역에서도 여전히 혁신이 가능하다는 증거!
본 글은 모델의 혁신 가능성을 강조하며, 특히 sub-100B 규모에서도 뛰어난 성과를 낼 수 있음을 보여줍니다. Eureka가 Flint을 학습하는 과정의 시간 지평(time-horizon) 차트를 언급하며, 이는 'Recursive' 기능이 제대로 작동함을 입증하는 핵심 증거로 제시됩니다.
1일 전0
XAI 번역요약
Carbon-X: DNA와 자연어를 통합한 대화형 인터페이스
Carbon-X는 DNA 데이터와 자연어를 결합하여 대화형 인터페이스를 제공하는 새로운 AI 모델입니다. 사용자는 마치 ChatGPT처럼 복잡한 생물학적 질문을 던지고, 이에 대해 상호작용하며 정보를 얻을 수 있습니다. 이는 생명과학 분야의 연구 방식에 혁신을 가져올 것으로 기대됩니다.
1일 전0
XAI 번역요약
다음 주 SF에서 열리는 COLM 컨퍼런스에 참석합니다!
글쓴이는 다음 주 SF에서 열리는 COLM 컨퍼런스에 참석하며, 다중 에이전트 시스템의 테스트 시간 통신/협업, math 2.0, 오픈 정렬 등의 주제로 논의할 예정입니다. 특히 여러 환경(harnesses)에서 모델 성능 차이가 발생하는 문제를 해결하기 위해, 환경 자체 내에서 RL로 모델을 훈련시키는 방법을 제안하는 기술 자료를 공유했습니다.
10월 7일0
XAI 번역요약
Hugging Face Journal Club에서 Kimi K3 기술 보고서를 병렬로 읽으며 대규모 증류 공격 (distillation
Hugging Face Journal Club에서 분석한 Kimi K3 기술 보고서에 따르면, 최첨단 성능은 특정 비법보다는 증류, RL 스케줄링, 양자화 등 복합적인 알고리즘과 인프라의 최적화 결과입니다. 전문가 학습 후 멀티 티처 OPD를 통한 증류와 추론 노력을 학습 가능한 능력으로 다루는 방식이 핵심입니다.
7월 29일0
XAI 번역요약
오늘 Hugging Face 저널 클럽에서 매우 흥미로운 논문을 읽었습니다: “Battling Staleness in Async OPD.”
비동기적 온라인 정책 증류(Async OPD)를 통해 생성과 학습을 분리하여 처리량을 약 2배 개선한 연구를 소개합니다. 로컬 몬테카를로 샘플링과 중요도 보정을 사용하여 데이터 신선도 저하 문제를 해결하고 수학 분야에서 높은 성능을 입증했습니다.
7월 21일0
XAI 번역요약
Guilherme과 Hynek이 모델 학습용 데이터를 정제하는 경험을 바탕으로 로보틱스 분야에 진출합니다
Guilherme과 Hynek이 데이터 정제 경험을 바탕으로 로보틱스 분야에 진출합니다. 이들은 FineWeb, FineTranslations 등 지저분하고 비정형적인 데이터를 모델 학습용 '황금 같은' 데이터로 변환해 온 전문성을 보유하고 있습니다.
6월 11일0
XAI 번역요약
Carbon 기술 보고서가 bioRxiv에 공개되었습니다. 완전히 개방적이고 효율적인 DNA 모델을 훈련하기 위한 상세한 레시피를 제공합니다
Carbon 기술 보고서가 bioRxiv에 공개되었습니다. 이 보고서는 완전히 개방적이고 효율적인 DNA 모델을 훈련하기 위한 상세한 방법론과 레시피를 제공합니다.
5월 26일0
XAI 번역요약
Gemini 3.5 Flash 출시. 그래서 CritPt의 Physics-Intern에 연결해 보았습니다...
새롭게 출시된 Gemini 3.5 Flash를 물리학 연구용 에이전트 프레임워크인 Physics-Intern에 적용한 실험 결과입니다. 실험 결과, 기존 Gemini 3.1 Pro를 사용했을 때보다 Physics-Intern의 문제 해결 성능이 13.1%에서 22.9%로 크게 향상되었습니다.
5월 21일0
XAI 번역요약
장기적 과제(long-horizon tasks)의 최근 진전과 RL 학습 및 환경에 관한 오픈 소스(OS) 커뮤니티의 트렌드 요약 발표 슬라이드
장기적 과제(long-horizon tasks)의 최신 진전 사항과 강화학습(RL) 학습 및 환경에 관한 오픈 소스 커뮤니티의 트렌드를 요약한 발표 자료입니다. 특히 에이전트 활용 사례에 강화학습을 적용하는 방법과 오픈 소스 생태계가 직면한 근본적인 과제들을 다룹니다.
5월 21일0
XAI 번역요약
모델 트레이너의 저주: 모델 학습 능력이 향상될수록 평가 (Evals)에 더 많은 시간을 소비하게 된다
모델 학습 능력이 고도화될수록 이를 검증하기 위한 평가(Evals) 작업에 소요되는 시간이 비례하여 증가하는 현상을 '모델 트레이너의 저주'라고 정의합니다.
5월 20일2
XAI 번역요약
생성형 DNA를 위한 가장 효율적인 파운데이션 모델, Carbon을 공개하게 되어 기쁩니다
생성형 DNA 설계를 위한 고효율 파운데이션 모델인 Carbon을 공개했습니다. Carbon-3B 모델은 기존 DNA 모델들과 대등한 성능을 유지하면서도 추론 속도를 275배 이상 혁신적으로 개선했습니다.
5월 20일1
XAI 번역요약
RL 코딩 환경 101: Harbor가 존재하는 이유
코딩을 강화학습(RL) 태스크로 다루는 것이 주목받고 있으며, RL 코딩 환경에 대한 이해가 중요해지고 있습니다. 모델 자체를 구현하는 것보다도 주변 인프라와 시스템 구축이 더 큰 난관입니다.
5월 14일3
XAI 번역요약
우리는 방금 @huggingface Spaces 트렌딩 1위를 달성했습니다: “RL 환경을 위한 궁극의 가이드”는 LLM을 위한 RL 환경
본 기사는 'RL 환경을 위한 궁극의 가이드'라는 콘텐츠가 Hugging Face Spaces 트렌딩 1위를 달성했음을 알립니다. 이 가이드는 LLM(대규모 언어 모델)을 활용한 강화학습(Reinforcement Learning, RL) 환경 구축 및 확장 방법을 심도 있게 다루고 있습니다. 따라서 RL과 에이전트 분야를 탐구하는 사용자들에게 유용한 자료입니다.
5월 13일5
XAI 번역요약
@dlouapre와 @joelniklaus가 현실에 대한 우리의 가장 깊은 이해에 관한 문제를 해결하기 위해 에이전트형 하네스 (agentic
dlouapre와 joelniklaus가 현실 세계의 근본적인 이해 문제를 해결하기 위해 '에이전트형 하네스(agentic harnesses)'를 구축하는 연구를 진행했습니다. 이 접근 방식은 순수 수학과 달리 이론 물리학처럼 형식화나 RLVR을 이용한 힐 클라이밍 기법 적용이 어려운 분야에 초점을 맞추고 있습니다.
5월 13일2
XAI 번역요약
저자들이 자신들의 방법을 Muon의 슈퍼파트너(superpartner)인 Smuon이라고 부르지 않은 것은 놓쳐버린 기회네요 :)
본 기사는 SV(Singular Values)를 무작위 노이즈로 대체한 Muon의 변형인 Kaon이라는 방법을 소개합니다. 이 방법은 Muon과 일치하며, 이는 Muon의 성능이 특정 기하학적 구조에 의존하지 않음을 시사합니다. 또한, Muon이 안정적인 최적화 단계 크기를 제공하여 훈련 과정에서 더 효과적인 학습률을 생성한다는 점도 강조하고 있습니다.
5월 13일2
XAI 번역요약
HUGGING FACE JUST OPEN-SOURCED THE ML INTERN EVERY RESEARCHER HAS DREAMED OF
Hugging Face가 연구자들이 오랫동안 꿈꿔왔던 'ML Intern'이라는 자율 에이전트를 오픈소스로 공개했습니다. 이 ML Intern은 단순히 코드를 작성하는 것을 넘어, 머신러닝 논문 분석부터 데이터셋 탐색, 모델 학습 및 디버깅, 반복 개선, 최종 배포에 이르기까지 연구 전 과정의 핵심 작업을 수행할 수 있습니다.
5월 8일14
XAI 번역요약
Introducing a new paper! Beyond Benchmarks: MathArena as an Evaluation Platform
기존의 정적 벤치마크는 모델 성능 개선 속도를 따라잡기 어렵기 때문에, 본 논문은 지속적으로 업데이트되는 평가 플랫폼인 MathArena를 제안합니다. MathArena는 최종 답변 문제 해결부터 형식 증명(Lean)에 이르기까지 다양한 수학 능력을 포괄하며, 단순한 정확도 지표를 넘어 증명의 명확성 같은 질적 측면을 측정하는 것이 중요함을 보여줍니다. 연구진은 모델 성능의 진전이 비정상적이며, 특히 증명의 품질과 같이 새로운 평가 기준이 필요하다고 강조합니다.
5월 7일7