Mach-Mind-4-Flash 기술 보고서

원문 발행 2026. 07. 10. 21:57원문 언어 영어AI 한국어 번역arXiv cs.CL (NLP) 원문 보기

요약

Mach-Mind-4-Flash는 35B MoE 에이전트 모델로, 활성화 파라미터가 3B에 불과함에도 불구하고 100B급 모델 이상의 성능을 달성했습니다. 이 모델은 RL/OPD 훈련 인프라와 Multi-Teacher On-Policy Distillation(MOPD) 같은 최적화 기법을 통해 높은 효율성과 강력한 에이전트 능력을 입증했습니다.

핵심 포인트

35B MoE 구조에 활성화 파라미터는 3B로 매우 효율적입니다.
Multi-Teacher On-Policy Distillation(MOPD)으로 성능 저하 없이 모델을 통합합니다.
Hybrid Median-length Policy Optimization(HMPO)으로 추론 체인을 압축했습니다.
다양한 벤치마크에서 높은 점수를 기록하며 강력한 에이전트 능력을 보여줍니다.

우리는 35B 파라미터의 Mixture-of-Experts (MoE) 에이전트 모델인 Mach-Mind-4-Flash를 소개합니다. 이 모델은 활성화된 파라미터가 3B에 불과합니다. 사전 학습 컴퓨팅을 확장하지 않은 포스트 트레이닝 최적화만으로도, 이 모델은 100B 파라미터급 모델과 동등하거나 그 이상의 성능을 달성합니다. 대규모 강화학습(RL)을 위한 확장 가능한 에이전트 상호작용 환경을 도입함으로써, 이 모델은 실제 응용 과제에서 상당한 성능 향상을 얻습니다. 우리의 파이프라인은 세 단계를 포함합니다: (1) 동적 다중 교사 스케줄링 및 연산자 레벨 가속 기능을 갖춘 통합 RL/OPD 훈련 인프라로, 엔드투엔드(end-to-end) 훈련 속도를 17% 향상시킵니다; (2) 추론(Reasoning), 일반(General), 에이전트(Agent) 트랙 전반에 걸쳐 병렬로 훈련된 여러 도메인별 RL 전문가들이 Multi-Teacher On-Policy Distillation (MOPD)을 통해 단일 범용 모델로 융합됩니다. MOPD는 혼합 보상 RL의 시소식 성능 저하를 제거하는 라우팅된 역(reverse)-KL 목적 함수입니다; (3) Hybrid Median-length Policy Optimization (HMPO)은 추론 체인을 1946% 압축하면서 정확도 손실이 $ ext{0.7}$ 퍼센트 포인트 이하인 단일 단계 토큰 효율성 방법입니다. Mach-Mind-4-Flash는 AIME'26에서 92.70점, IFBench에서 82.82점, Behavioral-SafetyBench에서 80.74점, BFCL-v4에서 75.80점, BrowseComp-zh에서 72.31점, ClawBench에서 84.20점을 기록하며, 추론 비용은 훨씬 적게 들면서 활성화된 크기가 $ ext{10}$$ ext{30}$배 더 큰 모델과 동등하거나 능가하는 성능을 보여줍니다.

AI 자동 생성 콘텐츠

원문 바로가기

Mach-Mind-4-Flash 기술 보고서

요약

핵심 포인트

댓글