오늘 저희는 RadixArk의 첫 번째 모델인 DaisyRose-27B를 공개합니다. 이 모델은 Qwen3.8-27B를 기반으로 하며 Miles를 사용한 강화학습(reinforcement learning)을 통해 훈련되었습니다. 저희는 최대 1M 토큰 세션에 걸친 장기 에이전트 태스크로 이를 훈련했으며, 단지 1,200개의 선별된 태스크를 18일 동안 144 H200 GPU에서 사용했습니다. DaisyRose-27B는 Terminal-Bench 4.1의 pass@1 성능을 5.6%에서 12.0%로 향상시켰습니다. Terminal-Bench 4.1 외에도, 다양한 추론(reasoning), 명령어 수행(instruction following), 코딩 벤치마크에서도 이점을 보여줍니다.
체크포인트는 Apache 2.0 라이선스로 이용 가능합니다:
이 모델은 Qwen3.8-27B의 아키텍처, 토크나이저, 채팅 템플릿, 이미지 이해 기능 및 **256K 토큰 컨텍스트 창(context window)**을 유지합니다. 더 긴 훈련 세션에서는 여러 궤적(trajectories)에 걸쳐 요약 기능을 사용했습니다. 모델 속성 및 추론 설정은 모델 카드를 참조하십시오.
DaisyRose-27B를 SGLang과 DSpark speculative decoding과 함께 서비스하는 것을 권장합니다. SGLang cookbook에는 다양한 GPU와 체크포인트 형식에 대한 실행 구성이 제공됩니다.
서비스된 모델 이름 DaisyRose-27B로 서버를 포트 30000에서 시작한 후, OpenAI Python 클라이언트를 사용하여 요청을 보낼 수 있습니다:
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:30000/v1",
...
이 모델은 기본적으로 답변하기 전에 생각하는 과정을 거칩니다. 그 추론 과정은 reasoning_content에, 최종 답변은 content에 반환됩니다. 이러한 설정은 모델 카드의 빠른 시작 가이드라인을 따릅니다.
| Benchmark | Qwen3.8-27B | DaisyRose-27B |
|---|
| Terminal Bench 4.1 | 5.6 | 12.0 |
| ... | | |
| DaisyRose-27B는 위에 나열된 모든 벤치마크에서 원래의 Qwen3.8-27B 모델보다 높은 점수를 기록합니다. 가장 큰 향상은 Terminal Bench 4.1에서 나타나며, 여기서 pass@1이 5.6%에서 12.0%로 상승했습니다. | | |
점수는 각 벤치마크에 대해 BF16과 FP8 실행 중 더 높은 값을 사용하며, 두 값은 모두 평가된 경우 1점 미만의 차이를 보입니다. 모델 카드에는 비교 출처 및 평가 설정이 포함되어 있습니다.
이번 공개는 세 가지 요소 덕분에 가능했습니다: 신중하게 설계된 태스크(tasks), 효율적인 트레이닝 백엔드(training backend), 그리고 안정적인 샌드박스(sandboxes)입니다.
우리는 Eigent AI와의 파트너십을 통해 태스크를 구축했으며, 여기에는 머신러닝(machine learning), 소프트웨어 엔지니어링(software engineering), 과학 및 기타 분야의 방대한 태스크 풀이 활용되었습니다. 함께 수천 개의 후보군을 만들었고, 그중 약 1,200개가 최종 트레이닝 세트에 포함되었습니다.
우리는 다음 세 가지 기준을 사용하여 태스크를 선정했습니다:
각 태스크는 원래 모델이 저지르는 실수를 목표로 합니다. 우리는 모든 태스크에 Qwen3.8-27B를 실행하여, 모델이 멈추기를 바라는 실수들을 중심으로 각 태스크를 재설계했습니다. 이후 해결률(solve rate)이 유용한 학습 범위 내에 들어올 때까지 난이도를 조정했습니다.
각 태스크는 여러 상호 의존적인 단계를 요구합니다. 에이전트(agent)는 장기간의 작업을 걸쳐 추론하고(reason), 계획하며(plan), 실행해야 합니다. 각 시도는 샌드박스에서 최대 1.5시간 동안 진행되며, 100개 이상의 도구 호출(tool calls)과 256K가 넘는 출력 토큰을 포함합니다.
태스크는 실제로 문제를 해결하는 것을 보상해야 합니다. 우리는 모델의 시도와 함께 모든 태스크를 검토했습니다. 의도된 문제 해결 없이 통과할 수 있는 태스크나 설계 결함이 포함된 태스크는 수정되거나 제거되었습니다.
RadixArk는 대규모 모델 사후 학습을 위한 오픈 소스 강화학습(reinforcement learning) 프레임워크인 Miles를 사용하여 DaisyRose-27B를 완전 비동기 모드(fully asynchronous mode)로 훈련시켰습니다. 이 방식에서는 에이전트가 작동하는 동안 모델이 학습하며, 어느 쪽도 다른 쪽을 기다리지 않습니다. 128개의 H200 GPU는 에이전트 태스크에 대한 추론(inference)을 실행하는 동시에, 추가 16개의 GPU는 트레이너를 실행하고 궤적(trajectories)으로부터 학습합니다. 매 단계마다 업데이트된 모델은 에이전트를 구동하는 128개 GPU로 전달됩니다. 이 학습 과정은 에이전트 훈련에 맞춰 설계된 내부 트레이닝 백엔드에서 진행되며, 각 단계는 소수의 매우 긴 세션(일부는 최대 1M 토큰)으로부터 학습하고, 이를 harness 요약(harness summarization)을 통해 여러 궤적으로 접습니다.“,
훈련 비용 57% 절감. 이번 릴리스에서 당사의 백엔드에서는 각 GPU의 최대 컴퓨팅 성능 중 37%가 유용한 훈련 작업(모델 FLOPs 활용도, 즉 MFU)에 사용되었습니다. Megatron을 기반으로 구축된 오픈 소스 트레이너는 유사한 실행에서 16%를 달성했습니다. 따라서 동일한 훈련에 필요한 GPU 시간이 57% 적습니다. 이러한 이점은 mixture-of-experts 모델에서 더욱 크게 나타나, Qwen3.6-35B-A3B에서는 6.2배, 약 300B 매개변수 규모의 GLM-5.3-Flash에서는 10배 이상 향상되었습니다.
종단 간(end to end) 속도 2배 향상. 에이전트가 작업을 수행하는 시간을 계산했을 때, 이 릴리스는 144개의 GPU를 사용하여 초당 약 16,800 토큰으로 훈련되었습니다. 반면 오픈 소스 트레이너는 동일한 GPU에서 약 8,300 토큰을 달성했습니다.
수 주 동안 안정적 유지. 이 릴리스는 144개의 H200을 사용하여 수 주에 걸쳐 총 63,000 GPU-시간 동안 훈련되었습니다. 첫 단계부터 마지막까지 속도와 효율성이 꾸준히 유지되었습니다.
144개 H200에서 실행된 DaisyRose-27B 릴리스의 모든 훈련 단계가 전체 훈련 시간 대비 플롯됨. 점선: 유사한 실행을 수행한 오픈 소스 트레이너.
모든 훈련 시도는 샌드박스(sandbox) 내에서 실행됩니다. 샌드박스는 에이전트가 명령을 실행하고, 파일을 편집하며, 이후 평가를 받는 작업 환경의 신규 복사본입니다.
당사의 서비스는 오픈 소스 AgentENV 프로젝트를 기반으로 구축되었으며, 저희는 이 프로젝트에 수정 사항도 기여했습니다. 9월 중순부터 11월 중순 사이에 이 프로젝트를 위해 약 944,000개의 샌드박스가 실행되었으며, 최대 1,566개가 동시에 실행되었습니다.
이 서비스는 하나의 장치에서 최대 12개까지 확장되었습니다. 저희는 훈련이 진행되는 동안 거의 모든 업그레이드를 포함하여 총 열 번의 업그레이드를 배포했습니다. 9주 전체에 걸쳐 샌드박스 생성 성공률은 99%였으며, 10월 말부터는 이 수치가 99.95%를 초과했습니다.
프로젝트 샌드박스의 클라우드 인프라 비용은 인기 있는 클라우드 샌드박스 제공업체와 동일한 샌드박스를 실행하는 것보다 약 80% 낮았습니다. 저희가 비용을 절감하는 방법 중 하나는 각 샌드박스의 메모리 할당량을 실제 사용량에 따라 늘리고 줄이게 하여, 더 많은 샌드박스가 각 장치를 공유할 수 있도록 하는 것입니다.
DaisyRose-27B를 다운로드하거나, SGLang 서비스 가이드를 따르거나, Miles를 사용하여 자체 에이전트를 훈련하세요.
DaisyRose-27B가 여러분의 작업에서 어떻게 성능을 보이는지, 그리고 어떤 부분에서 부족한지도 듣고 싶습니다. 모델 커뮤니티 탭에 여러분의 설정과 결과를 공유해 주세요.
훈련 데이터 작업에서 저희와 긴밀하게 협력해 준 Eigent AI에 감사드리며, Qwen3.8-27B를 개발한 Qwen 팀에게도 감사를 표합니다. 또한, Miles 커뮤니티와 SGLang 커뮤니티, 그리고 slime, AgentENV, Harbor를 포함한 다른 오픈 소스 프로젝트들에도 감사드립니다.
원래 RadixArk 기고문에서 각색되었습니다.