四十八個德瑞克

DaisyRose-27B:1200 個長程任務把 Qwen3.8 從 5.6 分推到 12 分

DaisyRose-27B 模型發布概念圖:發光核心與雛菊玫瑰

原文是 RadixArk 的發布文,講他們第一個模型 DaisyRose-27B:以 Qwen3.8-27B 為基座,用自家強化學習框架 Miles 做後訓練,只用一千二百個精選長程代理人任務,在一百四十四張 H200 上跑十八天,把 Terminal-Bench 4.1 從百分之五點六拉到百分之十二,其餘六項基準也全漲。重點不在參數,而在資料設計與訓練效率。

全文翻譯

今天我們發布 DaisyRose-27B,RadixArk 的第一個模型。它以 Qwen3.8-27B 為基座,用我們的強化學習框架 Miles 訓練,聚焦長程代理人任務,單次會話最長達一百萬 token。只用一千二百個精選任務,在一百四十四張 H200 上跑了十八天。DaisyRose-27B 把 Terminal-Bench 4.1 的 pass@1 從百分之五點六拉到百分之十二。除此之外,在推理、指令遵循與程式寫作等基準上也全面進步。

我們同時釋出三種精度權重:BF16、FP8、NVFP8(按原文為 NVFP4,見譯註)檢查點,供大家試用與延伸。這篇文章說明:在有限算力預算下,精心設計的任務與高效率基礎設施如何換來這些進步。

七項基準全勝,最大漲幅落在以困難長程任務著稱的 Terminal-Bench 4.1:

基準 基座 Qwen3.8-27B DaisyRose-27B
Terminal-Bench 4.1 5.6 12.0
Terminal-Bench 2.1 73.0 75.5
DeepSWE v1.1 42.2 46.2
SWE Bench Pro v2 91.3 94.7
HLE(純文字) 33.9 34.3
IFBench 79.5 82.4
GPQA Diamond 89.2 90.7

三大關鍵是高品質訓練資料、高效率訓練後端、穩固的沙盒服務。

我們與 Eigent AI 合作,從其橫跨機器學習、軟體工程、科學等領域的大池子出發,做出數千個候選任務,最後只留一千二百個。篩選三準則。第一,每題都針對基座模型的真實錯誤:先拿原始 Qwen3.8-27B 把每題跑過,再逐題改寫,讓題目能引出我們想消滅的錯誤,接著把難度調到適中區間,太簡單或太難都不利學習。第二,每題都是多問題串成的長工:單次嘗試要在沙盒裡待最長一點五小時、呼叫工具逾百次、輸出逾二十五萬 token,迫使代理人經歷多階段推理、規劃與執行。第三,沒有獎勵駭客的空間:逐題審查題目與模型的嘗試紀錄,不真正解題也能過關、或設計有瑕疵的題目,先修再不行就刪。

訓練用開源強化學習框架 Miles,全非同步模式:代理人持續做任務、模型持續學習,誰也不等誰。一百二十八張 H200 跑代理人推論,另十六張跑訓練器,從軌跡中學習。每步更新完就把新權重送回做推論的一百二十八張卡。學習跑在自家內部後端,專為代理人訓練設計:每步只學少數幾個超長會話,最長達一百萬 token,經 harness(評測框架)摘要折成多條軌跡。

訓練成本降百分之五十七:內部後端的模型 FLOP 利用率達百分之三十七,基於 Megatron 的開源訓練器在可比跑法只到百分之十六。同樣訓練量,GPU 時間省一半以上。混合專家模型差距更大:Qwen3.6-35B-A3B 達六點二倍,約三千億參數的 GLM-5.3-Flash 逾十倍。端到端快兩倍:計入代理人做任務的時間,發布跑在 144 卡上平均每秒約一萬六千八百 token,開源訓練器同卡約八千三百。連跑數週不掉速:發布跑共用六萬三千個 GPU 小時,從第一步到最後一步,速度與效率全程持平。

訓練期間代理人的每次嘗試都在沙盒裡跑:任務環境的新鮮複本,跑指令、改檔案、再評分。九週共跑約九十四萬四千個沙盒,最高同時一千五百六十六個。服務從一台機器長到十二台,中途上線十次升級,幾乎都在訓練進行中完成。九週整體沙盒建立成功率百分之九十九,十月底起逾百分之九十九點九五。同量沙盒,自家雲基礎設施成本比主流商用沙盒供應商低約八成。省法之一是記憶體用量隨實際使用伸縮:沙盒實際只用申請量的一小部分,單機能塞進更多沙盒。

DaisyRose-27B 已上 Hugging Face,代理人訓練框架 Miles 亦已開源。RadixArk 正把這套做法帶給需要專用模型的團隊:補強目標能力,保住通用能力。感謝 Eigent AI 共建資料、Qwen 團隊提供基座,以及 Miles、SGLang、slime、AgentENV、Harbor 等開源社群。

譯註(非原文):一、原文權重列寫 NVFP4,NVIDIA 官方精度為 NVFP4 無誤,內文保留原文寫法。二、官方成本口徑為自家後端對照,散戶雲價見下節網友估算。三、評測方法見原文註腳一:Terminal-Bench 4.1 每題八次、內部 mini-swe-agent harness 開摘要;其餘見原文。

視覺懶人包

直連備援:DaisyRose-27B 懶人包

網友討論整理

來源:Hacker News story 50551046,分數 165、留言 50(抓取時 live 值,頂層 kids 11 個、可讀 9 則,其餘已刪,全樹抓取 50/50)。按回覆量排序取熱串,子串追高回覆四到六個。

一、刷榜還是後訓練?失去了什麼(最熱)

論點:只秀進步的七個基準不夠,要同時公布沒拿來訓練、卻退步的基準,否則爬山必然犧牲通用性。

二、靠評測資料堆出來的進步,人工智慧還能自我提升嗎(最大串)

論點:前沿實驗室花大錢買評測資料,說明自我改進還很遠。反方認為客戶紀錄加縱向成果回饋就是最好的訓練燃料。

三、多少錢燒出來的?十九天一百四十四卡

論點:官方稱六萬三千 GPU 小時。網友按散戶雲價估約三十三萬美元,PCIe 版與替代加速器的省法另計。

四、實用派:沒 GGUF 先等等、競品與選型疑問

來源

Exit mobile version