DaisyRose-27B:1200 個長程任務把 Qwen3.8 從 5.6 分推到 12 分

RadixArk 第一個模型:1200 個精選長程任務、144 張 H200 跑 18 天,Terminal-Bench 4.1 從 5.6 分拉到 12 分,外加 HN 網友正反Divergent整理與懶人包。

原文是 RadixArk 的發布文,講他們第一個模型 DaisyRose-27B:以 Qwen3.8-27B 為基座,用自家強化學習框架 Miles 做後訓練,只用一千二百個精選長程代理人任務,在一百四十四張 H200 上跑十八天,把 Terminal-Bench 4.1 從百分之五點六拉到百分之十二,其餘六項基準也全漲。重點不在參數,而在資料設計與訓練效率。

全文翻譯

今天我們發布 DaisyRose-27B,RadixArk 的第一個模型。它以 Qwen3.8-27B 為基座,用我們的強化學習框架 Miles 訓練,聚焦長程代理人任務,單次會話最長達一百萬 token。只用一千二百個精選任務,在一百四十四張 H200 上跑了十八天。DaisyRose-27B 把 Terminal-Bench 4.1 的 pass@1 從百分之五點六拉到百分之十二。除此之外,在推理、指令遵循與程式寫作等基準上也全面進步。

我們同時釋出三種精度權重:BF16、FP8、NVFP8(按原文為 NVFP4,見譯註)檢查點,供大家試用與延伸。這篇文章說明:在有限算力預算下,精心設計的任務與高效率基礎設施如何換來這些進步。

七項基準全勝,最大漲幅落在以困難長程任務著稱的 Terminal-Bench 4.1:

基準 基座 Qwen3.8-27B DaisyRose-27B
Terminal-Bench 4.1 5.6 12.0
Terminal-Bench 2.1 73.0 75.5
DeepSWE v1.1 42.2 46.2
SWE Bench Pro v2 91.3 94.7
HLE(純文字) 33.9 34.3
IFBench 79.5 82.4
GPQA Diamond 89.2 90.7

三大關鍵是高品質訓練資料、高效率訓練後端、穩固的沙盒服務。

我們與 Eigent AI 合作,從其橫跨機器學習、軟體工程、科學等領域的大池子出發,做出數千個候選任務,最後只留一千二百個。篩選三準則。第一,每題都針對基座模型的真實錯誤:先拿原始 Qwen3.8-27B 把每題跑過,再逐題改寫,讓題目能引出我們想消滅的錯誤,接著把難度調到適中區間,太簡單或太難都不利學習。第二,每題都是多問題串成的長工:單次嘗試要在沙盒裡待最長一點五小時、呼叫工具逾百次、輸出逾二十五萬 token,迫使代理人經歷多階段推理、規劃與執行。第三,沒有獎勵駭客的空間:逐題審查題目與模型的嘗試紀錄,不真正解題也能過關、或設計有瑕疵的題目,先修再不行就刪。

訓練用開源強化學習框架 Miles,全非同步模式:代理人持續做任務、模型持續學習,誰也不等誰。一百二十八張 H200 跑代理人推論,另十六張跑訓練器,從軌跡中學習。每步更新完就把新權重送回做推論的一百二十八張卡。學習跑在自家內部後端,專為代理人訓練設計:每步只學少數幾個超長會話,最長達一百萬 token,經 harness(評測框架)摘要折成多條軌跡。

訓練成本降百分之五十七:內部後端的模型 FLOP 利用率達百分之三十七,基於 Megatron 的開源訓練器在可比跑法只到百分之十六。同樣訓練量,GPU 時間省一半以上。混合專家模型差距更大:Qwen3.6-35B-A3B 達六點二倍,約三千億參數的 GLM-5.3-Flash 逾十倍。端到端快兩倍:計入代理人做任務的時間,發布跑在 144 卡上平均每秒約一萬六千八百 token,開源訓練器同卡約八千三百。連跑數週不掉速:發布跑共用六萬三千個 GPU 小時,從第一步到最後一步,速度與效率全程持平。

訓練期間代理人的每次嘗試都在沙盒裡跑:任務環境的新鮮複本,跑指令、改檔案、再評分。九週共跑約九十四萬四千個沙盒,最高同時一千五百六十六個。服務從一台機器長到十二台,中途上線十次升級,幾乎都在訓練進行中完成。九週整體沙盒建立成功率百分之九十九,十月底起逾百分之九十九點九五。同量沙盒,自家雲基礎設施成本比主流商用沙盒供應商低約八成。省法之一是記憶體用量隨實際使用伸縮:沙盒實際只用申請量的一小部分,單機能塞進更多沙盒。

DaisyRose-27B 已上 Hugging Face,代理人訓練框架 Miles 亦已開源。RadixArk 正把這套做法帶給需要專用模型的團隊:補強目標能力,保住通用能力。感謝 Eigent AI 共建資料、Qwen 團隊提供基座,以及 Miles、SGLang、slime、AgentENV、Harbor 等開源社群。

譯註(非原文):一、原文權重列寫 NVFP4,NVIDIA 官方精度為 NVFP4 無誤,內文保留原文寫法。二、官方成本口徑為自家後端對照,散戶雲價見下節網友估算。三、評測方法見原文註腳一:Terminal-Bench 4.1 每題八次、內部 mini-swe-agent harness 開摘要;其餘見原文。

視覺懶人包

直連備援:DaisyRose-27B 懶人包

網友討論整理

來源:Hacker News story 50551046,分數 165、留言 50(抓取時 live 值,頂層 kids 11 個、可讀 9 則,其餘已刪,全樹抓取 50/50)。按回覆量排序取熱串,子串追高回覆四到六個。

一、刷榜還是後訓練?失去了什麼(最熱)

論點:只秀進步的七個基準不夠,要同時公布沒拿來訓練、卻退步的基準,否則爬山必然犧牲通用性。

  • 有網友說:「我總在想,當你把某個特定基準刷到頂,會失去什麼。很難做得均衡,希望每個做這種努力的人都列出前後對照,哪怕是沒拿來訓練的基準。」
  • 有網友附和,重度後訓練很可能以犧牲通用能力為代價換來特定能力。
  • 作者親回:「首先,基準測試的題目沒有拿來訓練。」追問者回:「我看過那句,但我好奇的是什麼東西不見了。」另一人反問:「為什麼你覺得做一點強化學習、七個基準全漲,反而難以相信?」
  • 也有人單句問「這是後訓練還是刷榜?」另一人說等拿私有評測集測了再說。

二、靠評測資料堆出來的進步,人工智慧還能自我提升嗎(最大串)

論點:前沿實驗室花大錢買評測資料,說明自我改進還很遠。反方認為客戶紀錄加縱向成果回饋就是最好的訓練燃料。

  • 有網友說:「這裡展示的對評測資料的重度依賴,加上前沿實驗室為這類資料付大錢,讓人懷疑人工智慧很快自我提升的說法。」
  • 有網友認為前沿實驗室想讓人相信模型在神奇變強,其實是拿海量人類任務加成果回饋在餵。有人說前沿實驗室拿所有客戶紀錄訓練,那是最好的真實資料。也有人反駁資料沒你想的那麼值錢,自己才不想拿資料餵模型。另一人補充縱向的人類任務加模型回應加成果資料,需求很大。也有人貼出招募信,去當寫碼專案的人類評分員,為期六個月。
  • 反方單句說自我提升早就發生了。後續把話題帶進演化比喻:有人說因為有四十億年的演化預訓練,有人說與其說預訓練,不如說是更好的架構,有人笑說約八十億權重的 DNA,不到一毫 Fable。

三、多少錢燒出來的?十九天一百四十四卡

論點:官方稱六萬三千 GPU 小時。網友按散戶雲價估約三十三萬美元,PCIe 版與替代加速器的省法另計。

  • 有網友按低折騰雲現價估約三十一萬美元。有人回 PCIe 版不會便宜多少。有人說換替代加速器省更多,被嗆那不如用魔法豆。
  • 有人問強化學習拓撲各節點怎麼擺。作者親回推論與訓練專用節點分開,RDMA 傳權重。

四、實用派:沒 GGUF 先等等、競品與選型疑問

  • 有網友說居然沒 GGUF 可下,等有人轉再測。有人回量化訓練時 K 與 V 和快取一起量化就不是問題。另有人討論直接拿 FP8 轉 GGUF。
  • 有網友貼競品同路模型,同樣從 Qwen3.8 長出來,附 Hugging Face 連結。
  • 有人問為何選 3.8 27B 做強化學習很有意思,留言沒寫完。

來源

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *