四十八個德瑞克

Jev 1.14.0 全文翻譯+HN 反應整理:建造者拿穩定,造夢者進 danger zone

Jev 1.14.0 發布,深藍底上暖色光流抽象插圖

TypeSafe AI 發布 Jev 1.14.0,主打全面小幅改進,多語言進步最大。真正的亮點是三個實驗功能:可組合圖片、box 型別、長 context,全部走 danger zone header 開放。本文先給原文逐段翻譯,再整理 HN 七十二則留言的正反意見,最後附互動懶人包。

原文:https://typesafe.ai/blog/jev-1-14

HN 討論串:https://news.ycombinator.com/item?id=50095353(216 points、72 則留言)

互動懶人包:https://derek-static.pages.dev/jev-1-14-lazy.html

原文逐段翻譯

我們的理念

TypeSafe 內部一直在辯論:可靠性跟創造力該怎麼平衡。

要服務跑 prod 的建造者,就該出貨符合品質門檻、經過內部極限實戰測試的模型。但團隊不可能完全理解什麼才能點燃全世界的驚喜,做出酷炫的科幻應用,也不想把極端可靠的價值觀強加給造夢者。

解法:在 API header 用 danger zone 旗標開放造夢者功能。這些功能未來模型會保留,就團隊所知比市面上現有的好,而且會大幅持續進步。但毛邊還太多,不敢為 production 使用背書。

可組合圖片

不只未來的 Jev 模型支援多模態,現在的 Jev 也一起開了。驚喜:大家熟悉的 jev-1.13.0 從一開始就是多模態的。

圖片支援用 assets 的 find-and-replace 完全可組合,可以放在 JSON 介面支援的任何位置:state、instructions,甚至 criteria 裡都行。

警告:所有模型在多模態下表現都比純文字差,把問題拆成最簡單的分解步驟會有很大幫助。


TypeSafe-Danger-Zone-Images: true

文件:https://docs.typesafe.ai/go/images

超越決策的新型別:box

新推出的 box 型別回傳單一 bounding box,不允許型別錯誤。這是第一個不純粹為 smart-if 陳述式服務的型別,也是 System One Model 超越單純決策的探索預覽。

這支最近大躍進,只在 jev-1.14.0 啟用。

文件:https://docs.typesafe.ai/go/box

長 context

Jev 實際支援的 context,比 production 開放的長得多。當初故意限縮,因為所有模型在長 context 下可靠性都下降,而這個限制能促使 prod 養成更有效的使用模式。

但官方不是使用者的父母,雖然強烈建議用短 context,不再強制:


TypeSafe-Danger-Zone-Long-Context: true

選擇加入,幫官方找毛邊

新增 opt-in,讓使用者用自己的 query,幫官方找模型的毛邊。官方還是不會拿 query 來訓練,但更容易定位問題、幫忙 debug 用例。

jev-1.14.0

新版放在 jev-preview 下,不求炫技,而是全面小幅改進,大部分東西都好一點點,多語言支援進步最大。

jev-latest 一週後切到 jev-1.14.0,jev-1.13.0 還會留一陣子。計畫在正式棄用 1.13.0 前六十天預告,1.14.0 則是三十天,在此之前會發布棄用政策。

智慧怎麼量

官方明說討厭公開 benchmark,但內部對開發者最重要的智慧形態,有自己的量法,這次直接公開。附帶四點聲明:量法是最佳猜測且會變、別全信、以自己的 eval 為準、只列 open weight 模型、很可能偏袒自家模型。

下一步

官方手上有讓人驚豔的東西,但多數 release 會是漂亮的無聊:全面小幅改進、更好的穩定性、服務真實部署的功能。

HN 反應整理

叫好派:便宜又快,confidence 好用

實用派是主流。拿 Jev 取代 pipeline 裡做 filtering 和分類的 LLM,速度從五到十秒降到一秒內,精度沒有可觀察到的損失,confidence 分數校準得不錯。一次問五題,比兩次 classifier 加重運算更省。有人實測贏過開源版、Cloudflare clef、Decisions API,後者在價格速度品質全輸。

代表留言:Rudybega、inerte、LewisOrton、girvo、MisterMunchkin。

質疑派之一:benchmark 自賣自誇

官方那句 Warning: AI benchmarks, please don’t trust them 有人挺有人酸。挺的人說 benchmark 本來就能被刷,還是要自己測。酸的人說公開榜沒全拿第一,那句警告就是脫身之詞,文末用未知指標輾壓一堆模型的圖表有失誠實。

代表留言:jjcm、pietz、bbor、benaduggan。

質疑派之二:box 是大材小用

box 被批評加劇了 Jev 最大的問題:用大模型做專用模型做了幾十年的事,貴一點、差一點。也有人酸 1.13 早就多模態,等於承認當初關掉要投資人補貼開關。

代表留言:bbor、aliasxneo。

本地派:開源替代方案

輕量或要隱私就用本地 CPU 模型,很多情境下準度效能更好。JevK5-4B 在自家測試只差 Jev 一分。也有人宣傳 OpenDecision、dlgo、lev 等自家引擎。

代表留言:nico、shepardrtc、dwa3592、computerex。

文案派:cringe 還是有個性

release 文案有人嫌 cringe,像 Reddit mod 寫的,但 docs 很好。也有人反而覺得有老派 enterprise 味,在一堆 AI 公司裡很清新。最長的批判認為徵才文嘲諷圖靈獎科學家,感覺科學不受尊重。

代表留言:kypro、jofzar、bbor。

雜項

怎麼防蒸餾:官方不防,classifier 資料集本來就有幾兆 token,蒸餾出的合成資料更差,大概是監控用量抓 pattern 封帳號。網站字體 tuning 有人喜歡,有人說底層是 bloated Framer 站。

互動懶人包

全文重點做成一頁式圖解,適合手機快速掃過:

手機看不到內嵌頁時,直接開:https://derek-static.pages.dev/jev-1-14-lazy.html

Exit mobile version