能向 Opus 求助的 Jev,用四分之一成本拿到前沿準確度

Hightouch 用身分解析稽核任務實測:便宜決策模型 Jev 把 22% 難例轉給 Claude Opus,準確度 98.8%,成本從每千個 3.86 美元降到 0.88 美元。關鍵不是模型多強,是信心校準好不好。

資料倉儲廠商 Hightouch 拿自家最頭痛的工作做實驗:判斷身分解析(identity resolution)有沒有出錯,把不同的人錯誤合併成一個。這件事過去只能靠人工抽樣,每小時約 50 個身分,慢到讓團隊花幾個月才敢說自家的比對邏輯有沒有在正常運作。

他們的結論很直接:便宜的小模型不需要很強,只要知道自己什麼時候不確定。Jev 把 22% 的案例轉給 Claude Opus,準確度 98.8%,單獨用 Opus 是 99.0%,成本從每 1,000 個身分 3.86 美元降到 0.88 美元。

什麼是身分解析,為什麼難

身分解析是把資料紀錄對應到真實人物的過程。形式上,給定一組紀錄 D,你要決定一組身分 I 與對應關係 m(D)->I,使得每筆紀錄對應到某個身分,每個身分恰好對應現實中的一個人,而且沒有兩個身分指向同一個人。

這是所有做客戶觸達、個人化、客戶分析的公司的地基。你沒辦法把一位客戶的所有消費對應到單一身分,就無從算出他的終身價值。

實務上麻煩在雜訊。人們會共用 email、搬家、填錯字。原文列了一張錯誤對照表,同一個現象往往有兩種完全相反的解釋:

錯誤類型 看起來像 但也可能是
打字錯誤 Valentino → Valentinp 另一個姓氏
字元誤讀 Sam → 5am 垃圾值,或使用者名稱
依讀音拼寫 Phillips → Filips 另一個家族
月日互換 02/17/2020 → 17/02/2020 解析不出來的生日
從親屬複製的值 小孩的紀錄掛了家長的生日 一個與小孩同名的成人
暱稱 Robert → Bob 兩個兄弟
佔位名稱 Valentino → Female Child 完全沒有用的資訊
空白欄位 Mendoza → (空白) 任何人

最常見也最麻煩的問題是過度合併(over-merging):某個身分錯誤地對應到現實中的多個人。真正困難的是沒有標準答案可以對照——如果真有標準答案,拿它來比對就好,根本不需要做身分解析。所以團隊只能用啟發式規則找統計異常(例如算每個身分掛了幾個 email),最後仍得抽樣人工檢視。

人工抽樣慢,而且抽得少就估不準。在健康的圖譜裡,過度合併是罕見事件,要把罕見率估到誤差正負 1% 以內,需要超過 1,000 個樣本。作者群的推論是:如果 LLM 能以人類水準判斷這類身分,就開幾十個平行去跑,10 萬個身分幾秒鐘就能評完。

實驗怎麼做的

他們用華盛頓大學健康計量與評估研究所(IHME)的 pseudopeople 工具,模擬一座虛構的美國小鎮,從多個政府來源產生居民紀錄:人口普查、兩份家戶調查、WIC 婦幼營養補助、社會安全局、W-2 與 1040 報稅表,涵蓋 2020 到 2040 年。再刻意加進各種貼近真實的資料錯誤。

pseudopeople 模擬的資料來源示意

從這些紀錄建出 1,000 個身分,一半是一個人加上雜訊紀錄,一半是過度合併。接著把提示詞分成三層餵給模型:任務定義(你是稽核員,判斷這組紀錄是否真的屬於同一個人)、錯誤範例(錯字、誤讀、月日互換、暱稱、佔位名、空白欄位)、資料背景(紀錄來自哪些政府來源)。

結果是:錯誤範例是每個模型獲益最多的一段。資料背景那段對前沿模型最多加一個百分點,對決策模型完全沒幫助。作者猜測,決策模型並不是真的在推理,給它背景知識沒有用。

單獨使用時的成績

模型 準確度 偽陽性 偽陰性 每個身分耗時 每 1,000 個成本
Claude Opus 5.5 99.0% 3 7 2.2 秒 3.86 美元
Gemini 3.1 Pro 98.3% 10 7 4.2 秒 4.48 美元
GPT-6 Sol 98.3% 14 3 2.1 秒 2.50 美元
GPT-6 Luna(70% 門檻) 97.3% 14 13 0.17 秒 0.10 美元
Jev(60% 門檻) 95.7% 22 21 0.15 秒 0.05 美元

一開始兩款決策模型都用 50% 信心門檻,但這個數字是隨意選的。調整後發現門檻對 Jev 影響很大、對 Luna 影響很小,最後分別取 60% 與 70%,各自讓準確度最大化。這一步也順便暴露兩款模型的性格差異:Jev 換門檻能改的錯誤類型多,Luna 幾乎不動。

信心門檻對準確度的影響

把難度拉高

第一輪跑完,Luna 看起來非常好,於是把測試改成只挑棘手案例。陷阱分兩類:第一類是同一個人的紀錄在生日或名字這種重要欄位互相矛盾;第二類是高度相似的過度合併,例如雙胞胎、父子同名、兩個同名的人。

範例長這樣:社會安全局有一筆 Christopher Brentley Carpenter,WIC 有一筆 Christopher B Carpenter 掛 2023 年 2 月 24 日出生,社會安全局另一筆是 Christopher Brian Carpenter 掛 1986 年 2 月 13 日,報稅表又是 Christopher B Carpenter 掛同一個地址。模型得判斷這四筆是幾個人。

難度一升,差距立刻出現。單獨使用的兩款決策模型都掉到 88% 到 89%,Opus 還有 95.1%,Luna 與 Jev 打平。

關鍵在信心校準,不在模型大小

作者挖答錯案例時發現一個模式,這也是整篇文章真正的重點。

Jev 犯錯時,信心多在 50% 附近。這是校準良好的模型該有的樣子。Luna 犯錯時,信心常不低於 90%,它相當過度自信。

Jev 的錯誤在信心分布上的位置

Luna 的錯誤集中在高信心區

這件事為什麼重要?因為混合架構的運作方式就是「信心落在某個區間就轉給貴模型」。過度自信的模型,會把該升級的案例留在自己手上。它的錯誤不是隨機分布,而是集中在它最確定的地方,你連攔都攔不到。

混合架構與甜蜜點

做法很簡單:Jev 先判,信心落在 30% 到 90% 之間的案例轉給 Opus 複判。

送給 Opus 的信心區間 送出比例 準確度 每個身分耗時 每 1,000 個成本
完全不送(Jev 單獨) 0% 95.6% 0.15 秒 0.05 美元
50–80% 7% 97.5% 0.30 秒 0.31 美元
50–90% 17% 97.9% 0.52 秒 0.71 美元
30–90% 22% 98.8% 0.63 秒 0.88 美元
10–90% 40% 98.8% 1.02 秒 1.58 美元
10–100% 74% 99.0% 1.79 秒 2.92 美元
全部送(Opus 單獨) 100% 99.0% 2.2 秒 3.86 美元

甜蜜點在送出 22%。再往上送到 40%,準確度一樣是 98.8%,成本卻幾乎加倍。

同樣的架構換成 Luna 先判,走 10% 到 90% 的區間,只送 6% 的案例,準確度 98.5%,成本 0.33 美元。在簡單測試上,混合式 Luna 其實更划算。

較難測試才是分水嶺

架構 第一輪準確度 第一輪成本 較難測試準確度 較難測試成本
單獨 Opus 99.0% 3.86 美元 95.1% 5.39 美元
Jev 先判,30–90% 送 Opus 98.8% 0.88 美元 95.3% 2.94 美元
Luna 先判,10–90% 送 Opus 98.5% 0.33 美元 91.6% 1.15 美元

在難題上,混合式 Jev 的準確度追平單獨使用 Opus(95.3% 對 95.1%),成本只要 2.94 美元,Opus 要 5.39 美元。混合式 Luna 掉到 91.6%。

這個轉折是自動發生的。混合式 Jev 沒有改架構、沒有改提示詞,純粹因為它的信心分布在難題上往下移動,升級率就從 22% 自動升到 53%,花費隨難度自動加碼。這一點在實務上比準確度數字更有價值:你永遠不知道明天進來的資料有多髒。

HN 網友怎麼看

原文在 Hacker News 拿到 465 分、106 則留言(2026 年 11 月 7 日抓取)。討論沒有圍繞「這招好不好」,而是集中在四個更根本的問題。

第一,校準的結論被直接挑戰。 帳號 pcwelder 認為原文那兩張信心分布圖不足以證明 Jev 校準更好,他從圖估算,兩個任務上 Luna 的預期校準誤差(ECE)反而低 2 到 3 個百分點,並主張應該直接報 ECE。他補了一刀:Luna 確實愛給高信心,但它也更常答對,高信心區錯誤數多,只要整體通過率高,本身不構成缺點。

第二,作者沒報的升級率被人算出來了。 帳號 ezotony 用成本反推:(2.94 – 0.06) / 5.39 約 53%,這是較難測試送給 Opus 的比例,簡單測試只有約 22%,門檻相同。這個數字原文沒有列出來。

第三,這是不是通用的改進? 帳號 nico 提醒,這是身分解析這個特定任務的基準測試,標題那樣寫容易讓人誤以為是通用能力的改善。帳號 asar 說得更重:這類標題他已經麻木,「證明」往往只證明了它自己那個沙盒情境。不過也有人反向提供了實測:帳號 pkulak 把一個「評審」接進既有的 Jev 設定,原本要很脆弱的提示詞才能讓測試全過,加個逗號就多壞十個測試,現在提示詞砍回基本款照樣過。

第四,架構定位與真正的難點。 帳號 theptip 說這就是 Model Router,問題永遠是同一個:笨模型怎麼知道自己該升級?有些難題是明顯的已知未知,真正的問題是模型不知道自己不知道。帳號 bastawhiz 回應得很漂亮:你不可能事先知道需不需要升級,因為你得先升級才會知道。所以,重點不是「模型有多確定」,而是「賭注有多大」。帳號 beefsack 補了反向架構的實測:他做過讓便宜模型主動呼叫強模型的系統,但「它們連什麼時候該呼叫都不太會判斷」。

還有一整串在談倫理。 帳號 vouwfietsman 直指這篇是把「把資料對應到真人」變得更便宜、更有效率,實質上是 AI 加持的隱私侵害,而且便宜四倍。有人回說數位化紙本病歷也需要這種能力,他反駁核分裂可以發電也可以造武器,不代表兩邊的道德等價。帳號 gnarlouse 的結論是諷刺:「謝謝你們讓定向廣告和監控國家更強大。」

任務設計本身也被挑錯。 帳號 angry_octet 指出原文範例「Valentino → Female Child」有問題:Valentino 是男名,否則就該是 Valentina。他順帶追問日期格式:17/08/22 到底是 2017 年還是 2022 年?04/06/2009 在北美內外是相反答案。沒有文化背景、地點、文件類型,你就可能判錯。帳號 jwpapi 從這裡推到更根本的質問:所有案例真的可判定嗎?AI 是不是該允許棄權(abstain)?為什麼要 agentic 解,而不是拆成很多小的 yes/no 規則題?他的建議是遇到無法辨識的文件,回應不該是 INVALID,而該是 UNDECIDED。

最後一串在吵英文。帳號 intervolz 說「4x lower」數學上超尷尬,帳號 Terr_ 主張該寫 0.25x:如果 3x 是原值的 300%,0.25x 就是原值的 25%。這條爭論對中文讀者沒什麼殺傷力,但值得記住原文標題的「四倍」其實是「四分之一」。

這篇能帶走什麼

三件事。

第一,校準是便宜模型唯一真正值錢的屬性。 決策模型的準確度天花板就在那裡,你買不到 Opus 的判斷力。但你可以買到「知道自己不行」的誠實度,而那個誠實度決定了混合架構能不能運作。

第二,先量測再花錢。 不要假設便宜模型過度自信,也不要假設貴模型一定值得升級。拿你自己的資料跑一次,畫出信心分布,你才知道轉送區間要設在哪裡。原文設的 30–90%,是他們自己資料上的答案,不是你的。

第三,這組數字有保鮮期。 帳號 mannyv 的提醒很實在:這些結果只對特定版本的模型、特定參數成立。另一位帳號 netshade 提供了活生生的反例:Haiku 5.5 出來後,他手上任務的成本差距幾乎立刻消失,Jev 的毫秒級延遲,被鏈路裡的其他延遲淹沒,量不出差異。這類架構決策每隔幾個月就得重算一次。

譯註(非原文)

  • Jev:TypeSafe 推出的「系統一模型」(system one model),屬於決策模型一類,針對單一條件回傳 0 到 1 的信心分數,延遲在毫秒級。
  • GPT-6 Luna:OpenAI 的小型模型,另有 Decisions API 版本可回傳信心分數。HN 討論裡有人指出 Luna 本質上是小 LLM 加固定 JSON 輸出,不是嚴格意義的決策模型,也有人指出確實存在 Luna 的 decision 版本,原文的歸類引起爭論。
  • Hightouch:做客戶資料平台(CDP)與資料啟用的廠商,本文是他們在自家身分解析管線上的內部實驗。
  • 「4x lower」:原文字面如此,數學上等於原值的四分之一。這個寫法在 HN 被大量吐槽,有人主張該寫 0.25x。
  • 原文中 Jev 與 Luna 的信心分布圖為直方圖圖檔,本網站已轉載原圖,圖說由譯者補上。
  • 原文的中文譯名:作者 Albert Jin(阿爾伯特·金)、Neil Desai(尼爾·德賽)、Delaney Mackenzie(德萊尼·麥肯錫),原文發表於 2026 年 11 月 4 日。

懶人包直連(手機版建議):https://static.blog.derekhsu.net/jev-hybrid-opus

原文來源:A Jev that can ask Opus for help gives Opus accuracy at 4x lower cost(Hightouch 部落格,2026 年 11 月 4 日)

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *