華為把內部用的量化器 MACaQ 開源了，主打模型無關，文字、圖像、影片、語音模型全吃，產出的 GGUF 用標準 llama.cpp 就能跑。最亮眼的數字是 122B 參數模型 64 分鐘完成量化，裝置記憶體只要 32.5GB。以下是 README 全文翻譯，以及 Hacker News 上 23 則討論的整理。
它是什麼
MACaQ 全名是模型無關校準量化（Model Agnostic Calibrated Quantization），一套 MXFP4 W4A4 訓練後量化方法。做法是把每一層線性層獨立看待，激活值套用逐通道縮放與區塊阿達瑪轉換，對應的逆變換吸進權重。轉換在線上執行，避免跨層依賴，量化過程可以串流跑，一次只須一層駐留在記憶體。捨入之外另有 Flip-Refinement，一套 Hessian 感知的座標下降法，把個別 FP4 碼貪心搬到相鄰可表示值。即使轉換在推論期執行，vLLM 上 Qwen3-32B 的端到端開銷只有百分之 2 點 3。困惑度低於 DuQuant++ 與 MR-GPTQ，量化時間只要 11 分之 1，就能追平兩者在 Llama-3-8B 的最佳困惑度。
關鍵數字
| 項目 | 數值 |
|---|---|
| 122B 模型量化 | 64 分鐘，32.5GB 裝置記憶體 |
| 追平最佳困惑度 | 量化時間少 11 倍 |
| 同 22.36GB 下 KL 散度 | 0.013367，優於 Unsloth 的 0.015731 |
| vLLM 加速 | 前填充 2.33 倍，解碼 2.58 倍 |
| 困惑度代價 | 2.8994，對 BF16 的 2.8463 |
四個後端
| 後端 | 吃什麼 | 精度 |
|---|---|---|
| Diffusers | 圖像、影片、語音生成 | W4A4 |
| llama.cpp | 文字生成 GGUF | 2、3、4 位元 |
| vLLM | 文字生成與服務 | W4A4 預設 |
| PyTorch | 語音生成 | W4A4 |
Python 用 3.12，每個後端開獨立環境。llama.cpp 另支援 CPU 執行。
Diffusers 吃三個示範模型：FLUX.2-klein-4B 做圖，Wan2.2-TI2V-5B 做影片與圖生影片，stable-audio-1.0 做語音，圖生影片在校準期會用條件圖。llama.cpp 列了 Qwen3-4B 密集版、Qwen3.8-27B 混合版、三個 MoE（Qwen3-30B-A3B、Qwen3-Coder-30B-A3B、Qwen3.6-35B-A3B）、OLMoE-1B-7B 與 Qwen3-Next-80B-A3B，另有 Qwen3.8-Flash-Next 專屬配方。vLLM 預設 W4A4 推論，Qwen3.8-27B 與文字 MoE 各有專節。PyTorch 負責 Qwen3-TTS 與 Chatterbox Turbo，存下的檢查點載入不用重跑校準。Ascend 部分是 CANN 的兩個 PR（ops-nn 第 12568 號、ops-tilelang 第 44 號），全模型執行須接 Ascend 推論 runtime。
MACaQ-R：標準 llama.cpp 就能跑
MACaQ-R 精煉已量化 GGUF 的權重碼，同時保留原生格式與區塊縮放，輸出檔拿標準安裝的 llama.cpp 直接跑。Qwen3.6-35B-A3B 的 KL 散度（愈低愈好）：Unsloth UD-Q4_K_XL 同 22.36GB 下是 0.015731，MACaQ-R Q4_K_XL 是 0.013367。Hugging Face 上已有現成檔可下載。自己精煉的指令如下（--teacher 吃原始 FP16，--calibration 吃校準文字）：
.venv-llamacpp/bin/python llamacpp/macaq.py refine \
--model models/model-q4.gguf --hf models/original \
--teacher models/original-f16.gguf --calibration data/calibration.txt \
--output models/model-macaq-r.gguf --work-dir work/refinement
存好檔後，本機跑 llama cli -m models/model-macaq-r.gguf，要開服務換 llama serve。完整流程（含激活變換）走綁定的 runtime 指南。
視覺懶人包
手機版可直接開啟：華為開源 MACaQ 事件懶人包
HN 討論整理
統計列：Story 50458166，分數 74，留言 23（live 值）。頂層 kids 7 個、可讀 5 則、其餘已刪，全樹抓回 23 則。站內日報只有表格行提及，視同無底稿，以下為全樹整理。
一、GitHub 派對官網派
@Rabbit504030201 開頭就問，為何 HN 老愛貼 GitHub 而不貼官網，制裁下的東西放第三方隨時可能消失。@nout 回，GitHub 看得到程式碼一點就知，產品頁全是行銷話術。@gt0 補刀，他只想看 no-bullshit 版。@andsoitis 則說這次官網部落格其實不錯，瑞士實驗室寫的。
二、制裁疑慮
@lukasc-ch 說很多 repo 早就在那了，免費東西為何要制裁。@skinfaxi 提醒，提供物質支援給被制裁實體可能有法律問題。@sroussey 釐清，這是商務部制裁不是財政部制裁，嚴重度差很多。
三、模型去哪抓
@mocchibird 問有放出模型嗎，Strata 好用嗎。@minraws 回，Qwen 3.8 27B 已有 macaq 量化版。@lukasc-ch 補，有人在復現還自己做 GGUF，Reddit LocalLLaMA 那串有人貼。
四、名字哏（最大子樹，純噪音）
@utternerd 一句「這名字取得真好」開了全串最大的子樹。@QuantumNomad_ 猜是致敬獼猴，@keyle 問法語是不是很粗魯，@dmonitor 解答是發音像 my cock，@stdbrouw 補在某些語言裡是種族歧視詞。技術含量零，但佔了半串。
結論
MACaQ 的賣點不在單一精度數字，而是覆蓋面：四種後端、四種模態、標準 llama.cpp 直跑，外加串流式低記憶體量化。真要挑刺，亮眼數字多半綁在自家 Qwen 模型上，第三方模型的復現才剛開始。後續看三個訊號：Reddit 的復現 GGUF 品質、Hugging Face 上的模型數、Ascend runtime 何時接上。
〔譯註〕基本檔案：huawei-csl 組織，Apache-2.0 授權，2026 年 11 月 10 日建立，星 121、fork 6，語言以 C++ 為主。論文 arXiv 2611.10649，第一作者洛倫茲穆勒（Lorenz K. Muller）等人。指令與模型名保留原文，表格模型對照細節見官方部落格。