標籤 inference

GLM 在超過 10 萬顆中國製加速器上從零打造生產級推理服務，Infra Agent 以密集回饋迴路把吞吐量提高 3 倍。本文記錄這個早期遞迴自我改進案例與 Hacker News 討論整理。