模型變笨還是換了供應商:推理供應商與 fp8、fp4 模型量化
同一模型時好時壞,常和推理供應商的模型量化精度有關。本文用 cdnping 採集的 OpenRouter 快照統計 137 個端點的 fp8、fp4、int4 分佈,並給出鎖定精度和排查變笨的步驟。
部落格
「模型觀察」分類下的文章。
同一模型時好時壞,常和推理供應商的模型量化精度有關。本文用 cdnping 採集的 OpenRouter 快照統計 137 個端點的 fp8、fp4、int4 分佈,並給出鎖定精度和排查變笨的步驟。
用 cdnping 2026-10-17 的 OpenRouter 快照,對比同一模型在不同 OpenRouter 供應商端點上的 1 天可用率和量化精度,說明空值怎麼讀,並給出拉取端點、篩選和設定供應商偏好的步驟。
大模型 API 價格、上新和下架怎麼追蹤:該盯哪三類資訊源,如何用 cdnping 的 /changes RSS 和 /models 記錄調價與量化變化,怎樣推到團隊群,以及自己寫比對指令碼時要過濾哪些佔位值。