模型觀察2026-10-176 分鐘 模型變笨還是換了供應商:推理供應商與 fp8、fp4 模型量化同一模型時好時壞,常和推理供應商的模型量化精度有關。本文用 cdnping 採集的 OpenRouter 快照統計 137 個端點的 fp8、fp4、int4 分佈,並給出鎖定精度和排查變笨的步驟。 #模型量化#推理供應商#OpenRouter#模型監測
模型觀察2026-10-175 分鐘 同一模型換個 OpenRouter 供應商,可用率能差多少用 cdnping 2026-10-17 的 OpenRouter 快照,對比同一模型在不同 OpenRouter 供應商端點上的 1 天可用率和量化精度,說明空值怎麼讀,並給出拉取端點、篩選和設定供應商偏好的步驟。 #OpenRouter#模型可用率#推理供應商#量化精度