模型观察2026-10-176 分钟 模型变笨还是换了供应商:推理供应商与 fp8、fp4 模型量化同一模型时好时坏,常和推理供应商的模型量化精度有关。本文用 cdnping 采集的 OpenRouter 快照统计 137 个端点的 fp8、fp4、int4 分布,并给出锁定精度和排查变笨的步骤。 #模型量化#推理供应商#OpenRouter#模型监测
模型观察2026-10-175 分钟 同一模型换个 OpenRouter 供应商,可用率能差多少用 cdnping 2026-10-17 的 OpenRouter 快照,对比同一模型在不同 OpenRouter 供应商端点上的 1 天可用率和量化精度,说明空值怎么读,并给出拉取端点、筛选和设置供应商偏好的步骤。 #OpenRouter#模型可用率#推理供应商#量化精度