#fp8

模型变笨还是换了供应商：推理供应商与 fp8、fp4 模型量化

同一模型时好时坏，常和推理供应商的模型量化精度有关。本文用 cdnping 采集的 OpenRouter 快照统计 137 个端点的 fp8、fp4、int4 分布，并给出锁定精度和排查变笨的步骤。