429 Too Many Requests 怎么办:大模型 API 限流排查
大模型 API 报 429 时,从响应头和错误体判断撞的是 RPM、TPM 还是额度,再按 Retry-After 退避重试。附 curl 命令、令牌桶限速代码,以及 429 与 529、503 的区分。
此刻
我们在 Cloudflare 边缘节点上每 5 分钟探测一次各家官方 API 入口,并同步官方状态页。
Cloudflare 边缘节点 DFW 探测 · 更新于 2 分钟前(10/23 18:32)
来自中国大陆的真实体感
下表汇总过去 7 天中国大陆访客在本站测速的结果,按运营商分组。样本越多越准确。
| API | 全部 | 电信 | 联通 | 移动 | 其他 |
|---|---|---|---|---|---|
| cdnping19 个样本 | 477 ms成功 100% | 样本不足 | 1221 ms成功 100% | 358 ms成功 100% | 样本不足 |
| AGI Plan18 个样本 | 506 ms成功 94% | 样本不足 | 1869 ms成功 100% | 347 ms成功 100% | 样本不足 |
| OpenAI API20 个样本 | 254 ms成功 20% | 样本不足 | 300 ms成功 10% | —成功 0% | 样本不足 |
| Claude API20 个样本 | 310 ms成功 95% | 样本不足 | 336 ms成功 100% | 275 ms成功 83% | 样本不足 |
| Gemini API20 个样本 | 96 ms成功 20% | 样本不足 | 102 ms成功 10% | —成功 0% | 样本不足 |
| xAI API20 个样本 | 239 ms成功 20% | 样本不足 | 269 ms成功 10% | —成功 0% | 样本不足 |
| Mistral API20 个样本 | 252 ms成功 10% | 样本不足 | —成功 0% | —成功 0% | 样本不足 |
| Groq API20 个样本 | 287 ms成功 95% | 样本不足 | 297 ms成功 100% | 260 ms成功 83% | 样本不足 |
| OpenRouter20 个样本 | 261 ms成功 95% | 样本不足 | 417 ms成功 100% | 244 ms成功 83% | 样本不足 |
| DeepSeek API20 个样本 | 116 ms成功 95% | 样本不足 | 129 ms成功 100% | 103 ms成功 83% | 样本不足 |
| 智谱 BigModel20 个样本 | 72 ms成功 95% | 样本不足 | 127 ms成功 100% | 128 ms成功 83% | 样本不足 |
| Kimi 开放平台20 个样本 | 111 ms成功 100% | 样本不足 | 105 ms成功 100% | 167 ms成功 100% | 样本不足 |
| 阿里云百炼20 个样本 | 44 ms成功 100% | 样本不足 | 42 ms成功 100% | 107 ms成功 100% | 样本不足 |
| 火山方舟20 个样本 | 55 ms成功 95% | 样本不足 | 81 ms成功 100% | 100 ms成功 83% | 样本不足 |
| SiliconFlow20 个样本 | 53 ms成功 100% | 样本不足 | 53 ms成功 100% | 111 ms成功 100% | 样本不足 |
数值为连接复用后的往返时间中位数;“成功”指请求在 6 秒内得到响应的比例。
新 · IP 与网络环境检测
原生 / 广播、机房 IP、代理标记、DNS 与 WebRTC 泄漏、分流规则、浏览器指纹一致性——12 个维度一次查清,全部在本地完成。
博客
大模型 API 报 429 时,从响应头和错误体判断撞的是 RPM、TPM 还是额度,再按 Retry-After 退避重试。附 curl 命令、令牌桶限速代码,以及 429 与 529、503 的区分。
一张跨厂商对照表,把大模型 API 常见的 400、401、403、429、500、502、503、504、524、529 按“谁的问题、能否重试、等多久”归类,附查 request_id、判断是否全局故障的步骤。
讲清IPv4和IPv6的区别里真正影响日常使用的几项:地址长度与写法、NAT、地址分配、双栈出口与归属地偏差,并给出 Windows、macOS、Linux 查看本机 IPv6 和分别查询两个出口的命令。
解释IP归属地为什么不准:它是IP地址段到地区的数据库映射,不是定位。文中有手机流量显示外省等现象的原因与验证对照表,以及用多个地理库投票判断哪个结果更可信的步骤。
讲清 Cursor 自定义 API Key 和 Override OpenAI Base URL 管哪些功能、不管哪些功能,为什么填 localhost 无效,并给出一条可照做的排查顺序和 curl 自检命令。
讲清 Claude Code 用户级、项目级、本地级和托管策略四类 settings.json 的位置与覆盖顺序,env 里接口地址和代理变量的作用范围,以及用 /status 确认生效值的步骤。
每周一早上
可用率、延迟变化、官方事故、国内各运营商实测——自动汇总成一份周报。
常见问题
在你的浏览器里直接向 15 个 AI 模型 API 和 9 个公共前端 CDN 发起请求,记录首次连接耗时(含 DNS、TCP、TLS)与连接复用后的往返时间。测的是你所在网络到这些服务的真实体感,不是服务器机房之间的理论值。
首次连接包含域名解析和 TLS 握手,代表打开一个新连接要等多久;往返是连接建立后再次请求的耗时,更接近调用 API 时每次请求的固定开销。两者都低,体验才好。
部分境外服务在一些网络环境下无法直连,或会被运营商、防火墙拦截。cdnping 如实记录结果,这本身就是有价值的信息。测得失败不代表服务本身宕机,可以对照“模型 API 状态”页的边缘探测数据判断。
勾选“匿名汇入公共统计”时,我们只保存每个目标的耗时、是否成功,以及由 Cloudflare 判断的国家/地区和运营商网络编号(ASN)。不保存 IP 地址,也不使用 Cookie 追踪。取消勾选则结果只在你的浏览器里显示。
边缘探测每 5 分钟执行一次;访客测速数据实时汇总;官方状态页每 15 分钟同步一次;每周一自动生成上一周的稳定性周报。