博客

#流式输出

与「流式输出」相关的文章。

API 延迟慢在哪里？把一次 AI API 调用拆成连接建立、网关往返和首 token 时间（TTFT）三段，给出可直接运行的 curl 测量命令，并说明连接复用和流式输出各自能缩短哪一段。