部落格 / 開發工具

大模型 API 怎麼選：三條接入路徑、六個維度的選型清單與自測方法

2026-10-24cdnping 編輯部約 7 分鐘讀完

大模型 API 怎麼選，先別急著比模型排名，先定接入路徑：官方直連、雲廠商託管，還是聚合閘道器。路徑定了，再用六個維度逐項核對：可用率與透明度、延遲、計費方式、資料政策、支付與結算、接入改造成本。每一項都應該能用公開資料或你自己跑的命令驗證，而不是靠別人給的分數。

這篇文章不給“誰第一”的結論。不少“服務商推薦”類文章不公開評測方法，結論很難復現。下面每一格寫的是判斷方法，數字只引用 cdnping 和公開介面能查到的資料，並註明視窗。三條路徑各自的基本概念，可以先看官方 API、雲廠商託管與聚合閘道器：三種接入方式怎麼選，本文側重“怎麼驗證”。

#三條接入路徑分別是什麼？

• 官方直連：向模型廠商註冊、付款，請求直接發到廠商域名，例如 api.openai.com、api.anthropic.com、api.deepseek.com。
• 雲廠商託管：透過雲平臺的賬號和計費呼叫模型，同一個模型可能有多個託管方和多個區域。cdnping 模型監測讀取的 OpenRouter 公開資料裡，同一個模型常常同時列出廠商自己和多家雲平臺作為推理供應商。
• 聚合閘道器：一個介面地址、一份額度，後面接多家上游。切換模型只改引數，代價是你和模型之間多了一層，需要額外核對它的可用率口徑、計費和資料政策。

國內開發者實際要在這三條路里選，而常見的英文選型文章多在比較幾家雲平臺，不太涉及這個問題。

#選型矩陣：每一格怎麼判斷？

每一格寫“去哪看、看什麼”，可以照著逐項打勾。

幾點補充：

1. 透明度比單個百分比更重要。一個“99.9%”如果不說明分母是探測請求還是真實請求、哪些錯誤算平臺失敗，就沒法比較。怎麼自己定口徑、寫指令碼，見自己測 AI API 的可用率：指標、指令碼與口徑。
2. 價格只看每百萬 token 單價會算錯。輸入輸出單價差距、快取命中價、長上下文加價、計量單位折算都會改變結果，具體見大模型 API 價格怎麼比。
3. 資料政策要看原文。讀條款時重點看“是否保留、保留多久、是否用於訓練”，方法見用第三方 AI API 時，程式碼和對話會被看到嗎。

#延遲怎麼測才算數？

延遲最容易被誤讀，因為它強依賴“從哪裡測”。先看一組 cdnping 的邊緣探測資料。

來源：cdnping API 狀態，從 Cloudflare 丹佛（DEN）節點探測各官方 API 入口。視窗：2026-10-17 UTC 08:40 至 10:05，共 242 條探測記錄。cdnping 從 2026-10-17 才開始採集，這只是很短的一段樣本，不代表長期水平。

這張表主要反映的是探測點的位置：從美國的節點看，海外廠商入口在百毫秒左右，國內平臺入口要幾百毫秒。換到國內網路，結果可能正好反過來。所以它回答不了“我該選誰”，只能說明延遲要用你自己的網路、在你的伺服器所在地去測。

#動手：三步測出你自己的延遲

1. 開啟 cdnping 線上測速，它在瀏覽器裡測 15 個 AI API 入口的“首次連線”（含 DNS 和 TLS 握手）和“往返”（連線複用後 3 次請求的中位數）。在你日常寫程式碼的網路上測一次，在部署服務的機房再測一次。

2. 在伺服器上用 curl 拆開各階段耗時，把主機名換成你的候選入口：

   for host in api.openai.com api.anthropic.com api.deepseek.com; do
     curl -o /dev/null -s -w "$host dns=%{time_namelookup} tcp=%{time_connect} tls=%{time_appconnect} ttfb=%{time_starttransfer}\n" \
       "https://$host/"
   done
   

   這裡請求的是根路徑，返回什麼狀態碼不重要，看的是建連和首位元組時間。每個入口跑 10 次以上取中位數，單次結果意義不大。

3. 如果要比較真實生成速度，還要測首 token 時間（TTFT），這需要帶 API Key 發一個流式請求。首次連線、閘道器往返和 TTFT 分別反映什麼，見AI API 延遲拆解：連線建立、閘道器往返與首 token 時間。

對聚合閘道器和雲廠商託管：你測到的是“你到入口”這一段，入口到上游模型這一段測不到，只能透過 TTFT 間接觀察。

#可用率去哪裡核實？

三條路徑的核實方式不同：

• 官方直連：看官方狀態頁。cdnping 同步了部分廠商狀態頁的事件。按 2026-09-17 以來的同步記錄，OpenAI 狀態頁有 4 條 major、19 條 minor 事件，Anthropic 有 6 條 major、1 條 minor。這些數字只說明“官方公開了多少事件”，各家劃分事件等級的標準不一樣，不能直接橫向排名。事件等級和元件怎麼讀，見怎麼看 OpenAI 狀態頁和 Claude 狀態頁。
• 雲廠商託管：同一模型在不同託管方上的可用率可能不同。模型監測裡能看到每個推理供應商的 30 分鐘和 1 天可用率，以及量化精度（fp8、fp4 等）。供應商之間的差別見同一模型換個 OpenRouter 供應商，可用率能差多少，量化差異為什麼要關注，見模型變笨還是換了供應商。
• 聚合閘道器：要求它給出可複核的資料。以 AGI Plan 為例（AGI Plan 是 cdnping 的商業合作方），它在 https://agiplan.dev/api/status/requests?month=YYYY-MM 公開逐小時、逐能力組的成功和失敗計數，不需要登入，口徑是“成功 /（成功 + 平臺自身原因失敗）”，只有 5xx 算平臺失敗；cdnping 的 AGI Plan 狀態頁也做了映象。截至 2026-10-17 的 30 天資料裡，各能力組可用率在約 81.7% 到 98.0% 之間，高速輕量組最低。可以這樣自己拉下來核對：

curl -s "https://agiplan.dev/api/status/requests?month=2026-10&format=json" | head -c 600

對任何閘道器都可以問同樣三個問題：分母是什麼、哪些錯誤算平臺的、原始資料能不能下載。答不上來的，它給的可用率數字就沒法拿來比較。

#支付、合規和地區限制要注意什麼？

• 海外廠商的官方 API 通常要求境外可用的支付方式，部分服務對所在地區有限制。這類限制以官方政策為準，請遵守服務條款和當地法規，不要嘗試繞過。
• 需要合同和發票的團隊，優先看雲廠商託管或能開票的渠道。付款和開票的具體問題見國內開發者怎樣付費使用 AI API。
• 聚合閘道器要確認它和上游的關係。例如 AGI Plan（是 cdnping 的商業合作方）在站內明確說明自己不是官方授權渠道，按月訂閱、人民幣結算。選這類服務時，把“是否官方授權”和“對你的業務是否可接受”分開判斷。

#按場景怎麼決策？

按順序回答下面的問題，遇到“是”就停在對應結論上，再回到矩陣逐項驗證。

#場景一：個人編碼工具（Claude Code、Codex、Cursor 等）

1. 只用一家模型，能正常用官方支付方式？是 → 官方直連。
2. 需要在多家模型之間切換，或希望人民幣付費？是 → 聚合閘道器，但先按上文核對可用率口徑和資料政策，再用線上測速看你的網路到入口的延遲。
3. 改介面地址的方法見Claude Code 自定義 API 與 Codex、OpenCode 介面地址配置。

#場景二：團隊內部工具

1. 公司要求合同、發票、資料處理協議？是 → 雲廠商託管優先。
2. 內部工具對延遲敏感（例如補全）？是 → 在部署機房實測入口延遲，把 p95 而不是平均值作為門檻。
3. 用量大且任務難度差異大？考慮按任務分流到不同檔次的模型，並按你的真實輸入輸出比例算賬，做法見多模型路由怎麼做。

#場景三：對外產品

1. 至少準備兩條接入路徑，一主一備。主路徑出問題時能切到備路徑，比押在單一來源上更可靠。
2. 每條路徑都要有自己的監控：你自己的真實請求成功率，加上外部探測（例如 cdnping API 狀態提供的開放資料 /api/status，CC BY 4.0）。
3. 價格和模型會變。訂閱官網動態的 RSS，跟蹤官方更新日誌和價格頁的變化，具體方法見大模型 API 價格變了怎麼第一時間知道。

#一張可以列印的檢查清單

選定候選之後逐項打勾，有一項答不上來就先別上生產：

• 用自己的網路和部署機房測過首次連線、往返和 TTFT，各取 10 次以上中位數
• 知道可用率的分母和失敗口徑，能拿到原始資料或狀態頁歷史
• 按自己的輸入輸出比例、快取命中率算過月成本，而不是隻比單價
• 讀過資料政策原文：是否保留、保留多久、是否訓練
• 支付方式、幣種、發票滿足財務要求
• 現有工具和 SDK 只改配置能跑通，不需要重寫呼叫層
• 有備用路徑和切換方式，切換演練過一次
• 訂閱了價格和模型變更的通知