直连 API 和使用网关，哪种更划算？以独立开发者到大型企业的五类场景为例，把工程投入、故障切换和用量折扣都算进 12 个月的总成本。
比价格时，最容易看到的是目录价，但它并不能反映全部成本。算一年的账，还要考虑接入和维护需要多少人力、供应商故障会造成多少收入损失，以及支出分散在四家厂商后，可能错过哪些用量折扣。
不同使用规模，成本差在哪里
- 独立开发者：每月 30 万次调用，只用一个模型。单看账单，直连每月便宜约 4 美元；但遇到供应商限流时，网关的价值就体现出来了。
- 种子期创业公司：每月 600 万次调用，使用三个模型。合并支出并计入用量返利后，使用网关的成本低 22%。
- 成长期公司：每月 4000 万次调用，使用五个模型和语音能力。使用网关的成本低 31%，其中缓存节省的费用比折扣更多。
- 扩张期公司：每月 3 亿次调用。使用网关的成本低 36%，还能减少相当于约 1.5 个全职岗位的供应商接入与维护工作。
- 大型企业：每月超过 10 亿次调用，合同中也约定了可用率。使用网关的 Token 成本低 29%，但更重要的是故障切换带来的保障。
容易漏算的接入和维护成本
每多直连一家供应商，前期大约要投入三个人周，后续每月还需要一个人日维护。SDK 升级、替换已停用的模型 ID、适配限流规则变化、接入新增区域端点，都在这笔成本里。接入五家供应商后，长期维护所需的工作量就超过了半个全职工程师。
每月调用量低于 100 万次、只用一个模型时，可以考虑直连。超过这个规模，或需要两个及以上模型时，在本文测算的各类场景中，合并支出并使用缓存都更划算。
故障切换能减少多少损失
单一前沿模型供应商的实际可用率大约为三个九。如果停机一小时就会损失几百美元以上，那么一年下来，仅依赖一家供应商带来的预期损失，就可能超过网关收取的全部利润。