Cloudflare 向 AI Gateway 添加了一项控件,允许运营商在第三方模型请求时要求提供者凭据。界面方面的变化很小,但它解决了团队通过网关路由 AI 流量的实际治理问题:当客户、项目或租户未提供有效的提供商密钥时会发生什么?
在此更新之前,Cloudflare AI Gateway 可以使用其统一计费设置作为支持的第三方提供商的后备路径。当请求否则会失败时,这可能很方便,但它也会模糊成本归属和合规性界限。新的仅 BYOK 设置可让网关所有者防止这种回退,并要求请求使用明确提供的自带密钥凭证。
Cloudflare 表示,该设置可以在仪表板中启用,也可以通过 API 和 byok_only=true 启用。它还添加了每个请求标头 cf-aig-no-wholesale,适用于团队希望阻止在单个调用中批量使用或 Cloudflare 管理的凭据的情况。
更改内容
9 月 14 日的 AI Gateway 变更日志引入了针对第三方提供商请求的凭据要求。启用后,如果调用者未提供可接受的提供商凭据,网关不会默默地回退到 Cloudflare 管理的统一结算凭据。
这种区别很重要,因为 AI 网关越来越多地位于许多内部应用程序、外部客户和多个模型提供商之间。钥匙丢失不仅仅是一种技术故障模式。它可以决定对哪个法人实体进行计费、消耗哪个帐户的提供商配额以及用量是否出现在正确的成本中心。
新的控制措施为平台团队提供了更严格的运营模式。网关可以将丢失的客户凭据视为策略违规,而不是将其视为路由不便。这对于经销商设置、客户拥有的密钥部署以及提供商关系需要与业务部门或租户保持直接关联的企业环境尤其相关。
为什么它对 AI 网关运营商很重要
AI 网关设计通常侧重于路由、延迟、缓存、重试和模型抽象。计费行为也值得同样的关注。如果网关在一条路径不可用时自动更改凭据模式,下游报告可能会产生误导。请求可能看起来像普通的应用程序流量,而发票却落在其他地方。
对于运营中央 AI API成本控制层的企业来说,这会带来运营风险。财务团队可能会丢失干净的退款数据。安全团队可能不知道实际使用了哪个凭证。产品团队可能很难解释为什么一个租户的使用量是通过平台帐户而不是该租户自己的提供商帐户进行计费的。
仅限 BYOK 模式也有助于兑现客户承诺。一些买家要求他们自己的提供商合同、数据处理条款或区域设置来管理模型调用。如果网关可以回退到托管结算凭据,则除非政策禁用回退,否则该承诺将变得更难执行。
每个请求标头添加了更精细的选项。平台可以为某些工作负载提供更广泛的统一计费行为,同时阻止具有更严格合规性、经销商或归因要求的请求。这为开发者提供了一条迁移路径,而无需强制每个应用程序同时进入最严格的模式。
谁受到影响
直接受众是任何使用 Cloudflare AI Gateway 将请求代理到第三方 AI 提供商的团队。当多个团队、租户或客户共享网关以及提供商凭据应由中央平台帐户之外拥有时,这一变化最为相关。
企业 AI 平台团队应检查其网关行为是否符合内部政策。如果项目应该使用自己的 OpenAI、Anthropic、Google、Mistral 或其他提供商帐户,则网关应使该依赖项可见且可执行。如果隐藏了损坏的凭据设置,帮助演示成功的后备可能会成为生产中的问题。
经销商和合作伙伴平台对同一问题有更尖锐的版本。如果客户携带自己的提供商密钥,平台运营商需要确信流量不会意外转换为平台计费的使用量。否则,利润、发票、审计记录和客户信任都会受到影响。
开发人员也会受到影响,尽管主要是通过更清晰的故障模式。通过仅 BYOK 强制执行,缺乏适当凭据的请求应该失败,而不是通过替代计费路径进行路由。这可能需要更好的入职检查、更清晰的错误处理以及在流量上线之前验证提供商密钥的部署测试。
实际后果
第一个实际步骤是策略清单。团队应决定哪些工作负载可以使用 Cloudflare 管理的统一计费,哪些工作负载必须使用客户拥有或项目拥有的提供商凭证。该决定应该是明确的,而不是留给默认网关行为。
第二步是可观察性。日志和使用情况分析应记录使用了哪种凭证模式、请求是否因为启用了“BYOK-only”而被阻止,以及哪个租户或项目提供了密钥。如果没有这种可见性,更严格的控制可以减少计费模糊性,但仍然会给运营商带来不良的问题排查数据。
第三步是开发人员工作流程。当凭据丢失时,依赖 AI Gateway 的应用程序应该会提前失败。启动检查、部署验证或管理控制台警告比在生产请求被拒绝后发现问题要好。
剩下的不确定性更多地与功能本身有关,而与采用模式有关。 Cloudflare 已记录了新的控制措施,但每个操作员仍需决定在何处应用它。有些团队更喜欢内部实验的后备计费弹性。其他人会将 BYOK-only 设置为生产租户流量的默认值。重要的变化是,这现在是一种治理选择,而不是隐藏在路由层内的隐式行为。