OpenAI 已将 GPT-6.1 Sol 发布到其 API,为需要强大编码、计算机使用和专业工作流程性能的团队添加了新的高端路由选项,而无需为每项任务默认使用 GPT-6 Astra。

此次发布的重要性不那么重要,因为它在目录中添加了另一个型号名称,而更重要的是因为它改变了实际的价格阶梯。 OpenAI 列出了用于响应 API 和聊天完成的 GPT-6.1 Sol,并可通过响应 API 进行工具调用,并在测试版中支持多代理。已发布的标准定价为每 100 万个输入令牌 2 美元、每 100 万个缓存输入令牌 0.10 美元、每 100 万个缓存写入令牌 2.50 美元、每 100 万个输出令牌 10 美元(提示最多 272,000 个输入令牌)。

这种组合为工程团队提供了一条更清晰的中间路径:使用前沿级模型来完成更艰巨的工作,同时通过缓存感知控件路由大量重复的提示和长时间运行的工作流程来管理成本。

发生了什么变化

GPT-6.1 Sol 于 9 月 29 日作为命名的 API 模型发布。OpenAI 的变更日志将其列为可用于响应 API 和聊天完成,这为现有的 API 用户提供了一种相对直接的方法来针对当前生产流量进行测试。模型页面还将其放置在现代OpenAI工具堆栈中:通过响应支持工具调用,并且测试版中提供了多代理。

GitHub 同日分别宣布 GPT-6.1 Sol 在 GitHub Copilot 中可用,并通过 Copilot 基于使用情况的计费模型处理定价。这意味着许多开发者将首先在编码工作流程中遇到该模型,而不是将其显式连接到应用程序后端。

重要的运营细节是定价。以每百万个输入代币 2 美元和每百万个输出代币 10 美元计算,GPT-6.1 Sol 位于最高成本前沿配置之下,但它不是商品模型。输出仍然是详细编码代理、文档起草和分析工作流程的主要成本驱动因素。更独特的杠杆是缓存输入:OpenAI 列出的缓存读取成本为每百万令牌 0.10 美元,而缓存写入成本为每百万令牌 2.50 美元。

为什么缓存输入现在更加重要

提示缓存通常被视为一种很好的优化。对于GPT-6.1 Sol,它变成了一个预算设计问题。许多企业应用程序一次又一次地发送相同的大型系统指令、策略块、模式、检索模板、示例和存储库上下文。如果这些重复输入符合缓存命中条件,则边际输入成本可能会急剧下降。如果它们不断被重写、重新排序或跨代理分散,节省的成本可能永远不会出现。

这给应用架构带来了压力。运行编码助理、知识工作副驾驶、合同分析、支持自动化或分析代理的团队将需要测量缓存命中率,而不仅仅是总代币数量。如果模型有效地重用稳定的上下文,那么在简单的每个令牌比较中看起来昂贵的模型在实际工作负载中可能会更便宜。反之亦然:及时纪律较差的系统可能会消除缓存定价的明显优势。

对于使用共享企业法学硕士API的企业来说,该模型的发布强化了集中路由和成本报告的案例。各个团队可能只会看到他们自己的模型调用。平台团队需要了解流量是否正在使用缓存、哪些工作负载正在产生昂贵的输出,以及代理运行是否会在单个用户请求后面增加调用。

谁受到影响

构建复杂编码工具的开发人员是最明显的受众。 GPT-6.1 Sol 的定位、Copilot 可用性和响应 API 工具支持使其与代码生成、重构、调试、存储库搜索和工作流程自动化相关。最近评估过 GPT-6 Sol 或 GPT-6 Astra 的团队现在有了另一个同系列选项来对延迟、输出质量和成本进行基准测试。

运行专业工作流程代理的产品团队也会受到影响。工具调用和测试版 多代理支持指向系统,其中一项用户任务可以分散为规划、检索、执行、审查和后续步骤。这很有用,但它使会计变得复杂。单个面向客户的操作可能会消耗多个代理角色、工具和重试的令牌。

财务和平台运营团队也应该注意。型号选择不再是简单的“最佳型号与廉价型号”决策。更好的问题是哪个模型、上下文长度、缓存模式和输出策略应该应用于每个工作负载。 GPT-6.1Sol 使这个问题变得更加尖锐,因为其公布的价格在新输入、缓存输入、缓存写入和生成的输出之间进行了明显的权衡。

对 API 个团队的实际影响

第一个实际步骤是针对真实流量进行基准测试。综合提示很少显示具有有意义的缓存输入定价的模型的经济性。团队应重播代表性请求,包括完整的系统提示、检索有效负载、工具模式和预期输出长度。他们应该比较每个已完成任务的总成本,而不仅仅是每百万代币的成本。

第二步是政策。如果广泛启用 GPT-6.1 Sol,团队需要按项目、环境、用户组和用例进行限制。编码代理和多代理工作流程可能特别难以预算,因为开发人员可能看不到每个下游模型调用。每个代理的归因、支出限制和批准阈值将成为生产准备的一部分,而不是事后的想法。

第三步是迁移卫生。由于该模型可通过响应 API 和聊天完成来使用,因此一些团队无需进行重大重写即可对其进行测试。但工具调用行为、缓存行为和多代理 beta 功能应单独验证。处理普通聊天完成的应用程序在开始使用工具调用或协调代理后可能需要不同的可观察性。

尚不确定的事情

OpenAI 已确认可用性、支持的 API 表面、定价、工具调用和测试版多代理支持。尚不确定的是,与 GPT-6 Sol、GPT-6 Astra、Anthropic 的 Sonnet 和 Opus 层、Google 的 Gemini 系列以及成本较低的开放或网关路由模型相比,GPT-6.1 Sol 在特定企业工作负载上的表现如何。

多代理支持也处于明确的测试阶段,因此团队应该期待行为、限制和操作指南的不断发展。这并不意味着该版本无法使用,但它主张有针对性地推出:首先控制项目,从第一天开始就进行成本控制,并在延迟、可靠性或支出偏离预期时明确后备路线。

对于 B2B 团队来说,最好将此版本视为模型采购正在成为工作负载路由的另一个迹象。 GPT-6.1 Sol 不仅仅是一个新端点。这是一项定价和架构决策,旨在奖励稳定的环境、可见的代币流和严格的治理。