OpenAI 在公开测试版中引入了代理 API,为开发人员提供了使用托管 Codex 工具构建和运行云代理的第一方方法。 9 月 10 日的发布并不是另一款车型的发布。这是一项基础设施举措:OpenAI围绕代理工作打包运行时,包括工具、执行环境选择以及长时间运行的任务所需的云层。
对于已经尝试编码代理、研究代理、支持自动化或内部工作流程助手的团队来说,这一变化是重大的。开发人员可以从围绕代理会话设计的 API 开始,而不是将模型调用、工具执行、文件状态、任务内存、沙箱和重试拼接在一起。 OpenAI 表示,测试版允许开发人员在 OpenAI 管理的沙箱、他们自己的基础设施或受支持的沙箱合作伙伴之间进行选择。它还表示,除了使用的代币和工具之外,没有额外的代理费用API。
定价细节很重要,但不应被误认为是简单。代理可以在规划、工具使用、文件检查、子任务委派和重复尝试中消耗令牌。一旦工作从提示响应模式转变为运行代理流程,公司就需要在工作流程和会话级别衡量成本,而不仅仅是在单个请求级别。
发生了什么变化
核心变化是OpenAI提供托管代理层,而不是让客户操作自己的线束堆栈。 Codex 已经与面向软件的代理工作流程相关联。代理 API 使该工具可作为公共测试版开发者界面用于云执行。
这意味着集成单元正在扩展。传统的企业 LLM API 集成通常会跟踪请求、模型名称、令牌量、延迟、错误和密钥。代理集成还必须考虑会话、可用工具、选择的沙箱、授予的权限以及涉及的任何子代理或后台任务。
OpenAI 的基础架构选项表明了市场的实际划分。一些团队更喜欢OpenAI管理的沙箱,因为它减少了运营负担。其他人(尤其是在受监管或安全敏感的环境中)希望代理在自己的基础设施或合作伙伴沙箱中运行,这样可以更严格地管理网络访问、数据驻留和审核控制。
为什么企业应该关注
此次发布恰逢企业 AI 工作从聊天界面转向可以采取行动的系统之际。回答问题的模型是一种风险。读取文件、调用工具、编辑代码、开票、查询内部系统或执行 shell 命令的代理是一种不同的操作模型。
对于开发人员来说,托管代理API可以减少无差别的平台工作。构建可靠的工具需要有关状态、工具模式、故障处理、沙箱生命周期、可观察性和安全检查的决策。供应商管理的版本可以让产品团队更快地行动,特别是当他们想要在不维护所有管道的情况下制作代理功能原型时。
对于平台和安全团队来说,相同的抽象会产生新的治理问题。哪些 API 键可以创建代理?这些代理可以使用哪些沙箱?默认允许使用哪些工具?团队是否可以限制单个代理会话或一类工作流程的支出?日志能否区分模型响应、工具调用、文件操作和委托子任务?
这就是业务影响变得具体的地方。代理工作流程比普通完成工作更难预算,因为工作量难以预测。用户可能会要求一个简单的答案,但代理可能会检查上下文、运行工具、创建计划、修改计划并重试失败的操作。OpenAI 没有添加单独的代理 API 费用这一事实并不能消除对预算、警报和使用情况分析的需求。它使代币和工具会计成为财务控制面。
受影响的人
最直接的受众是在 OpenAI 模型之上构建代理产品的工程团队。他们现在拥有一条托管路径,可以取代部分内部工具或加速新项目。构建 AI 开发工具、内部自动化产品、客户运营代理或研究助理的初创公司可能会将 API 视为更快的生产途径。
大型企业会对它进行不同的评估。他们可能重视第一方代理运行时,但他们也会询问它如何与现有的云安全、软件供应链审查、身份控制、采购和事件响应相适应。选择基础设施或沙盒合作伙伴的能力对于这些买家来说可能很重要,因为代理执行可能会接触敏感数据和特权系统。
AI 网关和可观测性供应商也会受到影响。只看到原始模型调用的网关将错过代理工作流程中的许多重要内容。相关遥测现在包括代理身份、会话持续时间、工具序列、沙箱环境、批准事件、缓存行为、重试和每个已完成任务的成本。 B2B LLM 的实际联系在于控制层:使用多个模型和 API 的团队需要一致的API-关键治理、成本管理和使用分析,即使应用层变得代理也是如此。
仍然不确定的
测试版标签留下了几个悬而未决的问题。随着开发人员发现围绕长时间运行的作业、状态管理、工具权限和部署边界的边缘情况,公开测试版 API 经常会发生变化。 OpenAI 描述了基础设施选择和成本模型,但买家在将 API 视为关键工作流程的基础之前仍需要验证操作细节。
还有一个竞争问题。代理基础设施正在成为一个产品类别,而不仅仅是模型 API 中的一个功能。云提供商、开发工具公司、SaaS 平台和 AI 网关供应商都在转向托管代理执行、策略执行和可观察性。 OpenAI 的优势在于它可以在一种开发人员体验下协调模型、Codex 工具和云代理运行时。权衡是,企业可能不希望一个供应商拥有模型访问、执行和治理的每一层。
近期最明显的结果是代理架构变得更加标准化。开发人员将越来越期望 API 不仅能够管理推理,还能管理完成自主或半自主工作的环境。这提高了模型周围每个平台的门槛:日志记录、审批、关键范围、成本控制和审核跟踪现在必须遵循代理,而不仅仅是请求。