本文最初发布于 TheNewStack 博客。
Adriandra Karuniawan 为 Unsplash+供图
3 月 30 日，Sycamore宣布了 6500 万美元的种子轮融资，用于构建其创始人所说的自主企业级 AI 操作系统。4 月 8 日，Anthropic 在公共测试版中推出了每会话小时八美分的托管代理。七天后，OpenAI 将自己的模型原生控制层（harness）作为开源 Agents SDK 的更新发布，除标准 API 和工具费用外，无需支付额外的第一方运行时费用。
十六天内的三个动作，每一个都是基于相同的市场观察在押注。现在，控制层是产品。但各实验室在如何销售该产品上存在尖锐的公开分歧。
Anthropic 在自己的基础设施上增加了单独计费的运行时。谷歌和微软将其打包成一个跨会话、内存、代码执行和工具的消费层。OpenAI 将运行时开源并免费提供，只对已经计费的模型和工具调用收费。这个领域正在迅速成型，但商业模式尚未确定。
“控制层”这个词在二月份广泛流传开来，当时 OpenAI 发表了一篇工程博文，描述了一个小型团队如何交付了一个百万行的生产级系统，其中没有一行代码是由人手工编写的。这个术语之所以流行了起来，是因为它命名了一个团队一直在实践但没有命名的真实学科。Martin Fowler 在四月初的一篇长文中对其极力推崇，将控制工程（harness engineering）定义成围绕 AI 模型但不包括模型在内的一切。
控制层是围绕代理的控制层，帮助其在生产环境中可靠地运行。它通常涵盖模型调用和上下文管理、工具编排、沙箱执行、持久化会话和执行状态、范围权限、错误恢复、可观测性和追踪。从这个意义上说，它类似于容器周围的生产基础设施：不是模型本身，而是使长期运行的代理更安全、更可调试且更可靠的周边系统。
在过去的 18 个月里，云和框架供应商提供了这一层的部分托管组件，但大多数交付生产级代理的团队仍然有太多的东西需要自己组装。初创公司通过销售现成的版本来筹集资金。内部平台团队基于开源组件构建自己的平台。控制层之所以成为一个市场，是因为现有的组件还无法提供一个完整的解决方案。
对于这一市场空白，Anthropic 给出的答案是 Managed Agents，他们将其打包为 Claude 平台上的测试版 API。开发人员定义代理、工具和护栏，而 Anthropic 则负责运行执行环境。该环境支持持续数小时的长期会话、沙箱化代码执行、范围限定权限、端到端追踪，以及基于 MCP 的第三方服务连接。
首批客户颇具影响力。Notion 利用 Managed Agents 同时运行数十个并行委托任务。Rakuten 在产品、销售、市场营销、财务和人力资源等部门部署了专家代理。Sentry 开发了一个代理，能够将标记出的 Bug 自动转换为公开的拉取请求，无需任何人工干预。Asana 将该服务集成到了其 AI Teammates 功能中，而 Atlassian 也成为首批客户之一。
其定价相对比较透明。所有模型推理都适用于 Claude 平台的标准令牌费率，会话运行期间每会话小时八美分的基础使用费。多代理编排、自我评估结果和长期记忆需要通过单独的研究预览访问申请才能获得，这也就意味着其中三项最引人注目的功能使用受限。
Anthropic 还提供了一个 Claude Agent SDK 用于编程构建，因此托管与开源的区别在于产品而不是公司。但托管代理，4 月 8 日发布的那一部分，仅托管在 Anthropic 的基础设施上。
七天后，OpenAI 下了不同的赌注。升级后的开源 Agents SDK 增加了模型原生控制层和本地沙箱执行，提供可配置的内存、沙箱感知编排、Codex 风格的文件系统工具和标准化的 MCP 集成。它针对的是持续好几个小时并调用许多工具的长程代理（long-horizon agents），和托管代理针对的用例一样。
该交付模式和 Anthropic 截然不同。OpenAI 不负责运行计算任务。开发者通过支持七家沙箱提供商（包括 Blaxel、Cloudflare、Daytona、E2B、Modal、Runloop 和 Vercel）的 Manifest 抽象层自带计算资源，存储则分布于 S3、GCS、Azure Blob 和 Cloudflare R2 上。状态外部化使运行实例能在沙箱容器丢失后继续存活，并通过快照功能在新容器中恢复运行。虽然控制层负责协调，但基础设施归开发者所有。
价格线是对比最明显的地方。OpenAI 的公告指出，新功能采用基于令牌和工具使用情况的标准 API 定价，不收取单独的第一方运行时费用，也不按会话小时计费。SDK 本身是免费且开源的。开发者仍然需要向其选择的任何服务提供商支付使用沙箱计算和存储所产生的实际费用，因此总成本并非为零，但 OpenAI 拒绝设置单独的运行时收费项目。根据工作负载的形态，总成本可能高于或低于 Anthropic 捆绑的模型。
OpenAI 明确说明了原因。他们在公告中指出，虽然托管代理 API 简化了部署，但代价是限制代理运行的位置以及它们访问敏感数据的方式。这是公开与 Anthropic、谷歌和微软背道而驰。
谷歌将 Vertex AI Agent Engine列为完全托管的运行时，包括会话、内存、代码执行和可观测性，每一项都作为单独的消费线计费，而不是单一的每小时费用。微软提供的Foundry Agent Service则基于模型和工具的使用计费，对于 Code Interpreter 等工具有特定的会话计量，而不是整个平台统一计费。亚马逊云科技在 2 月份宣布，将与 OpenAI 共同创建一个有状态的运行时环境，未来几个月通过 Bedrock 提供，同时 Bedrock AgentCore将作为运行时原语层。
这些都是不同的定价模式。Anthropic 将计算、状态和编排打包在一起，按每小时会话计费。谷歌则单独计量组件，而微软按模型和工具计量。亚马逊云科技将在 OpenAI 运行时发布后增加另一个托管路径。OpenAI 的官方答案则完全跳过了运行时计量。
这五家供应商一致认为这一层很重要，他们都想拥有它。他们存在分歧的地方是，该产品究竟是具备独立计费系统的托管服务、一套收费的原语集合，还是由商业模式支撑的开源 SDK。这种分歧并非僵局，而是一种有意为之的战略差异。
云基础设施领域此前曾经出现过这种分化，而结果并非是哪一方被完全取代。Terraform 作为开源项目继续存在，与 AWS CloudFormation 的托管服务并行发展。Kubernetes 同样保持开源，并成为了事实上的行业标准，尽管亚马逊云科技、谷歌和微软都推出了托管的容器服务。在这两种情况下，开源都没有取代托管服务，托管服务也并未淘汰开源。它们之所以能够共存，是因为它们服务于截然不同的用户群体。
我们的经验是，当一个供应商提供免费的开源软件，其他供应商提供付费的托管软件时，市场倾向于根据基础设施偏好分化，而不是崩溃。想要托管便利性的团队会转向托管服务。想要控制权、可移植性或多云灵活性的团队会转向开源技术栈。这两种模式都在云时代支撑着真实的业务运营。
独立开发者销售该层横向版本的经济模式开始发生变化。OpenAI 提供的免费原生模型框架，会给独立框架带来定价压力，而且远超任何付费托管服务。云计算的模式正在显现，但正同时经历着两重压缩。
我认为，初创企业的风险特征变得更加明确了。Sycamore 向 Coatue 和 Lightspeed 的推介重点是企业 AI 中的信任、治理与控制，并内置了多模型支持。这一推介方案在面对 Anthropic 主导的路线和 OpenAI 的开源路线时都具有充分的说服力，因为它瞄准的是那些非常希望避免依赖任何单一实验室的买家。在此背景下，Sycamore 看上去并不像是那种容易受到冲击的典型模式。
在我看来，这些发布所凸显的典型模式是“横向编排框架”。如今，LangChain、CrewAI 和 VoltAgent 正在与他们所依赖的实验室展开更直接的竞争，他们使用这些实验的模型，但后者推出了免费、模型原生的控制层框架。当相关供应商免费提供一个与其前沿模型高度契合的开源控制层时，那些主张“模型无关”框架的论点（即灵活性优于供应商锁定）就变得更难站住脚了。那些仍在向企业买家推销横向“模型无关”编排层的厂商，未来恐怕将面临更艰难的谈判。
销售付费托管平台的初创公司则面临来自 Anthropic、谷歌和微软的压力。在我看来，从战略上讲，应对这两种压力的方法似乎是一样的：在治理、合规、垂直深度或多模型控制方面实现差异化，或者在价格上与免费服务和打包服务展开竞争。
在“自建与采购”的权衡中，出现了两个新的参考点。希望采用捆绑式基础设施的团队，可以将内部系统与 Anthropic Managed Agents 进行对比——后者的定价为每会话小时 8 美分外加 Token 费用。而已经拥有自有基础设施的团队，则可以将 OpenAI SDK 作为参照，该方案除需支付沙箱和存储服务提供商的费用外，不再额外收取第一方运行时费用。至于哪一个更具参考价值因团队而异。在一个月前，这两个选项都还不存在。
对于仍处于原型阶段的团队来说，一夜之间，便无法把从头开始构建脚手架难度大当理由了。过去被认为是差异化工程的基础性工作，现在可以通过 API 或免费的 SDK 获得。对于已经投入生产应用的团队而言，可能内部系统仍然更适合当前的工作负载。但现在，其维护团队正和四个前沿实验室在他们进行着积极投资的领域里展开竞争，这将使这项工作进展变慢，地位变低，招聘难度变大。
自建仍然是一个有效的选择，不过需要在工作负载适应性和团队可持续性两个基准上都胜出，而不是一项都不行。
控制层本应成为护城河。在十八个月的时间里，大多数交付生产级代理的团队都自己构建或组装了自己的控制层，这就是差异化。前沿实验室集体决定不出售模型访问权，看着别人捕获其上的边际利润，但他们在如何自己获取利润上存在分歧。其中三个实验室以某种形式对运行时收费。有一个实验室则免费提供控制层，转而押注于模型忠诚度。
值得关注的问题是哪个商业模式会胜出，或者市场是否能够都支撑。OpenAI 的赌注是，一个免费的、开源的、模型原生的控制层会比付费的托管运行时带来更多的模型消费，而 Bedrock 合作伙伴关系则涵盖了希望采用托管服务的企业。Anthropic 则押注于付费的完全托管版本，而谷歌和微软则押注于将定价明确的组件整合到更广泛的平台中。这些可能适用于不同的模式。那些在场外观望的初创公司需要先弄清楚市场的主流趋势，再制定差异化战略。敬请关注，后续我将继续为你解读“控制层”和“运行时”这两个不断演进的概念。
声明：本文为 InfoQ 翻译，未经许可禁止转载。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。