在人工智能发展的大部分历史中，人类主导了其开发周期的每一个步骤。但在 Anthropic，我们正在将越来越多的人工智能开发工作委托给人工智能系统本身，这正在加快我们的工作速度。

如果这种趋势发展到一定程度，并拥有足够的计算能力，那么人工智能系统最终将能够完全自主地设计和开发自身的后续版本。这被称为递归式自我改进。我们尚未达到这一目标，递归式自我改进也并非必然。但它的到来可能比大多数机构的准备时间要早。

利用公开的基准数据和Anthropic公司内部此前未公开的数据，Anthropic研究所表明，人工智能正在加速人工智能系统的开发。仅举一例：如今，Anthropic的工程师平均每个季度交付的代码量是2021年至2025年期间的8倍。

本文探讨的技术趋势表明，人工智能系统在未来几年将变得更加强大。这些趋势意义深远。能够自我构建的人工智能将是技术史上的一项重大突破，它将在科学、医疗等诸多领域为世界带来巨大的福祉。然而，完全递归式的自我改进也可能增加人类失去对人工智能系统控制的风险。如果系统能够完全构建自身的后续版本，那么我们如何保障系统安全、监控系统运行以及塑造系统行为都将变得至关重要。

来自外部世界的证据

人工智能模型的改进速度正在加快。它们能够独立可靠完成的任务时长大约每四个月翻一番，而此前的趋势是每七个月翻一番。2024年3月，Claude Opus 3 可以完成人类大约需要四分钟才能完成的软件任务。一年后，Claude Sonnet 3.7 可以完成大约一个半小时才能完成的任务。又过了一年，Claude Opus 4.6 可以完成需要12小时才能完成的任务。¹如果这一趋势持续下去，那么今年人工智能系统就能完成熟练人员需要几天^才能完成的任务。到2027年，人工智能系统或许能够完成人类需要几周才能完成的任务。

同样的模式也出现在编码和研究基准测试中。基准测试衡量模型在特定领域的性能，当模型性能接近 100% 时，基准测试就“饱和”了。SWE -bench是^衡量 真实世界软件工程的标准测试：它给模型一个真实的开源代码库和一个真实的错误报告，并要求模型编写代码来修复问题并通过项目自身的测试。短短两年内，模型的得分就从个位数飙升至基准测试的饱和。

CORE-Bench测试模型能否复现现有研究，这是模型开展原创研究的先决条件。它会向人工智能模型提供已发表论文的代码和数据，并要求模型重新运行所有内容，以确认其能够复现论文的结果。人工智能系统在 2024 年复现结果的成功率约为 20%，而仅仅 15 个月后，基准测试就达到了饱和。METR 运行该基准测试，衡量模型完成长时间任务的能力。METR发现，Claude Mythos Preview 至少可以连续运行 16 小时，并且“达到了 METR 在不添加新任务的情况下所能衡量的上限”。

公开的基准测试能够很好地反映这些系统的能力，但它们无法揭示人工智能系统对加速人工智能自身发展的影响。为此，我们需要来自像Anthropic这样的人工智能公司内部的直接证据。

来自人类学内部的证据

构建前沿模型需要两大类工作。一是工程工作：编写代码、搭建基础设施、监督模型训练。二是研究工作：决定开展哪些实验、解读实验结果、以及思考下一步要尝试哪些想法。

无论在工程领域还是研究领域，情况都一样。在工程领域，克劳德能够处理一个描述不清的问题，并找到解决方法；人类只需提供目标，无需提供具体方法。在研究领域，克劳德在执行明确的实验时，其表现已经可以与经验丰富的人类相媲美，甚至超越他们。然而，在工程和研究领域，克劳德在选择目标时，其判断能力仍然存在巨大的差距。这正是当今人工智能与未来能够自主设计自身后续系统的差距所在。

在 Anthropic，员工随着经验的积累，通常会接到更多开放式且重要的任务。早期，他们执行的是别人指定的任务，例如“导出按钮无法使用，请修复”。随着经验的积累，他们会被赋予一个目标，并自行设计解决方案，例如“调查网络在高负载下速度变慢的原因”。到了最高级别，他们甚至会决定哪些问题值得着手解决：“团队下个季度应该开发什么？”我们可以使用 Anthropic 的内部数据来了解 Claude 在处理这些不同类型的任务方面取得了多大的进步。

Claude 编写了 Anthropic 的大量代码。截至 2026 年 5 月，我们合并到 Anthropic 代码库中的代码超过 80% 都出自 Claude 之手。³ 在 Claude Code 于 2025 年 2 月推出研究预览版之前，这个数字还只有个位数。这种转变也体现在每位工程师的产出量上。在 Anthropic 成立的头^四年（2021-2024 年），每位工程师每天合并的代码行数保持稳定，然后在 2025 年开始攀升，因为 Claude 开始运行代码，而不仅仅是建议工程师复制粘贴。2026 年，随着模型开始在更长的时间范围内自主运行，这一增长速度再次加快。这两个转折点如下图所示。 2026 年第二季度，普通工程师每天合并的代码量是 2024 年的 8 倍^。4这是因为很多代码都是由 Claude 编写的，工程师只是指导和审查，而不是自己编写。

需要注意的是：代码行数并非完美的衡量标准，因为它衡量的是数量而非质量。因此， 2026 年第二季度每位工程师每天编写8行代码几乎肯定高估了实际的生产力提升。尽管如此，它仍然表明生产力正在加速增长。在 Anthropic，我们不会根据员工编写的代码行数来奖励他们；相反，团队成员之所以能够编写更多代码，仅仅是因为他们使用了 AI 系统来编写更多代码。

代码编写行数的增加与员工主观感受到的生产力大幅提升相符。在2026年3月对Anthropic公司各研究团队的130名员工进行的调查中，受访者中位数估计，在他们原本就会从事的项目类型上，使用Mythos Preview后他们的产出量大约是未使用任何AI模型时的4倍。⁵^我们预计3月份的实际提升幅度可能略低一些。⁶尽管如此，我们认为总体结论是合理的，并且与我们的其他观察结果一致：Anthropic公司相当一部分技术人员的核心工作效率比没有AI辅助^时提高了数倍。

我们还发现，Anthropic 的员工正在利用 Claude 完成一些原本不可能完成的工作，例如构建探索性工具和处理长期积压的清理工作。例如，在 2026 年 4 月，Claude 发布了 800 多个修复程序，将一类 API 错误减少了一千倍。负责 Claude 的工程师估计，如果由人工完成这项工作，需要四年时间；解决他人遗留的 bug 既缓慢又费力，而且人类很难同时记住如此多的陌生信息。

克劳德编写的代码“很好”，而且还在不断改进。 “好代码”包含两层含义：它能正常运行，并且编写方式便于其他工程师理解和在此基础上进行扩展。关于第一点，证据显而易见。一年来，Anthropic 的员工纠正、调整或接管克劳德任务的频率一直在稳步下降，即使是最复杂、最开放的任务也不例外。这意味着，对于那些没有明确规范的问题，工程师也不确定答案应该是什么样子。这一点可以从克劳德在不同难度任务上的成功率随时间的变化中看出，如下图所示。克劳德编写的代码确实有效。

如何理解：会话成功与否由 Claude 判断器决定；如果 Claude Code 代理在无需纠正的情况下明显成功完成用户任务，则该会话被视为成功。工作负载的变化可能会导致成功率出现短期波动。

在难度最高的开放式任务中，克劳德的成功率在2026年5月达到了76%，六个月内提升了50个百分点。举例来说，一次例行升级导致数万个训练作业崩溃。一位工程师仅凭一些文本内容和集群访问权限就将克劳德引向了这起实时故障。克劳德逐个测试正在运行的作业和环境设置，最终找到了触发崩溃的那个晦涩的调试标志，并可靠地复现了该问题，确认了修复方案。克劳德仅用了大约两个小时就完成了通常需要两到三天才能完成的工作。

第二个标准是编写其他工程师能够理解并在此基础上进行扩展的代码。在这方面，人类与人工智能之间的差距依然存在，但正在迅速缩小。Anthropic 的员工之间尚未达成完全共识，但许多人认为，到 2025 年底，Claude 编写的代码质量仍然不如 Anthropic 的人类编写的代码，而如今两者的质量大致相当。我们预计一年内情况会有所改善。

这改变了 Anthropic 审查自身代码的方式。现在，我们代码库的每一次变更都会由自动化的 Claude 代码审查器进行检查，查找漏洞、安全缺陷和其他缺陷，然后再进行合并。利用这个工具，我们进行了回顾性分析，发现如果每次代码变更都由自动化的 Claude 代码审查器进行审查，就能在 claude.ai 上过去发生的事件中发现大约三分之一的漏洞，避免它们进入生产环境。编写这些代码的工程师是构建此类系统方面世界上最优秀的工程师之一。而 Claude 现在正在发现他们遗漏的错误。

克劳德擅长运行实验，以达成他人设定的目标。每次 Anthropic 发布新模型时，我们都会进行相同的测试：我们给克劳德一段用于训练小型 AI 模型的代码，并要求它在通过相同正确性检查的前提下，尽可能地提高代码的运行速度。目标和成功指标都是预先设定的，因此克劳德的工作就是通过重写代码、运行、计时并重复这个过程来找到速度提升点。这相当于一个微缩版的实验研究循环。2025 年 5 月，克劳德 Opus 4 的平均速度比初始代码提升了约 3 倍。到 2026 年 4 月，克劳德 Mythos Preview 的速度提升了约 52 倍。而对于校准工作，一位经验丰富的研究人员需要 4 到 8 个小时才能达到 4 倍的速度提升。^⁷在研究工作流程的这一部分——优化明确定义的实验步骤——克劳德在不到一年的时间里，就从超级得力助手成长为超人。

Claude 在自主提出实验方面越来越出色。2026年 4 月，Anthropic发布了Claude 首次完整运行开放式研究项目的演示。Claude 驱动的智能体被赋予一个人工智能安全领域的开放性问题——简而言之，一个较弱的模型能否可靠地监督一个较强的模型？ ——并被赋予解决该问题的自由。这包括提出假设、测试假设、与并行智能体共享结果并迭代。该任务具有清晰的性能“底线”和“上限”：底线是较弱的监督模型独立运行的性能；上限是较强的模型在正确答案上训练后的性能。两位人类研究人员在一周左右的时间里，弥补了大约 23% 的性能差距；而智能体在累计 800 小时的计算时间内，弥补了 97% 的性能差距，并消耗了大约 18,000 美元的计算资源。这项工作存在一些局限性；结果无法直接迁移到生产规模的模型，而且问题和评分标准仍然是由人类选择的。但在这些限制范围内，智能体自主设计了每一个实验。人类唯一扮演的重要角色就是指明方向。

Claude 在引导研究会议朝着研究成果方向发展方面越来越出色。我们分析了 2026 年 1 月至 3 月期间真实的 Claude Code 会议，在这些会议中，Anthropic 的研究人员与 Claude 合作解决开放式的调查问题，例如找出训练运行不断崩溃的原因，或者模型在基准测试中得分低的原因。在每个案例中，我们都发现研究人员偏离了正轨：他们尝试了一个方向，导致会议偏离了轨道，但最终还是回到了正轨。然后，我们向不同的 Claude 模型展示了会议偏离轨道之前的工作，并询问它们接下来会怎么做。另一个能够看到会议最终结果的 Claude 模型则判断人工智能还是人类提出的下一步建议更优^。8

由于我们特意选取了129个时刻（n=129），这些时刻中我们已知人类的选择还有改进的空间，因此这并非模型与人类判断的直接比较。这些时刻为我们提供了一系列真实且具有挑战性的情境，在这些情境中，正确的下一步并不明显，而人类的选择则可作为衡量模型性能随时间变化的有效标尺。以此标准衡量，我们在2025年11月的最佳模型（Opus 4.5）在51%的情况下优于人类的选择；到2026年4月（Mythos Preview），这一比例上升至64%。日常研究工作很大程度上是由一系列此类下一步决策构成的，因此，这可以作为衡量模型最终独立开展研究能力的重要指标。我们认为这一结果是一个早期信号，表明人工智能系统在做出人工智能研究所依赖的那种判断方面正变得越来越出色如何解读：实际上限线衡量的是由能够看到整个会话（包括会话的结束方式）的模型所写的“理想”答案。

Anthropic未来的工作模式会是什么样的？

证据表明，在人工智能开发过程中，人类的角色正在逐步缩小。一旦人类编写的代码和人工智能编写的代码质量达到同等水平，人类将完全停止编写代码，而只负责代码审查。但如果人类审查代码的速度无法与Claude生成代码的速度相提并论，那么人工审查将成为人工智能开发的瓶颈。同样，一旦Claude能够运行实验，问题就变成了“哪些实验值得运行？”简而言之：执行这些操作（即编写代码、运行实验、生成结果）现在几乎不需要耗费任何人力，即使它仍然需要计算资源。

就目前而言，人类的比较优势领域是研究品味和判断力，包括选择哪些问题重要、哪些结果值得信赖，以及何时一种方法是死路一条。

如果我们错了呢？

对上述证据的一个自然反驳是，目前仍由人类主导的工作——选择要解决的问题——才是最重要的。如果没有这种判断，克劳德或许能成为一个称职的助手，但它本身并不能推动人工智能的发展。

目前尚不清楚现有的训练方法和架构是否能够释放这种潜力。但人工智能的发展很少依靠“灵光一闪”的时刻。人工智能的近期发展史上确实出现过一些这样的时刻，例如Transformer架构或混合专家模型，但颠覆性的想法往往需要数年才能出现。在此期间，大多数进展都是渐进式的：我们扩大规模，发现问题，修复问题，然后再次尝试。这正是Claude现在擅长的工作流程。爱迪生曾说过，天才是1%的灵感加上99%的汗水。但我们看到，汗水正变得越来越自动化。越来越明显的是，许多推动前沿发展的过程都可以自动化；大规模研究的进展主要取决于工具和资源，它们决定了实验运行的速度、同时运行的实验数量以及获得结果的速度。

即使我们假设克劳德的研究品味始终不佳，保守地解读现有证据仍然意味着研究进展呈复合加速趋势。如果人类将大部分时间用于仅占工作量个位数的决策方向制定工作，而其余工作则由克劳德负责，这意味着每位工程师或研究人员的工作量都远超以往。我们看到的证据表明，Anthropic 的员工不仅工作效率更高，而且工作范围也更广。实际上，这意味着人工智能已经使 Anthropic 的运作速度远超高效人工智能工具出现之前。

较为宽松的解读是，克劳德早期展现出的研究判断力提升——尽管目前还比较有限——表明其整体能力也在不断增强。“研究品味”或许只是人工智能系统在一段时间内难以掌握，但最终会逐渐擅长的另一种能力。我们已经在其他定性技能方面观察到了类似的模式，例如人工智能系统能够解释笑话的笑点、展现心智理论以及解决语言谜题。

可能的未来

接下来会发生什么取决于两件事：这种趋势是否会持续，以及如果持续下去我们会选择怎么做。我们可以设想至少三种未来情景：

我们该怎么办？

如果能够有效减缓这项技术的发展速度，从而为我们提供更多时间来应对其巨大的影响，我们认为这或许是一件好事。但如果速度放缓反而让那些最不谨慎的参与者在技术上迎头赶上，那么最终可能会让所有人的安全都受到威胁。如果没有全球协调机制，企业和政府将不得不在竞争和地缘政治压力下，就安全问题做出艰难的抉择。

我们认为，如果世界可以选择放缓或暂时中止前沿人工智能的研发，从而使社会结构和协调研究能够跟上技术发展的步伐，这对世界大有裨益。人类学研究所将与众多机构合作开展研究，并采取行动，帮助构建可信的放缓或中止研发所需的系统。这些系统将使前沿人工智能开发者能够验证全球其他开发者是否确实已停止或放缓研发，从而防止恶意行为者利用协同放缓的契机秘密抢占先机。如果此类系统存在，我们预计，如果其他处于或接近前沿领域的开发者也以可验证的方式放缓或暂时中止研发，我们也会采取同样的措施。

要真正实现有效放缓或暂停，需要多个位于或靠近前沿阵地、资源充足的实验室在多个国家达成一致，在相同条件下停止研发。此外，每个实验室都必须能够验证其他实验室是否确实停止了研发。由于人工智能系统的独特特性，这种军控问题的可检测性（标准低于可验证性）比其他技术更具挑战性。训练运行比导弹发射井更容易隐藏，其输入数据是通用的，而且悄悄叛变的动机非常巨大，因为在其他人暂停研发的情况下继续研发的实验室可能会获得领先地位。一个可信的暂停协议还必须明确规定触发暂停的条件、解除暂停的条件以及最终的裁决机构。

原则上，这一切并非完全不可能——世界已经为其他复杂技术建立了核查机制（例如《中导条约》）——但这些机制的建立耗时数十年，既包括基础设施，也包括信任。我们没有那么多时间。相比之下，单个实验室单方面暂停研发虽然可以立即实现，但收效甚微：它或许会改变谁是领跑者，但却无法建立目前缺失的更广泛的审议进程。

未来几个月，我们将组织一系列对话，邀请政策制定者、研究人员、民间社会组织和其他人工智能公司参与，共同探讨本文提出的一些问题，特别是关于完全递归式自我改进以及如何创造更佳的协调和协商机制。我们将公布对话成果。现在正是共同探讨这些问题的良机，人工智能公司以外的人士也应参与其中。

本文由 Marina Favaro 和 Jack Clark 共同撰写，Santi Ruiz 提供编辑支持。Shan Carter、Romello Goodman 和 Nikki Makagiansar 根据 Brian Calvert 和 Jun Shern Chan 收集的数据制作了可视化图表。Daniel Freeman、Jim Baker、Max Young、Sarah Pollack、Francesco Mosconi、Holden Karnofsky、Andy Jones、Kevin Troy、Chloe Lubinski、Anton Korinek、Meg Tong、Andrew Ho、Dan Altman、Drake Thomas、Jack Shen、Sasha de Marigny 和 Avital Balwit 提供了反馈意见。