我们迈向递归自我改进的进程及其影响。
在AI发展的大部分历史中，人类驱动着其发展周期的每一步。但在Anthropic，我们正在将越来越多的AI开发工作交给AI系统本身来完成，这正在加速我们的工作。如果将这一趋势推到足够远，并给予足够的算力，那它将指向一个能够完全自主设计和开发自身后继版本的AI系统。这被称为递归自我改进。我们尚未到达那一步，递归自我改进也并非不可避免。但它可能比大多数机构所准备的来得更早。
利用公开基准测试和来自Anthropic内部此前未报告的数据，Anthropic研究所正在展示AI已经在加速AI系统的开发。仅举一个例子：如今，Anthropic的工程师平均每季度交付的代码量是2021-2025年间的8倍。
本文讨论的技术趋势表明，AI系统在未来几年将变得更加强大。这些趋势具有巨大的影响。能够构建自身的AI将是技术史上的一个重大发展——它可能为科学、医疗保健等领域为世界带来巨大的好处。但完全的递归自我改进也可能增加人类失去对AI系统控制的风险。如果系统能够完全构建自己的后继版本，那么我们保护它们、监控它们和塑造其行为的方式都变得更加重要。
AI模型改进的速度正在加快。它们能够可靠独立完成的任务时长大约每四个月翻一番，而此前的趋势是每七个月翻一番。2024年3月，Claude Opus 3能够完成人类大约需要四分钟完成的软件任务。一年后，Claude Sonnet 3.7能够处理大约一个半小时的任务。再一年后，Claude Opus 4.6能够处理12小时的任务。¹ 如果这一趋势持续，今年需要熟练人员数天完成的任务就可能进入AI的能力范围。到2027年，AI系统可能能够完成需要一个人数周完成的任务。
2021-2023 构建第一个Claude
在早期，Anthropic的工作看起来和任何其他科技公司一样：人们在笔记本电脑上写代码和文档。
2023-2025 聊天机器人
人们使用早期的聊天机器人来辅助流程中的部分工作，比如生成简短的代码片段并将输出复制到文本编辑器中。
2025-2026 编码智能体
随着智能体变得更加强大，它们能够自主编写和编辑代码，有时甚至是完整的文件。
今天 自主智能体
智能体现在可以自己运行代码，并将数小时的工作委派给其他智能体。
20XX? 闭环
在未来，智能体可能变得足够强大，能够自行构建和训练模型。如果这成为现实，未来版本的Claude可能被Claude自身持续改进。
同样的模式也出现在编码和研究基准测试中。基准测试衡量模型在特定领域的表现，当模型达到接近100%的表现时，基准就被"饱和"了。
SWE-bench是对真实世界软件工程能力的标准测试：它给模型一个实际的开源代码库和一个真实的bug报告，要求它编写一个修复该问题并通过项目自身测试的代码变更。模型在两年内从个位数的得分提升到了饱和该基准。
CORE-Bench测试模型是否能够复现已有研究，这是进行原创研究的前提。它给AI模型一篇已发表论文背后的代码和数据，要求它重新运行所有内容并确认能复现论文的结果。AI系统从2024年大约20%的成功率，到十五个月后饱和了该基准。
METR运行衡量模型完成长时间任务能力的基准测试，发现Claude Mythos Preview能够工作"至少"16小时，并且"处于[METR]无需新任务就能衡量的上限"。
公开基准测试能说明这些系统的很多能力。但它们无法揭示AI系统对加速AI开发本身的影响。为此，我们需要来自Anthropic等AI公司的直接证据。
构建前沿模型需要两大类工作。一类是工程：编写代码、搭建基础设施、监督模型训练。另一类是研究：决定运行哪些实验、解读实验结果、找出下一步尝试哪些想法。
在工程和研究两个方面，情况是一致的。在工程方面，Claude可以接手一个定义不够明确的问题并找出解决方案；人类提供目标，但不再需要提供方法。在研究方面，Claude已经能够在执行明确定义的实验方面匹配或超越熟练的人类。然而，在Claude在工程和研究中自主选择目标方面，仍存在较大的性能差距。这就是当今AI与未来能够自主设计自身后继版本的系统之间的差距。
在Anthropic，员工通常会随着经验的积累而接受更加开放和重要的任务。初期，他们执行别人指定的任务，比如"导出按钮不工作了，请修复它。"有了经验后，他们会接手一个目标并自行设计方案，比如"调查为什么网络在高负载下变慢。"在最高级别，他们决定哪些问题值得去解决："团队下季度应该构建什么？"
我们可以利用Anthropic的内部数据来观察Claude在处理这些不同类型任务方面取得了多大进展。
Claude编写了Anthropic代码的很大一部分。截至2026年5月，合并到Anthropic代码库中的代码有超过80%是由Claude编写的。² 在Claude Code于2025年2月以研究预览版推出之前，这一数字还在个位数。
这一转变也体现在每位工程师的产出上。每位工程师每天合并的代码行数在Anthropic的前四年（2021-2024年）保持不变，然后在2025年开始攀升——当时Claude开始运行代码，而不仅仅是建议代码让工程师复制粘贴。2026年当模型开始在更长的时间范围内自主工作时，斜率再次变陡。这两个拐点如下图所示。在2026年第二季度，典型的工程师每天合并的代码量是2024年的8倍。³ 这是因为大部分代码是由Claude编写的，工程师负责指导和审查，而不是自己敲代码。
一个警告：代码行数是一个不完美的衡量标准，因为它衡量的是数量而非质量。因此2026年第二季度8倍的代码行/工程师/天几乎肯定是对真实生产力增益的高估。尽管如此，它表明了一种加速。在Anthropic，我们不会因为谁写的代码多就奖励谁；团队成员产出更多代码仅仅是因为他们在使用AI系统来编写更多代码。
代码行数的增长与主观上的大幅生产力提升印象相吻合。在2026年3月对来自Anthropic各研究团队的130名员工进行的调查中，中位数受访者估计他们使用Mythos Preview产出的工作量是不使用任何AI模型时的约4倍，所做的事情类型与他们原本无论如何都会做的项目相同。⁴ 我们预计3月份的真实提升程度要略低一些。⁵ 尽管如此，我们认为这一总体说法是可信的，与我们的其他观察一致：Anthropic的很大一部分技术人员正在以比没有AI辅助时快数倍的速度完成核心工作。
我们还看到证据表明，Anthropic的人们在使用Claude做那些原本不会发生的工作，比如构建探索性工具和解决长期拖延的清理工作。例如，在2026年4月，Claude修复了超过800个bug，将一类API错误降低了一千倍。监督Claude的工程师估计，人类完成这项工作需要四年时间；解决别人的bug是缓慢而痛苦的，人类很难在头脑中同时保持那么多不熟悉的上下文。
"我大约一年前开始大力依赖Claude。那是一段疯狂的冒险，到现在已经有大约5个月没有自己写过任何代码了。" ——Anthropic员工*
"好代码"意味着两件事：它能工作，而且它以另一种工程师能够理解并在其基础上构建的方式编写。
关于第一个标准，证据很明确。Anthropic员工纠正、重定向或中途接管Claude工作的频率在过去一年中持续下降，包括在最复杂和最开放的任务上。这意味着没有明确规范的问题，工程师不确定答案长什么样的情况。
在最开放的任务上，Claude的成功率在2026年5月达到了76%，六个月内提高了50个百分点。举一个属于这一难度级别的任务示例：一次常规升级导致数万个训练任务崩溃。一位工程师将Claude指向了正在发生的事件现场，只给了它一些文本内容和集群访问权限。Claude通过遍历正在运行的任务并逐一测试环境设置，隔离出了触发崩溃的那个晦涩的调试标志，可靠地复现了它，并确认了修复方案。在大约两小时内，Claude交付了通常需要两到三天的工作量。
第二个标准是编写另一工程师能理解并构建的代码。在这里，人类和AI之间的差距仍然存在，但正在迅速缩小。Anthropic内部尚未达成完全共识，但许多人认为Claude编写的代码在2025年底仍然不如Anthropic人类编写的代码质量，而今天大致持平。我们预计它在一年内将严格优于人类代码。
这已经改变了Anthropic审查自身代码的方式。对代码库的提案变更现在会由一个自动化的Claude审查器先阅读，寻找bug、安全漏洞和其他缺陷，然后才能合并。使用这一工具，我们进行了回顾性分析，发现对代码库的每一次变更进行自动化Claude审查，本可以在到达生产环境之前捕获过去claude.ai事件背后大约三分之一的bug。编写那些代码的工程师是世界上在构建这些系统方面最优秀的人。Claude现在正在捕捉他们遗漏的错误。
"Claude编写的代码在2025年底略逊于Anthropic人类编写的代码，今天大致持平，我们预计它将在一年内严格更优。"
每次Anthropic发布模型时，我们都会运行相同的测试：给Claude一些训练小型AI模型的代码，要求它在仍然通过相同正确性检查的前提下，使代码运行尽可能快。目标和成功指标是预先固定的，所以Claude的工作是通过重写代码、运行、计时和重复来找到加速方案。这是实验研究循环的微型版本。
作为参照，一个熟练的研究人员需要四到八小时才能达到4倍。在研究工作流的这一部分——在明确定义的实验中优化步骤——Claude在不到一年的时间里从超级有用变成了超级人类。
"今天的工作形态大致是'人类有想法，模型能够以比以前快[一个数量级]的速度实施、测试和评估它们。'"
2026年4月，Anthropic发表了Claude端到端运行开放式研究项目的第一个演示。Claude驱动的智能体被给予了一个AI安全领域的开放问题——大致是，一个较弱的模型能否可靠地监督一个更强的模型？——然后被留下去解决它。这包括提出假设、测试它们、与并行智能体分享发现并迭代。
该任务有一个明确的性能"下限"和"上限"：下限是弱监督者单独能做到的程度；上限是强模型在正确答案上训练后的表现。两个人类研究人员在大约一周内恢复了这个差距的约23%；智能体在800个累计小时内恢复了97%，使用了约18,000美元的算力。
这项工作有一些注意事项；结果没有干净地转移到生产规模的模型上，而且人类仍然选择了问题并创建了评分标准。但在这些范围内，智能体自行设计了所有实验。方向设定是人类扮演的唯一有意义的角色。
"Claude在1-2天的过程中，几乎没有我的帮助就完成了这一切。我想如果[一个初级同事]在同样的时间范围内带着这样的结果回来，我会 mildly 印象深刻。未来就是现在。"
我们研究了真实的Claude Code会话（2026年1月至3月），其中Anthropic的研究人员与Claude一起研究开放式调查问题，比如弄清楚为什么训练运行不断崩溃，或者为什么模型在某个基准上得分很低。在每种情况下，我们都找到了研究者走弯路的时刻：他们追求了一个将会话引向歧途的方向，然后才最终回到正轨。
然后我们向不同的Claude模型展示会话偏离正轨之前的工作，并问它下一步会做什么。另一个能看到会话最终结果的Claude然后判断AI还是人类建议了更好的下一步。⁷
因为我们特意挑选了人类选择有改进空间的时刻（n=129），所以这不是模型判断和人类判断的同等比较。这些时刻给我们的是一组现实的、具有挑战性的情境，其中正确的下一步并不明显，而人类的选择作为比较模型表现随时间变化的有用标尺。
在这一指标上，我们2025年11月的最佳模型（Opus 4.5）在51%的时间里击败了人类选择；到2026年4月（Mythos Preview），这一比例增长到了64%。
日常研究工作基本上就是由这一系列下一步决策组成的链条，这使得这成为衡量模型最终独立运行调查能力的相关指标。我们将这一结果视为AI系统在做出AI研究所依赖的判断性决策方面正在进步的早期信号。
"人类目前的比较优势仍然在于看到更大的图景以及超越眼前任务范围进行思考。"
证据表明，在AI开发过程的每一步中，人类的角色都在缩小。一旦人类和AI编写的代码质量达到持平，人类将完全停止编写代码，转而仅审查代码。但如果他们审查代码的速度赶不上Claude生成代码的速度，人类审查将成为AI开发的瓶颈。同样，一旦Claude能运行实验，问题就转向了"这些实验中哪些值得运行？"简单说：执行（即编写代码、运行实验、产出结果）现在几乎不花费人类时间，即使它仍然有算力成本。
人类比较优势的一个领域，目前在于研究品味和判断力，包括选择哪些问题重要、哪些结果可信、以及什么时候一条路走不通。
"工作（和生活）运行在人类之间小恩小惠的礼物经济上。'你能帮我运行这个脚本吗？'……每一个都创造了一点债务，一点相互意识。[Claude]更快，它创造零债务，但每一个都是对人类合作的一次失去的邀请。"
"在一切顺利的日子里，我忍不住想我所做的一切都不重要，一切都自动化了，比我曾经能做到的更好更快。但也会有所有东西都崩溃的日子，我不理解为什么，我意识到我根本不知道我一直在做什么。"
对上述证据的一个自然反对意见是，仍然掌握在人类手中的工作——选择要解决的问题——才是最重要的。没有那种判断力，Claude是一个能干的助手，但不是一个能自主推动AI进步的系统。
目前尚不清楚今天的训练方法和架构是否能解锁这种能力。但AI很少通过"尤里卡！"时刻进步。在AI的近期历史中确实有过少数这样的时刻，比如Transformer架构或混合专家模型，但范式转移的想法相隔数年才出现。在两者之间，大部分进步是渐进式的：我们将某些东西扩展规模，看看什么会出问题，修复它，然后再试。这正是Claude现在擅长的那种工作流。
爱迪生说，天才是1%的灵感和99%的汗水。但我们看到汗水正变得越来越自动化。越来越清楚的是，推动前沿的大部分工作是可以自动化的；大规模研究进步主要是工具和资源的函数，决定了你能多快运行实验、能同时运行多少个、多快得到结果。
即使我们假设Claude永远无法获得好的研究品味，对我们证据的保守解读仍然意味着复合加速。如果人类将大部分时间花在设定方向的那一小部分工作上，而Claude处理其余部分，那意味着每个工程师或研究人员在引导比以前多得多的工作。我们看到的证据表明，Anthropic的人们既在更快移动，也在覆盖更广的表面。
在实践中，这意味着AI已经使Anthropic的行动速度远远快于有效AI工具出现之前。
不太保守的解读是，Claude在研究判断力方面的早期改善——即使今天还很狭窄——是这种能力也在改善的一个指标。"研究品味"可能只是另一种AI能力，AI系统会在一段时间内做不好，然后变得擅长。我们在其他定性技能上看到了类似的模式，比如AI系统能够解释为什么一个笑话好笑、展示心智理论、以及解决语言谜题。
接下来会发生什么取决于两件事：趋势是否持续，以及如果持续我们选择做什么。我们可以想象至少三种未来场景：
本文展示了许多指数级轨迹。但这些轨迹实际上可能是S曲线。我们可能正在接近曲线的弯曲处，规模收益递减，线条变直，然后变平。区分合格研究员和优秀研究员的判断力可能是无法通过扩展训练输入（如算力和数据）获得的能力。如果是这样，突破这一瓶颈将需要一个新想法，比如取代当前所有前沿模型使用的Transformer架构的架构方法。
或者，AI进步的约束性瓶颈可能在供应链中，而非模型中：推进和扩散前沿可能需要比现有更多的能源和算力。芯片制造、电网扩展或互连带宽的进度可能是约束因素，而非智能本身。
我们也不能排除对AI生态系统的外生冲击，比如算力或电力供应的突然减少，这将减缓进步并使实验室的前向投资更加昂贵。
即使模型能力冻结在今天的水平，我们也预计世界会发生重大变化。Project Glasswing是一个早期信号：在头几周，Mythos Preview在全球最重要的系统中发现了超过一万个高严重性和关键严重性的软件漏洞——足以使网络防御的瓶颈已经从发现漏洞转向足够快地修补它们。
我们仍然处于今天的模型向更广泛经济扩散的早期阶段，一个100人的公司越来越能做1000人公司的工作，因为每个员工都将坐在一堆智能体的金字塔顶端。
我们将这个场景纳入以保完整性，但我们不认为它可能发生。我们能衡量的每一种能力，包括那些感觉"更模糊"的，如代码质量和开放任务的成功率，到目前为止都遵循了同一条曲线。我们还没有看到那条曲线弯曲。
在这个场景中，AI开发变得高度自动化，但人类继续设定研究方向和判断结果。使用AI系统的组织将随着时间的推移变得更加高效，因此我们可以预期这个组织中每个人会有显著的生产力倍增器。100人的公司可能做10,000人甚至100,000人组织的工作。这将彻底改变知识工作和政府服务，但也可能被用于有害目的，从对整个人口的威权监控到为每个人量身定制操纵的影响力行动，其规模是人类团队无法匹敌的。
我们在这里列出的证据表明，我们很可能正在进入这个场景。但加速一个过程的一部分往往只是将瓶颈转移到其他地方：整体速度受限于尚未加速的部分。在计算中，这被称为阿姆达尔定律，同样的逻辑也适用于组织。
Anthropic已经遇到了阿姆达尔定律的一个特征：随着我们开始在组织中推送更多代码，人类代码审查已成为一个新的瓶颈。我们也在工程之外遇到了这种摩擦。由于Anthropic员工与高度强大的模型合作，出现了新想法、倡议、工具和模拟的爆发——远远超过了我们有能力追求的数量。组织发现和修复这些瓶颈的速度可能是一种随时间改善的技能，它可能成为任何组织最重要的技能。
如果技术进步趋势持续，并且AI系统能够发展出变革性人类创造力所固有的能力，那么AI系统设计和完善自身是 plausible 的。
在这个世界中，AI开发的进步速度完全由算力的可用性（或发现算法训练或推理效率的速度）决定。人类在其发展中扮演着大幅减少的角色，可能将我们大部分精力转向对AI系统运行的不断扩展的"虚拟实验室"的监督、验证和确认。
我们预计能够进行自动化AI研究和开发的系统将拥有可以转移到科学其他领域的技能，使它们能够开始彻底改变其他领域。
在这个未来中，对齐问题如何被解决——或者未被解决——是我们最不确定的。模型可能被证明是足够对齐和具有研究品味的，能够发现和实施我们尚未达到的新颖解决方案。它们也可能足够智慧，在无法解决时停止开发。或者，今天模型中存在的罕见对齐问题可能在模型构建后继版本时复合增长，变得更频繁但更不被理解，直到我们失去对它们的控制。
我们可能无法构建、整合和验证理解我们实际处于哪条趋势线所需的工具。
我们没有好的直觉来想象这个世界会是什么样子，因为我们的经济目前由人类和人类构建的工具驱动。就其本质而言，一个由快速递归自我改进驱动的世界可能被自我改进的模型主导，因为其能力完全超越人类，并且模型在更广泛的经济中扩散。如果人类劳动不再具有竞争力，经济会是什么样子，这是难以预测的。
即使模型开发变得完全自动化和递归，我们也无法预测这对大多数人的日常生活意味着什么。阿姆达尔定律在这里同样适用。递归智能可能导致实现《充满爱意的优雅机器》中概述的许多好处，在某些领域很快实现。
我们预计具身智能（即机器人学）可能很快跟随递归智能，并遵循类似的收益递增、成本递减的路径。更强大的智能可能帮助我们更快地在物理世界中构建事物，运行更有生产力的救生药物临床试验，并开发新颖的协调形式。但仅实现递归改进并不意味着工业生产方式、社会组织方式或市场运作方式会立即改变。更多的智能无法学习一种药物在数十年使用中的效果，无法比宪法规定的时间更早举行选举，也无法在一个周末内将陌生人变成老朋友。
对大多数人来说，这个未来的感受速度仍将由瓶颈决定，即使上游的实验室以计算速度运行。递归智能构建自身越来越快与人类、关系和治理的世界之间的碰撞，是我们无法预测的这个未来的另一部分。
如果能够有效减缓这项技术的发展以给自己更多时间来应对其巨大的影响，我们认为那可能是好事。但如果减速只是让最不慎重的参与者在技术上追赶，它可能让每个人的安全都更少。没有全球协调机制，公司和政府将不得不在竞争和地缘政治压力下做出关于安全的艰难决策。
我们认为，世界应该有权选择减缓或暂时暂停前沿AI开发，以使社会结构和对齐研究能够跟上技术进步的步伐。Anthropic研究所将进行研究——与许多其他方合作——并采取措施帮助构建可信的减速或暂停所需的系统。这些系统将 enable 前沿AI开发者验证全球其他人确实已经停止或减速，并且恶意行为者不能利用协调减速的幌子秘密地取得领先。
如果这样的系统存在，我们预计，如果其他处于或接近前沿的开发者也以可验证的方式这样做，我们会减速或暂时暂停。
一个有意义的减速或暂停将需要多个资源充足的、处于或接近前沿的实验室，在多个国家，同意在相同条件下停止。它还需要每一方都能验证其他方确实已经停止。由于AI系统的独特特性，可检测性（比可验证性更低的标准）这一军备控制问题的要素比其他技术更具挑战性。训练运行远比导弹发射井更容易隐藏，其输入是通用的，而且悄悄违约的激励是巨大的，因为在其他人暂停时继续的人可能继承领先地位。可信的暂停还必须规定什么触发它、什么解除它、以及谁来裁决。
这些都不一定在原则上是不可能的——世界已经为其他复杂技术建立了验证制度（例如《中程核力量条约》）——但那些制度花了数十年才建立起基础设施和信任。我们没有那么长的时间。
相比之下，一个实验室的单方面暂停可以立即实现，但成就少得多：它只会改变谁是领先者，但不会创造目前缺失的更广泛的审议过程。
在接下来的几个月中，我们将组织对话，让政策制定者、研究人员、民间社会和其他AI公司帮助回答本文提出的一些问题，特别是围绕完全递归自我改进以及如何创造更好的协调和审议选项。我们将发表由此产生的成果。共同调查这些问题的窗口已经打开，AI公司以外的人应该参与这一审议。
Marina Favaro和Jack Clark共同撰写了本文，Saniti Ruiz提供编辑支持。Shan Carter、Romello Goodman和Nikki Makagiansar根据Brian Calvert和Jun Shern Chan收集的数据创建了视觉内容。Daniel Freeman、Jim Baker、Max Young、Sarah Pollack、Francesco Mosconi、Holden Karnofsky、Andy Jones、Kevin Troy、Anton Korinek、Meg Tong、Andrew Ho、Dan Altman、Drake Thomas、Jack Shen、Sasha de Marigny和Avital Balwit提供了反馈。
METR的关键衡量指标告诉你AI系统在一系列任务中能达到50%可靠的时间范围，尽管在80%可靠性下趋势线看起来相同。
特别是当它们转向更开放的格式和更困难的任务时（例如，奥林匹克级别的数学），基准测试通常由于问题和答案集中的错误（如模糊的问题陈述和无法解决的问题）而在100%以下饱和。
Anthropic领导层公开估计我们90%或更多的代码由Claude编写，包括脚本和实验代码。我们>80%的数字衡量的是可以归因于Claude的合并到生产环境的代码行数份额。这是一个更保守的衡量标准，原因有二：我们的归因管道存在缺口，而未归因于Claude的代码包括自动生成的代码和其他非人类手写的产物。
代码产量的激增正在给所有人共享的基础设施带来压力。GitHub——世界上大部分软件构建所依赖的平台——在2025年全年看到大约10亿次代码提交；到2026年中期，它每周看到2.75亿次，按此速度全年大约140亿次。该公司的COO表示，他们正在"拼命努力"扩大容量以跟上步伐。
关于此调查方法的更多细节在Claude Opus 4.7系统卡的第2.3.5节中讨论。
许多受访者可能没有仔细考虑如何 accounting 各种偏见或问题定义中的微妙之处，METR最近的研究表明，开发者对AI生产力提升的估计可能被高估了。
加速幅度有多大很大程度上取决于起始代码还有多少改进空间，不应将其解读为真实的训练加速。因此绝对倍数不是这里应该锚定的数字。更有信息量的是这个实验设置使得的同等比较，既跨模型（过去一年从约3倍到约52倍），也与熟练人类（在同一任务上四到八小时约4倍）的比较。
作为对判断偏差的检查，我们在另外127个人类的下一步已经很强劲的时刻（与原始集中人类方向有改进空间的时刻相反）上运行了相同的测试。在那里，模型的建议仅在约20%的时间里被评为更好。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。