Anthropic最新报告《When AI Builds Itself》引爆行业讨论，Claude已实现80%代码自主编写，工程师效率提升8倍。当AI开始递归自我改进（RSI），人类是否面临失控风险？本文深度剖析RSI六阶段演进路径，对比Anthropic与OpenAI的技术叙事，揭示AI自主进化背后的真实进度与潜在陷阱。
Anthropic又出暴论了。
这次他们发了一篇报告，标题叫《When AI Builds Itself》（AI在构建自己）。
先来几组数字感受一下：
截至今年5月，Anthropic超过80%的代码已经由Claude自己写；工程师人均代码产出翻了8倍；Claude可以连续自主工作超过16小时。
Anthropic给出的判断是，如果按现在的趋势继续下去，AI自己设计、构建下一代AI，是完全可能发生的。
基于这种风险，Anthropic甚至呼吁全球放缓前沿AI研发！
观点一出，社交媒体立刻炸了：”AI要自己造自己了！””递归自我改进（RSI），奇点要来了！”
熟悉的配方，熟悉的味道。
如果你在AI圈混了超过两年，一定认得这个节奏：
每隔几个月，就会有一家头部AI公司抛出一个让人觉得”时代要变了”的论断；
社交媒体集体进入焦虑模式，然后……
日子还是照过。
前几天OpenAI刚说完“AI显现出递归自我改进（RSI）的早期迹象”，Anthropic后脚就来一篇”AI正在造下一个自己”。
现在连营销话术都要你追我赶了吗？
今天这篇文章就来拆解一下，Anthropic和OpenAI说的RSI到底是什么？现在到了哪一步？未来AI可能走向哪里？
看完你再决定，到底该不该焦虑。
递归自我改进(Recursive Self-Improvement，RSI)，是AI圈讨论了近二十年的老话题。
核心逻辑很简单：AI能改进自身，改进后的下一代又能改进再下一代，不需要人类介入，形成自我加速的能力飞轮。
这是AI奇点理论的触发条件。
不过在讨论”目前RSI到了哪一步”之前，你得先搞清楚，RSI不是一个临界点，而是一个阶梯。
这些年关于RSI的研究，共同给出了一把衡量RSI进度的尺子，可以把它大致分成六个阶段：
第0级：AI是普通工具，补全代码、查资料。
第1级：AI大量参与软件工程，写测试、修bug、改仓库。
第2级：AI参与AI研发本身，训练代码、评估、数据、实验分析。
第3级：半自动研究闭环，AI提假设、写代码、跑实验、分析失败、迭代方案。
第4级：自改进Agent，AI修改自己的工具链和代码架构，并用benchmark自动筛选出更好的版本。
第5级：完整RSI，AI自主设计、训练、部署更强的后继模型，由后继模型继续迭代。
那么，Anthropic现在在哪儿？先看Anthropic自己怎么说。
Anthropic在报告里也画了一张时间轴，把AI介入AI开发，分成五个阶段：
2021-2023年，人类写代码AI不参与；
2023-2025年，用ChatBot生成片段、人复制粘贴；
2025-2026年，Agent能独立写完整文件；
2026年也就是现在，自主Agent可以运行代码、委托子Agent、连续工作数小时；
最后是20XX年，Agent能自主设计并训练下一代模型，那才是真正的RSI。
按他们自己的地图，他们现在已经在第四阶段，离终点只剩一步。
但事实真的如此吗？
对照业界研究的六个阶段，Anthropic的位置更像是处在第3-4阶段之间，也就是半自动研究闭环和自改进Agent阶段。
Anthropic内部有一个公开披露的实验：
Claude Agent全程自主完成一个AI安全研究项目，从提假设到分析结果全部自动，用约800小时、约1.8万美元算力成本，恢复了97%的性能缺口，而两名人类研究员花了整整一周只恢复了23%。
这是一个真实运转的半自动研究闭环，说Anthropic已处在第3阶段不为过。
第4阶段的迹象同样存在。
Anthropic做了一个代码优化实验。
Claude拿到训练小模型的代码，自主运行、计时、修改、再运行，跑出了52倍的速度提升，人类熟练研究员做同样任务只能做到4倍。
这非常接近自改进Agent的逻辑：改工具链、跑benchmark、选更好的版本。
但值得注意的是，还有一个关键环节没被Anthropic跨越。
Anthropic在文章里提到了一个词，叫做research taste（研究品味），这是判断什么问题值得做的能力。
用他们自己的比喻：
初级员工接到的任务是”这个按钮坏了，去修”；
有经验的员工接到的是”网络有时候会变慢，查一下原因”；
最资深的人在思考的是”我们下个季度该做什么”。
目前，Claude在第一层已经很强，第二层在快速追赶。
但在第三层，比如“什么问题值得做、哪些结果可信、什么时候该放弃”这些研究品味上，人类仍有比较优势。
只要人类还在主导这个环节，AI就没有实现完全的自改进Agent，更不用说达到完整RSI阶段。
不过，报告里一个数字值得单独拿出来。
在”判断研究下一步该怎么走”这件事上，Claude Mythos Preview已经能在64%的情况下，被另一个Claude judge判定为提出了更好的下一步，五个月前这个数字还是51%。
这表明进化的趋势是对的，但离AI完全自主判断还很远。
更重要的是，这个数据是在问题边界清晰的情况下测量的。在真实环境里，AI能判断到什么程度，其实并无定论。
Anthropic抛出的数据很亮眼，但是AI未来到底会发展到什么程度，Anthropic也不敢把话说满，在报告里老老实实列出了三种情形。
当AI能力增长遇到天花板——Transformer架构撞墙、算力和能源供应跟不上、地缘政治把全球AI协作切断，指数曲线会弯成S形，然后趋于平缓。
Anthropic认为，这是三种结局里最不可能发生的一种。
但他们也承认，即使是这个最温和的版本，后果也不轻松。
今天已有的模型能力就此冻结，也已经足够让一家百人公司，越来越接近过去千人公司才能完成的工作。
社会结构的震荡不会因为AI停止进步而消失，它只是换了一种形态继续。
AI处理执行，人类负责判断；AI生成选项，人类做最终决策。
听起来是个不错的结局，但Anthropic指出了一个隐藏的麻烦：Amdahl定律，加速一个环节，瓶颈会转移到下一个。
比如代码写得快了，code review变成新的堵点；实验跑得快了，结果分析又慢下来；分析快了，决策链路又开始拖后腿。
Anthropic说他们内部已经在经历这个过程，每一波效率提升之后，下一个瓶颈就浮出水面。
它意味着人类掌舵会越来越费力，要求越来越高，人类需要在更快的节奏里做出更好的判断。
Anthropic认为这是最可能发生的近期情景，而且他们现在已经在这条路上了。
AI开始自主构建后继模型，进度由算力决定，人类从主导者变成监督者和验证者。
好处在于，可能快速实现医疗突破、科学加速、贫困问题的系统性解法。
但坏的一面是，今天模型训练中，哪怕只有一个微小的目标偏差，在完整RSI的迭代循环里可能以指数速度放大，直到人类完全失去干预能力。
这是最不确定的结局。
讲完三种结局，报告末尾Anthropic开始呼吁，希望建立某种全球协调机制，在风险上升时能够有序放缓甚至暂停前沿AI开发。
翻译一下这段话的意思：AI递归自我改进势头太猛，我们很担心，觉得应该有人出面让大家一起停下来，但Anthropic不会单方面停。
多么熟悉的味道。
这套叙事Anthropic已经用了不止一次，在制造焦虑的同时，把自己定位成”威胁的发现者”和”最有能力应对威胁的公司”。
但看完Anthropic内部真实情况，以及它自己给出的AI未来可能性，你还会感到焦虑吗？
本文由人人都是产品经理作者【世界模型工场】，微信公众号：【世界模型工场】，原创/授权 发布于人人都是产品经理，未经许可，禁止转载。
题图来自Unsplash，基于 CC0 协议。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。