惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园 - Franky
T
Threatpost
Scott Helme
Scott Helme
I
Intezer
Cloudbric
Cloudbric
Help Net Security
Help Net Security
Application and Cybersecurity Blog
Application and Cybersecurity Blog
Martin Fowler
Martin Fowler
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
博客园 - 【当耐特】
Google Online Security Blog
Google Online Security Blog
N
News | PayPal Newsroom
L
LINUX DO - 最新话题
罗磊的独立博客
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
GbyAI
GbyAI
月光博客
月光博客
Last Week in AI
Last Week in AI
MyScale Blog
MyScale Blog
A
Arctic Wolf
Y
Y Combinator Blog
S
SegmentFault 最新的问题
F
Full Disclosure
T
Tenable Blog
C
Cybersecurity and Infrastructure Security Agency CISA
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
T
The Exploit Database - CXSecurity.com
L
LangChain Blog
S
Secure Thoughts
Recorded Future
Recorded Future
C
Check Point Blog
Schneier on Security
Schneier on Security
Hugging Face - Blog
Hugging Face - Blog
L
Lohrmann on Cybersecurity
WordPress大学
WordPress大学
K
Kaspersky official blog
The Register - Security
The Register - Security
酷 壳 – CoolShell
酷 壳 – CoolShell
Apple Machine Learning Research
Apple Machine Learning Research
腾讯CDC
Cyberwarzone
Cyberwarzone
P
Palo Alto Networks Blog
Hacker News: Ask HN
Hacker News: Ask HN
The GitHub Blog
The GitHub Blog
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
F
Fortinet All Blogs
T
Threat Research - Cisco Blogs
Cisco Talos Blog
Cisco Talos Blog
Vercel News
Vercel News
博客园 - 叶小钗

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
为什么你的多智能体(Agent)协作系统总是“弱智”原因失败?伯克利总结了 14 种死法
Aaron · 2026-01-27 · via 人人都是产品经理

当多智能体系统频繁陷入死循环或任务脱轨时,问题往往不在模型能力,而是系统设计存在致命缺陷。伯克利最新研究基于1600多个案例,揭示了智能体协作失败的14种模式,其中超过40%的失败源于规则设计不当。本文将这些失败归因为系统设计、协作失调和验证失效三大类,为开发者提供了一套可落地的工程化解决方案。

你是不是也这样?觉得 Agent 不好用,第一反应就是“换模型”,豆包不行换 deepseek,deepseek 不行换 GPT,GPT 不行换 Gemini,或者疯狂“改 Prompt”,写几千字的小作文。

结果呢?甚至更糟。 Agent 依然陷入死循环,聊着聊着就忘了自己是谁,或者明明任务没做完就自信地告诉你“搞定了”。

你只能两手一摊:“哎,现在的 AI 还是太弱智,没法落地。”

但站在智能体从业者角度告诉你,这大错特错。伯克利最新发布的硬核论文《Why Do Multi-Agent LLM Systems Fail?》(译:为什么多智能体LLM系统会失败?),分析了 1600+ 个案例,给出了几个残酷的真相:

  • 数据不会撒谎: 41.8% 的失败是因为你没设计好规则,36.9% 是因为你没教它们怎么沟通。真正怪模型能力的,少之又少。
  • 绝大多数 Agent 系统的失败,根本不是模型笨,而是系统设计太烂。
  • 多智能体协作不是魔法,而是复杂的分布式系统工程,下面这些问题基本都可以通过定制化设计来解决。

作为一名正在深耕智能体定制服务的开发者,这篇论文让我产生了极大的共鸣。今天我把它拆解为一份《14 条 Agent 开发避坑指南》,建议大家收藏并在产品交付前逐一核对。

关注公众号后回复“智能体”,获取原文链接

论文将失败归纳为 3 大类、14 种模式。建议读者朋友把这个清单打印出来,作为交付智能体产品前的 QA 核对清单。

第一类:系统设计问题 – 占比 44.2%

这是最常见的死因,通常是没交代清楚,或者系统记忆机制烂。本质就是:角色/流程/约束/状态管理设计不好,导致执行期出现“看起来像模型不听话”的问题。

1、违背任务规格: 给了明确限制,但智能体无视了。你明明在 Prompt 里写了三遍“只输出 JSON,不要废话!”,结果它还是给你输出一段:“好的亲,这是您要的数据:{json…”,导致下游代码直接报错崩溃。

解法: 不管 Agent 说啥,通过代码正则提取核心 JSON,其余废话直接丢弃。把“希望它听话”变成“不得不听话”。

2、违背角色设定: 让它演“严厉的面试官”,结果它变成了“知心大姐姐”,角色越界,不按分工做;或者下属智能体越权做决定。

解法:每一轮对话前,强制动态注入。每一次发言前,系统都在耳边吼一句:“记住!你是一个严厉的面试官!

3、步骤死循环:极高频问题。智能体陷入“复读机”模式,反复执行已经完成的步骤,不知道往下走,拖慢或引入错误。

解法:建立熔断机制,例如系统检测到连续 3 次 Action 相似度超过 90%,直接触发熔断机制(强制打断或切换策略),而不是任由它空转。

4、丢失对话历史: 上下文超长后,上下文/状态丢失,智能体忘了前几轮说好的变量,导致逻辑断裂,回退到更早对话状态。

解法:关键信息置顶。不要依赖 LLM 的长窗口。设计一个独立“记事本区”,把核心变量(URL、用户名、目标)永久置顶在 System Prompt 里,哪怕对话聊了 100 轮,它也不会忘。

5、不知道何时终止:任务做完了,智能体还在那里尬聊,不肯输出终止信号,导致无意义继续。

解法:规则层收网,只要关键结果(如文件已生成)出现,直接由代码强制 Kill 掉会话,不给它说客套话的机会。

第二类:智能体间“协作失调” – 占比 32.3%

这是 Multi-Agent 特有的死因,像极了糟糕的人类团队协作。本质:信息流与“社会推理”失败——智能体没能正确建模“对方需要什么信息/现在处于什么状态”。

作者强调:即使采用更标准的消息协议,FC2 仍会出现,因为根因更深——是智能体间“推断对方信息需求”的能力不足。

6、对话重置: 聊着聊着,突然有个智能体像失忆一样问:“你好,我是X助手,有什么能帮你?”(通常是 Prompt 注入或 Context 管理失误导致,导致进度丢失)。

解法:异常流量清洗,在输出层设岗哨。一旦检测到“As an AI model”这种标准拒答或开场白,自动回滚到上一轮,强制它重新生成,用户根本无感知。

7、不懂反问: 信息模糊时,智能体不问清楚直接瞎猜着干,带着错误假设继续。

解法:设定 workflow 第一步必须是“缺口检查”。信息不全?禁止执行下一步,必须先反问用户。

8、任务脱轨: 任务跑偏,聊着聊着楼歪了,开始讨论无关话题。

解法:建立话题围栏,引入第三个“裁判智能体。每一轮只干一件事:检查当前话题是否偏离核心关键词。一旦偏离,立刻发出警告:“回到正题!”

9、信息私藏: 智能体 A 查到了密码或关键数据,但没有共享给智能体 B,导致 B 报错。

解法:强制共享黑板。废除“私聊”。所有智能体查到的数据,必须写入全局变量。A 查到的数据,B 不需要问 A,直接从全局变量里读。

10、无视他人输入: 无视同伴输入/建议,导致错过纠偏,智能体 A 提了建议,智能体 B 嘴上说“好的”,行动上完全无视。

解法:做差异对比检查。只要修改后文本与原文本相似度 > 95%,系统判定为“敷衍”,直接打回重写,并加重 Prompt 里的语气警告。

11、思行不一:思维链(CoT)诈骗。心里想的是“A方案更好”,输出行动时却选了 B。

解法:强制提取它的 CoT。如果 CoT 包含“Negative”,但 Action 是“Positive”,系统自动拦截报错,绝不放行。

第三类:任务验证失效 – 占比 23.5%

这是“质检员”的锅,导致交付了垃圾结果。本质:缺少足够强的验证链路,或验证太“表面化”,导致错误未被拦下。

12、过早终止: 还没做完(或者只做了一半),智能体 就自信地宣布“任务完成”。

解法:建设清单式验收。上线前预设验收清单(Checklist)。系统自动数文件数,少一个都不让它点“完成”按钮。

13、敷衍验证: 所谓的“Verifier Agent”只是看了一眼代码能不能跑(Compile Check),根本没看业务逻辑对不对,常导致低级错误直接输出。

解法:测试用例注入。只有通过预设的 Golden Test Cases(金标准测试题),才算验证通过。别信 Agent 的嘴,信结果。

14、错误验证: 只有在答案明显错误时才报错,也就是“不懂装懂”的瞎指挥,错误被“盖章通过”。

解法:能用规则验证的(如正则、状态码)绝不用模型。必须用模型时,验证员的模型能力必须 >= 执行员

三个洞察

1、系统设计 > 模型能力: 既然 41.8% 的失败源于系统设计,那么通过定制化的工作流(Workflow)、状态机管理,就能解决掉这一半的问题。这也是为什么“套模板”的智能体往往不好用,必须根据业务场景做“定制架构”的原因。

2、多层级验证是刚需: 别指望智能体自己能检查出逻辑错误。必须引入外部的、基于规则的(Rule-based)多层级验证器。

最后总结一句:智能体开发的门槛,不在于写 Prompt,而在于工程化的系统设计能力。谁能用工程手段堵住这 14 个漏洞,谁就能做出真正可落地的 AI 产品。

本文由人人都是产品经理作者【Aaron】,微信公众号:【曾俊AI实战笔记】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自ChatGPT官网