惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Recent Announcements
Recent Announcements
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
B
Blog
T
The Blog of Author Tim Ferriss
J
Java Code Geeks
腾讯CDC
D
Docker
G
Google Developers Blog
D
DataBreaches.Net
雷峰网
雷峰网
Blog — PlanetScale
Blog — PlanetScale
S
SegmentFault 最新的问题
The Cloudflare Blog
有赞技术团队
有赞技术团队
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
Stack Overflow Blog
Stack Overflow Blog
大猫的无限游戏
大猫的无限游戏
量子位
美团技术团队
aimingoo的专栏
aimingoo的专栏
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Engineering at Meta
Engineering at Meta
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
为什么你的多智能体(Agent)协作系统总是“弱智”原因失败?伯...
Aaron · 2026-01-27 · via 人人都是产品经理

当多智能体系统频繁陷入死循环或任务脱轨时,问题往往不在模型能力,而是系统设计存在致命缺陷。伯克利最新研究基于1600多个案例,揭示了智能体协作失败的14种模式,其中超过40%的失败源于规则设计不当。本文将这些失败归因为系统设计、协作失调和验证失效三大类,为开发者提供了一套可落地的工程化解决方案。

你是不是也这样?觉得 Agent 不好用,第一反应就是“换模型”,豆包不行换 deepseek,deepseek 不行换 GPT,GPT 不行换 Gemini,或者疯狂“改 Prompt”,写几千字的小作文。

结果呢?甚至更糟。 Agent 依然陷入死循环,聊着聊着就忘了自己是谁,或者明明任务没做完就自信地告诉你“搞定了”。

你只能两手一摊:“哎,现在的 AI 还是太弱智,没法落地。”

但站在智能体从业者角度告诉你,这大错特错。伯克利最新发布的硬核论文《Why Do Multi-Agent LLM Systems Fail?》(译:为什么多智能体LLM系统会失败?),分析了 1600+ 个案例,给出了几个残酷的真相:

  • 数据不会撒谎: 41.8% 的失败是因为你没设计好规则,36.9% 是因为你没教它们怎么沟通。真正怪模型能力的,少之又少。
  • 绝大多数 Agent 系统的失败,根本不是模型笨,而是系统设计太烂。
  • 多智能体协作不是魔法,而是复杂的分布式系统工程,下面这些问题基本都可以通过定制化设计来解决。

作为一名正在深耕智能体定制服务的开发者,这篇论文让我产生了极大的共鸣。今天我把它拆解为一份《14 条 Agent 开发避坑指南》,建议大家收藏并在产品交付前逐一核对。

关注公众号后回复“智能体”,获取原文链接

论文将失败归纳为 3 大类、14 种模式。建议读者朋友把这个清单打印出来,作为交付智能体产品前的 QA 核对清单。

第一类:系统设计问题 – 占比 44.2%

这是最常见的死因,通常是没交代清楚,或者系统记忆机制烂。本质就是:角色/流程/约束/状态管理设计不好,导致执行期出现“看起来像模型不听话”的问题。

1、违背任务规格: 给了明确限制,但智能体无视了。你明明在 Prompt 里写了三遍“只输出 JSON,不要废话!”,结果它还是给你输出一段:“好的亲,这是您要的数据:{json…”,导致下游代码直接报错崩溃。

解法: 不管 Agent 说啥,通过代码正则提取核心 JSON,其余废话直接丢弃。把“希望它听话”变成“不得不听话”。

2、违背角色设定: 让它演“严厉的面试官”,结果它变成了“知心大姐姐”,角色越界,不按分工做;或者下属智能体越权做决定。

解法:每一轮对话前,强制动态注入。每一次发言前,系统都在耳边吼一句:“记住!你是一个严厉的面试官!

3、步骤死循环:极高频问题。智能体陷入“复读机”模式,反复执行已经完成的步骤,不知道往下走,拖慢或引入错误。

解法:建立熔断机制,例如系统检测到连续 3 次 Action 相似度超过 90%,直接触发熔断机制(强制打断或切换策略),而不是任由它空转。

4、丢失对话历史: 上下文超长后,上下文/状态丢失,智能体忘了前几轮说好的变量,导致逻辑断裂,回退到更早对话状态。

解法:关键信息置顶。不要依赖 LLM 的长窗口。设计一个独立“记事本区”,把核心变量(URL、用户名、目标)永久置顶在 System Prompt 里,哪怕对话聊了 100 轮,它也不会忘。

5、不知道何时终止:任务做完了,智能体还在那里尬聊,不肯输出终止信号,导致无意义继续。

解法:规则层收网,只要关键结果(如文件已生成)出现,直接由代码强制 Kill 掉会话,不给它说客套话的机会。

第二类:智能体间“协作失调” – 占比 32.3%

这是 Multi-Agent 特有的死因,像极了糟糕的人类团队协作。本质:信息流与“社会推理”失败——智能体没能正确建模“对方需要什么信息/现在处于什么状态”。

作者强调:即使采用更标准的消息协议,FC2 仍会出现,因为根因更深——是智能体间“推断对方信息需求”的能力不足。

6、对话重置: 聊着聊着,突然有个智能体像失忆一样问:“你好,我是X助手,有什么能帮你?”(通常是 Prompt 注入或 Context 管理失误导致,导致进度丢失)。

解法:异常流量清洗,在输出层设岗哨。一旦检测到“As an AI model”这种标准拒答或开场白,自动回滚到上一轮,强制它重新生成,用户根本无感知。

7、不懂反问: 信息模糊时,智能体不问清楚直接瞎猜着干,带着错误假设继续。

解法:设定 workflow 第一步必须是“缺口检查”。信息不全?禁止执行下一步,必须先反问用户。

8、任务脱轨: 任务跑偏,聊着聊着楼歪了,开始讨论无关话题。

解法:建立话题围栏,引入第三个“裁判智能体。每一轮只干一件事:检查当前话题是否偏离核心关键词。一旦偏离,立刻发出警告:“回到正题!”

9、信息私藏: 智能体 A 查到了密码或关键数据,但没有共享给智能体 B,导致 B 报错。

解法:强制共享黑板。废除“私聊”。所有智能体查到的数据,必须写入全局变量。A 查到的数据,B 不需要问 A,直接从全局变量里读。

10、无视他人输入: 无视同伴输入/建议,导致错过纠偏,智能体 A 提了建议,智能体 B 嘴上说“好的”,行动上完全无视。

解法:做差异对比检查。只要修改后文本与原文本相似度 > 95%,系统判定为“敷衍”,直接打回重写,并加重 Prompt 里的语气警告。

11、思行不一:思维链(CoT)诈骗。心里想的是“A方案更好”,输出行动时却选了 B。

解法:强制提取它的 CoT。如果 CoT 包含“Negative”,但 Action 是“Positive”,系统自动拦截报错,绝不放行。

第三类:任务验证失效 – 占比 23.5%

这是“质检员”的锅,导致交付了垃圾结果。本质:缺少足够强的验证链路,或验证太“表面化”,导致错误未被拦下。

12、过早终止: 还没做完(或者只做了一半),智能体 就自信地宣布“任务完成”。

解法:建设清单式验收。上线前预设验收清单(Checklist)。系统自动数文件数,少一个都不让它点“完成”按钮。

13、敷衍验证: 所谓的“Verifier Agent”只是看了一眼代码能不能跑(Compile Check),根本没看业务逻辑对不对,常导致低级错误直接输出。

解法:测试用例注入。只有通过预设的 Golden Test Cases(金标准测试题),才算验证通过。别信 Agent 的嘴,信结果。

14、错误验证: 只有在答案明显错误时才报错,也就是“不懂装懂”的瞎指挥,错误被“盖章通过”。

解法:能用规则验证的(如正则、状态码)绝不用模型。必须用模型时,验证员的模型能力必须 >= 执行员

三个洞察

1、系统设计 > 模型能力: 既然 41.8% 的失败源于系统设计,那么通过定制化的工作流(Workflow)、状态机管理,就能解决掉这一半的问题。这也是为什么“套模板”的智能体往往不好用,必须根据业务场景做“定制架构”的原因。

2、多层级验证是刚需: 别指望智能体自己能检查出逻辑错误。必须引入外部的、基于规则的(Rule-based)多层级验证器。

最后总结一句:智能体开发的门槛,不在于写 Prompt,而在于工程化的系统设计能力。谁能用工程手段堵住这 14 个漏洞,谁就能做出真正可落地的 AI 产品。

本文由人人都是产品经理作者【Aaron】,微信公众号:【曾俊AI实战笔记】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自ChatGPT官网