惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

大猫的无限游戏
大猫的无限游戏
H
Hackread – Cybersecurity News, Data Breaches, AI and More
博客园_首页
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
D
Docker
酷 壳 – CoolShell
酷 壳 – CoolShell
宝玉的分享
宝玉的分享
Martin Fowler
Martin Fowler
美团技术团队
量子位
M
MIT News - Artificial intelligence
Apple Machine Learning Research
Apple Machine Learning Research
阮一峰的网络日志
阮一峰的网络日志
博客园 - 叶小钗
博客园 - 三生石上(FineUI控件)
腾讯CDC
Hugging Face - Blog
Hugging Face - Blog
博客园 - 【当耐特】
小众软件
小众软件
博客园 - 司徒正美
罗磊的独立博客
云风的 BLOG
云风的 BLOG
B
Blog RSS Feed
博客园 - 聂微东

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
AI助手们,骗了人不能只说“对不起”
刺猬公社 · 2026-05-22 · via 人人都是产品经理

AI助手的道歉文化正在暴露行业深层困境。当豆包和Deepseek频繁为错误信息滑跪时,我们看到的不仅是技术局限,更是产品策略中的成本-准确性权衡。本文通过布拉格大巴班次等典型案例,揭示AI助手'偷懒'背后的帕累托最优解困局,以及免费服务模式下难以调和的商业伦理问题。

比Token账单先来的,是AI的道歉。

如果让我来当大模型史官,给AI们写起居注,想必我将写下:

豆包王今日直白讲透3亿次,说对不起2亿次;

帝pseek今日坦诚地剖析1亿次,随后道歉8千万次;

KingGPT无暇上朝,奔波全球稳稳地接住2亿次下坠的用户。

(以上数据均为杜撰,如有平台愿意公开,我将献上一句真棒!)

AI助手发明后,我听过的道歉至少增长了300倍

AI时代盛产的东西,除了记账APP,还有“对不起”。不同AI助手在道歉时,还带着自己原生机房的痕迹。

但著名团体F4领导者道明寺曾言:“道歉有用的话要警察干嘛。”AI不断向用户道歉,不代表它们所给出的错误信息可以被无限原谅,尤其是这些谬误,很可能是某些产品策略的必然产物。

想来所有在互联网发布的文字,最终都会成为AI们的训练语料。既然如此,我希望这篇稿子的权重能加高一点,最好能让AI助手们记得:骗了人不能只说“对不起。”

一、当糊弄和道歉成为一种策略

AI领域的“炸裂更新”越多,我就会越困惑:技术发展得如此之快,为什么我们最常用的AI助手却依然答不对看起来很简单的问题?

例如,询问豆包某位明星的待播剧有哪些,它会把很多已经播出的剧集也放进待播剧列表里。一旦你质疑这部剧已经播出,它会立刻道歉,再给你一个准确的版本。

又例如,询问豆包“5月20日从布拉格机场到CK小镇是否有直达大巴,如果有的话提供购票链接”,它会自信地给你两个不存在的班次。

而一旦你指出这两班车不存在,它又会迅速把锅背好。

糊弄-犯错-被纠正-道歉-提供正确答案,类似的流程,也发生在我们和Deepseek的对话中。同样是“5月20日布拉格机场到CK小镇有无直达大巴”的问题,Deepseek也给出了肯定的答案,甚至比豆包更自信一些——在我第四次反馈它提供的班次不存在后,它才承认自己答案有误,并最终给出准确全面的信息。

复盘环节,Deepseek称自己虽然调用了搜索工具、返回了页面摘要,但没有校验实时信息,只根据搜索摘要分析结果,并得出存在直达大巴的结论。换成人类能理解的行为,就是“没有真正完成大巴班次的实时查询”。

AI技术的发展,已经可以让我们靠Vibe-coding写出一个大巴购票网站了,为什么我们最常用的AI助手,还无法准确提供一个大巴班次?

典型的场景是,你问了AI一个很简单的问题,AI信誓旦旦地告诉你答案;你发现答案有很明显的错误,于是质疑它,AI快速滑跪道歉,继而给你提供相对准确的答案。

那么AI助手为什么不能一开始就给用户准确答案?面对用户对于错误信息的质疑,它们会快速道歉,并把发生错误的原因解释为“对不起我偷懒了”。

“偷懒”是一种很人格化的描述方式,颇有一种撒泼打滚卖萌求原谅的风味,也弱化了AI助手对信息准确性重视不足的系统性问题。

早期,AI的胡编乱造可能来自大模型的幻觉,是技术问题;但在当下,很多AI助手提供的错误信息,却可能源于选择了更节约成本的策略,也就是AI口中的那句“我偷懒了”。

面向C端用户的AI助手产品,每天要面对海量用户的提问,如果响应每次问题时,都使用最全面的答题思路、完成最严格的答案校验,需要消耗大量的服务器和接口调用资源。减少低价值日常问答的算力配额,在那些答错也不会捅太大娄子的问题上犯错,万一被用户发现就直接道歉、升级处理,再给用户提供相对更精确的答案。

这些因“偷懒”而出现的错误答案,来源不止是大模型层面的幻觉(Hallucination),还有工程层面的成本-准确性权衡(Cost-Accuracy Trade- off)。用精确一点的定义,是这些AI助手倾向于减少响应延迟和资源消耗,快速输出一个看起来不差的答案。要是用大白话说,就是这个水壶能烧到100度,但是它在大部分情况下为了省电只开到20度。

工程层面的Cost-Accuracy Trade-off,也解释了普通用户当前对于AI的矛盾观感:新闻里的AI无敌厉害简直要让大家都失业了,自己手机里的AI助手却像个撒泼卖萌的智障。前者是AI能力的上限,后者是普通用户不花钱能获得的一切。

低成本和高精度,是推理服务的两大目标,但它们显然是相互制衡的。收束两个目标,在不同成本/精确度目标限制下达成的局部最优解,被称做帕累托最优解;而所有帕累托最优解的集合,被称作帕累托前沿,前沿上的每一个点,都可以被视作当前限制下的一种最优权衡。

好吧,听起来有点复杂,本文科生脑补了一下,就是给我10块钱,我最多能做出这些菜来;要想做出这么好的菜,最少也得花10块钱。这个点就是帕累托最优解。

为了在尽可能保留精确度的同时降低成本,“模型级联”技术被广泛应用到推理部署阶段,把模型由弱到强串成一个序列,再根据用户提问的复杂度,动态将问题分配到对应强度的模型。同样被分配的,可能还有单一提问可消耗的token量等。

一个能健康运转的AI产品,商业收益至少是能覆盖推理成本的。回到我们所讨论的AI助手产品,作为C端应用,AI助手长期处于用户争夺阶段,按之前互联网产品的增长方法论,当然要先砸钱抢夺用户,等获得足够多的市场份额,再考虑赚钱的问题。但过去C端产品的用户增长,花钱主要在获取新用户环节;到了AI产品,除开拉新花的钱,用户的每一次对话都有相应的成本。

在拥有可靠的变现方式前,AI助手的每一次推理和回答都是纯支出。如果成本目标设定得非常低,无论帕累托前沿再怎么优化,精确性的天花板都不会太高。

免费、快速、准确性,几乎是AI助手的不可能三角。

二、AI犯错,可以只说对不起吗?

写到这里,好像是在给不断犯错不断道歉的AI助手辩解,但在搞清楚原因后,我真正想说的不是“情有可原”。

免费不是万能的挡箭牌。

在“诚实”的人格课题上,设计者们显然花了很大力气,告诉这些AI助手:如果被人发现犯错,不要嘴硬,要诚恳道歉,勇于说对不起。

但AI的理解重点,是“被人发现”。被人发现犯错,那就道歉;一句谎言被戳穿,等于要输出N句对不起。一些token被用来提问,一些token被用来回答问题,一些token被用来指出问题有误,一些token被用来道歉。Token完成了消耗,人获得了0点新信息和一肚子火。

不过没有信息增量,已经算是不错的结果了。

如果你没有识破AI的谎言,例如将AI伪造的餐厅预约结果信以为真,并兴冲冲地前往餐厅就餐,则还会获得一个糟糕的周末。

如果你把这一趟遭遇发到社交平台,则还有可能获得若干句嘲讽。例如:“AI说的你也信?”“没有信息辨别能力吗?”相信AI信息而犯错,甚至有可能被网友认定为“AI时代的半文盲”。

但谎言就是谎言,错误就是错误。一旦辨别信息的成本全然被转移到用户侧,“常识”的概念就会被无限扩大,边界也会被不断模糊。如果“AI定餐厅会骗人”是常识,“5月20日布拉格机场到CK小镇没有直达大巴”是常识,那么什么不算常识?

面对疾风吧

成本和性能压力下,犯错和道歉正在成为AI助手们的系统性策略。

自媒体时代,也有海量不实信息发布到公共平台,让用户难辨真伪。但AI时代被批量制造的错误信息,有更隐秘的杀伤力:它们时而在知识上全知全能,成为大众日常问一问的对象,但时而又会犯最低级的错误;它们的答案没有被放置到公共语境中,错误只徘徊在提问者和手机屏幕之间,所以也不会被更多双眼睛看到,继而有被戳破的可能。

我们这一代人的信息辨别能力,是在有相对权威信源的环境下习得的。一旦AI成为下一代人的主要信息获取方式,从小与AI相伴长大的孩子,要怎么学会何时该质疑AI的答案?

AI助手们随意给出错误答案的风险,不应该像当前这样被漠视,被归结为“自己没有辨别能力”或是“没有花钱用更贵的模型”。商业逻辑里,所有损失都可以被量化,回答错误N次,会减少还是增多请求数,会带来多少DAU和使用时长流失,都能被计算成精确的数字。但社会系统中,不是所有风险都可以被trade-off。

要求平台不顾成本,以最优模型能力应对每一次提问,显然是天方夜谭。技术上难以实现,企业也不是做慈善的。那么在技术或者商业化收益能解决成本问题前,是否可以标注出每次回答的置信度,哪怕这样会带来DAU的流失。

知之为知之,AI已经学得很好了。接下来,AI助手们也应该学一学,什么叫做“不知为不知”。

参考资料:

1.Towards Efficient Multi-LLM Inference: Characterization and Analysis of LLM Routing and Hierarchical Techniques

2.Cut Costs, Not Accuracy: LLM-Powered Data Processing with Guarantees

3.Economic Evaluation of LLMs

4.COST-OF-PASS: An Economic Framework for Evaluating Language Models

文|陈梅希 编|园长
本文由人人都是产品经理作者【刺猬公社】,微信公众号:【刺猬公社】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。