























AI产品中最让人抓狂的‘健忘症’和‘左右互搏’问题,往往不是技术缺陷而是设计漏洞。本文深度拆解了订票助手的典型翻车案例,揭示了上下文管理的四大核心策略,更提供了让AI学会‘主动遗忘’和‘状态显形’的实战方法论。从信息分层到流氓测试,这些血泪教训将彻底改变你对AI交互设计的认知。

前几天,我们团队做的一个AI订票助手又被用户挂在社交平台上吐槽了。
用户前面刚说了一句:“这周末千万别安排行程,我有事。” 结果聊到后面,AI屁颠屁颠地吐出一个“周六出发的最佳推荐”。 还有更让人抓狂的。用户刚把预算从2000改到5000,AI下一句吐出来的账单,依然在死抠2000块的旧预算。
这种体验玩过AI产品的人应该都不陌生:它不是完全听不懂,它就是听懂了后面,扔了前面;或者记住了字面,拿不住整件事。
我做产品4年,其中有2年陷在AI产品这个方向里。坦白讲,踩了无数个坑之后,我越发觉得:很多时候大模型表现得像个傻子,真不怪模型本身,而是我们产品经理压根没设计好“哪些信息该带到下一轮”。
上下文(Context)这玩意,真不是把聊天记录一股脑塞给Prompt那么简单。
很多团队一遇到AI“健忘”或者“不听话”,第一反应就是:是不是Token窗口不够大?加!把历史对话全塞进去!
相信我,这绝对是饮鸩止渴。
因为用户在对话里给你的信息,从来不是平铺直叙的。里面有最终目标、有硬性约束、有临时冒出来的想法、有早就作废的条件,甚至还有一堆随口说的废话。如果你不帮模型做策略分层,直接把十几轮的原文原封不动地喂过去,模型拿到的就不是上下文,而是一堆互相打架的“呈堂证供”。
比如做个写作助手。 用户一开始说:“语气要专业、高级。” 写到一半发现太死板,又补了一句:“别太像官方报告,稍微口语化一点。”
这时候,如果你把这两句话都带下去,模型直接就宕机了。专业还是口语?它只能在两条指令里反复横跳,最后给你吐出一篇非驴非马的怪文章。
上下文真正难的地方,从来不是“怎么记住”,而是“怎么判断谁该给谁让路”。
我现在做AI产品,接手第一件事绝对不是去调Prompt,而是先在白板上把用户的输入拆成四类“记忆规则”。哪些信息可以跟着走?哪些信息出局?必须清清楚楚:
很多同行容易犯的错误是,把“临时状态”错当成了“用户偏好”。 用户在一次情绪很急的对话里吼了一句:“行了,别跟我解释原理了!”产品直接把这句话当成了永久偏好存在了后台。结果以后用户每次问问题,AI都跟敷衍差事一样只吐答案,用户还觉得这AI怎么越用越冷漠?
所以在让系统吃下信息前,产品经理得先帮它想明白:这策略是只管这一餐,还是以后天天都要吃?
直接塞十几轮原文,等于让模型每次回答前,先在垃圾堆里做一遍阅读理解。
我们团队后来摸索出的更稳、在生产环境里更控得住的解法,是在后台把历史对话实时抽象成一个“状态管理器”(State Manager)。
当对话进行到第8轮的时候,丢给模型的不是那8轮乱七八糟的聊天记录,而是加工后的结构化KV对:
【当前系统确信的状态表】
当前目标:重构一篇PM平台的干货文。
已确认要求:开头拒绝寒暄,直接抛痛点;文章不写成教科书教程。
硬性限制:严禁出现“赋能、闭环、颗粒度”等高频大厂黑话。
待确认信息:案例是否允许使用第三人称虚拟化?
已废弃过时信息:用户曾说写成清单体,后已明确改为长文叙事。
模型看到这种清晰的“当前办事指南”,翻车的概率能直降八成。
而且,上下文这东西,没必要在后台藏得太深。适当的“显形”,体验反而更好。 比如在AI点生成按钮的上方,轻轻飘一行小字提示:“将按您要求的‘大白话、偏实战、不写具体公司经历’进行生成”。用户扫一眼,心里就踏实了,就算真错了,也能在生成前一秒一脚刹车踩死。
人是边想边说的动物,尤其在做方案、改文章的时候,前面的条件被后面推翻,简直是家常便饭。
面对用户的改口,普通的AI产品直接假装看不见,继续拿着旧条件硬套;而聪明的AI产品,得学会“把话说开”。
比如用户前面说:“我这个教程是面向刚入行0-1岁新人的。” 聊着聊着又说:“算了,看我文章的应该都懂点基础,不用写太浅。”
系统这时候如果默默改了,用户其实心里是没底的(他不知道AI有没有get到)。这时候产品在下一轮的输出开头,最好带上一句主动的确认: “收到,那接下来我将按‘有一定基础的读者’来写,帮您省去基础概念的解释,直接上深度判断标准。”
这句话不是废话,它在用户界面上完成了一个极其重要的安全闭卡:它告诉用户,系统不仅听到了新条件,而且已经把旧条件扔进垃圾桶了。
一个产品如果没有“作废旧信息”的能力,那些过期的旧条件就会像一个个没关掉的后台App,在暗地里一直疯狂消耗你新需求的功耗。
如果你的AI产品重度依赖长对话和多轮交互,千万别把上下文当成最高机密锁在后台。
在前端设计上,我们要给用户留出三条生路:
不要觉得这些设计不够酷、不够全自动。在AI时代,用户最怕的不是AI犯错,而是AI在暗地里偷偷记了一堆错误的信息,还一脸自信地执行到底,完全不给解释和修改的机会。
侧边栏的“写作偏好面板”、结果页底部的“本次生成基于的前提”,这些看起来甚至有点笨重的组件,恰恰是解决信任危机的解药。
很多AI团队的QA在测试时,往往只测单轮问答:输入一个Prompt,看输出好不好看。好看?行,上线!
这真的只能保佑你在Demo演示时不翻车。只要一进真实长对话场景,绝对死得很难看。
在我们的项目组,测试AI的上下文能力,有一套专门的“流氓用例”,大家可以对照着去折腾自己的产品:
如果你的产品在这些乱七八糟的跳跃式对话里还能稳住,那才说明你的上下文架构真正立住了。
每次产品复盘会上,听到有人抱怨“这破模型怎么又忘了”、“开源模型还是不行”的时候,我都会建议大家先内省三秒,回去看看自己的业务逻辑设计。
下次上下文再崩的时候,先别急着去给研发施压换更大参数的模型,先问问自己这三个问题:
这三个产品设计层面的问题答不清楚,哪怕给你塞一个无限Token窗口的模型,你的AI产品体验也终究是一团浆糊。
本文由 @雪白耶耶猫猫 原创发布于人人都是产品经理。未经作者许可,禁止转载
题图来自Pixabay,基于CC0协议
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。