在做 RAG（Retrieval-Augmented Generation）相关产品时，我逐渐意识到一个被严重低估的问题：

描述信息并不是一个普通的文本字段，而是智能体理解世界的重要入口。

在我们的系统中，RAG 的名称和描述作为 metadata 会直接参与智能体的检索与匹配。换句话说，它们并不是给人看的，而是给模型用的。

问题从哪里出现的

最初，RAG 的描述只在创建时由用户填写一次。

这个设计在“静态知识库”的假设下是成立的，但现实情况完全不是这样：

• 用户会持续上传文件
• 会删除、更新、替换内容
• 有时一次会变更多个文件

但描述却始终停留在第一次填写时的状态。

这意味着：

知识库的真实语义已经发生变化，但系统仍然在用一段过期的文本来代表它。

而这段文本，恰恰是智能体进行检索和匹配的重要依据。

一个看似简单，其实很危险的选择

当我意识到这个问题时，第一个直觉方案其实很简单：

那就让 AI 在文件变更后，自动生成新的描述并覆盖旧的。

但这个方案几乎立刻被我否掉了。

原因并不复杂：

• 描述是用户“认知中的知识库定义”
• 如果系统在用户不知情的情况下自动覆盖
• 即便 AI 生成得更准确，也会破坏信任感

正确 ≠ 可接受，这是 AI 产品里经常被忽视的一点。

我的设计切入点

我换了一个视角去看这个问题：

也许问题并不在于

该不该让 AI 写描述，

而在于

谁对这段描述负责。

于是我做了一个关键拆分。

把“描述”拆成两种角色

在最终方案中，我们同时维护两种描述信息：

一种是用户描述

• 创建 RAG 时由用户填写
• 可见、可编辑
• 表达的是用户对这个知识库的意图理解

另一种是隐形描述

• 由 AI 基于当前所有文件内容自动总结
• 每次文件变更都会重新生成
• 默认不直接展示给用户
• 作为智能体匹配的重要输入之一

这一步的核心思路是：

让 AI 负责理解“真实内容”，

让用户负责表达“主观意图”。

AI 在后台持续工作，但不打扰用户

从体验上看，这个机制对用户几乎是“无感”的：

• 用户上传、更新文件
• 系统自动重新生成隐形描述
• 不弹窗、不打断、不提示

但这并不意味着 AI 在“偷偷做决定”。

真正的关键在下一步。

把“是否采用 AI”变成一个用户决策

在 RAG 详情页中，我保留了一个非常克制的入口：

描述标题右侧的编辑按钮。

当用户主动点击编辑时，系统才会告诉他：

当前存在一条由人工智能基于最新文件内容自动生成的描述信息

并明确给出两个选择：

• 采用 AI 生成的描述（覆盖当前描述）
• 保持现有描述不变

这一步对我来说非常重要。

因为它意味着：

• AI 的存在是可感知的
• 覆盖行为是用户主动触发的
• 最终责任仍然回到用户手中

为什么我认为这是一个好的 UX 方案

这个设计并没有追求“AI 看起来多聪明”，

而是刻意控制了 AI 的存在感。

它解决的不是 生成质量 问题，而是：

• 如何不剥夺用户的控制权
• 如何避免 AI 成为一个不可预测的黑盒
• 如何在正确性与信任之间取得平衡

在 AI 能力越来越强的前提下，

我反而更在意的是：

什么时候不该让 AI 替用户做决定。

这个案例带给我的一个确认

做完这个设计之后，我对 AI 产品的一个判断变得更确定了：

真正有挑战性的，从来不是“让 AI 多做一点”，而是“让 AI 知道什么时候该停下来”。

而 UX 的价值，往往就体现在这条边界上。

Read more posts by this author