从业务需求拆解、到技术选型、再到场景落地，本文将回顾一个真实项目中的构建历程，并分享那些“构建过程中才明白”的产品决策与运营思考。

AI大模型技术正在各个领域蓬勃生长，智能客服应该是AI大模型应用最成熟的领域之一。智能客服早已不是锦上添花，而是支撑业务运转的有力手段、守护用户体验的基础服务、提升口碑的潜在力量。

核心业务流程

知识库管理

知识库作为源头数据的输入，是所有智能问答的核心,可以使智能客服机器人为客户提供高效、准确的服务。

为了取得理想的效果，可以考虑以下几个方面:

1）内容质量

智能客服的性能取决于所能获取的信息质量。知识库中的内容应当避免模棱两可和冗长复杂的语言。具体来说，描述应尽可能直接，避免使用技术术语或晦涩难懂的表达。清晰的语言可以减少误解，让AI系统在处理客户问题时给出更加精准的回答。同时，客户在自助查找信息时，也能快速找到答案。

2）结构化管理

一个结构良好的知识库有助于信息有效搜素和维护。对知识库类目的精准命名、子层级结构的清晰说明，以及明确知识库的维护方式等关键内容。例如，在处理涉及多个方面的内容时，可以根据具体主题创建明确的标题，如“支付方式”、“退货政策”等，从而使查询更具针对性。

3）数据预处理和优化：对原始文本进行清洗、分词、去停用词等操作，减少无意义信息，减少存储空间。

4）知识库实时更新和增量学习：建立数据更新机制，及时对数据进行更新。在更新时，重新计算新数据的向量并插入到数据库中，同时删除或标记过时的数据。

5）平衡向量维度与检索性能：进行实验对比，尝试不同的向量维度，观察其对检索准确率和检索时间的影响。结合实际业务需求和资源限制，找到一个合适的平衡点。

使用扣子创建知识库如下图：

质检流程

质检，其实就是记录和评价客服回答的内容质量，本质是数据收集和优化。大模型一般有几种解决方法：

• 直接判定，加入提示词判定和微调，直接判定速度快便宜但效果不好，提示词判定迭代次数多，微调高成本高耗时但效果好，具体选择哪种方法需要结合实际需求来确定，
• 提示词工程：在质检场景，输入的文本是长度一般在几百至上千字的多轮对话并且存在固定的规则参考，最经济高效的做法就是提示词工程（promptengineering/PE），也就是设计并优化提示词，提升大模型判定的准确率
• 制定规则：使用一定规则检验客服的回复和对话是否合规，例如给定一条规则判断客服回答是否礼貌，需要检验的是对话文本中客服是否使用了礼貌用语，使用则合规，不使用则不合规。

评价流程

智能客服的评价是一个复杂的过程，需要结合定量指标数据和用户定性反馈。综合评估指标，可以一定程度量化机器人客服的智能化程度，从而识别其优势和不足，以提供更高质量的客户服务体验。

产品架构

产品架构-客服工作台

客服工作台是核心业务流程的主界面。可进行一对多服务(一个客服同时接待多个用户)，原型页面参考如下：

客服工作台智能场景

一、会话摘要

客服每次会话结束进行总结，包括客户问题、客户问题分类、解决方案等。

1）对话全文总结

• 根据对话上下文、客户问题、系统prompt等调用大模型
• 客服对生成的内容进行二次编辑、审核优化

2）问题分类

• 系统提前设置分类，如一级、二级等
• 对话上下文、客户问题、系统promp等自动分类，并支持二次编辑、优化
• 分类数据反馈给客户，判断用户意图等。

3）进度跟踪

跟踪用户问题的进程，及时更新状态，流程闭环。

二、智能工单

客服是接待窗口，通过工单方式调用后端支持

1. 根据工单所需字段，智能提取会话中关联内容，如姓名、联系方式、工单内容等
2. 识别用户情绪，智能建议工单优先级

三、智能辅助回答

当人工客服长时间不在线或忙时，通过监听问题智能生成回答

1. 根据上下文和知识库，自动优化回复内容，客服客直接发送或修改后发送
2. 窗口等待时间超过一定时间时，自动回复用户信息

产品架构-智能机器人

流程

搭建智能客服

下面是以扣子搭建智能客服为例搭建智能客服：

搭建知识库→用户输入→意图识别→分类判断→问题改写→生成回复→数据保存→发布

搭建知识库

意图识别

用户问题改写

保存数据

回复

发布

根据实际需求，发布不同的平台

产品架构-智能客服系统评估

评估维度

智能客服有人工和智能评估两种方法

产品架构-AI中台

集中提供AI能力、prompt功能、工作流管理、函数管理等，如扣子、Dify等平台。

产品架构-用户端

与机器人、人工客服对面的界面，可语音输入输出，输入自动补全等

产品架构-管理后台

管理用户信息、问题分类、记录点赞点踩、推送评价、信息，人员管理等。

AI智能客服，不仅仅是客服系统的升级，更重构了人机协同的服务生态

• 解放人力：把客服人员从机械、重复的问答中解放出来，聚焦高价值、情感化的复杂服务。
• 极速响应：实现用户咨询“秒级响应”，消灭等待焦虑。
• 精准解答：对高频、标准化问题，提供准确、一致的答案，像真人一样和用户进行对话。
• 体验升级：通过更高效、更便捷的服务，提升用户满意度和忠诚度。