惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

宝玉的分享
宝玉的分享
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
云风的 BLOG
云风的 BLOG
V
V2EX
The GitHub Blog
The GitHub Blog
T
Threatpost
Microsoft Azure Blog
Microsoft Azure Blog
Security Latest
Security Latest
A
Arctic Wolf
Google DeepMind News
Google DeepMind News
D
Darknet – Hacking Tools, Hacker News & Cyber Security
V
Vulnerabilities – Threatpost
P
Proofpoint News Feed
W
WeLiveSecurity
Cloudbric
Cloudbric
C
Check Point Blog
Google Online Security Blog
Google Online Security Blog
MyScale Blog
MyScale Blog
T
The Exploit Database - CXSecurity.com
U
Unit 42
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org
PCI Perspectives
PCI Perspectives
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Spread Privacy
Spread Privacy
Hugging Face - Blog
Hugging Face - Blog
O
OpenAI News
N
News and Events Feed by Topic
The Last Watchdog
The Last Watchdog
P
Proofpoint News Feed
Last Week in AI
Last Week in AI
MongoDB | Blog
MongoDB | Blog
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
P
Privacy & Cybersecurity Law Blog
T
Threat Research - Cisco Blogs
博客园 - 聂微东
V
Visual Studio Blog
美团技术团队
Security Archives - TechRepublic
Security Archives - TechRepublic
G
GRAHAM CLULEY
Recent Commits to openclaw:main
Recent Commits to openclaw:main
C
CERT Recently Published Vulnerability Notes
Know Your Adversary
Know Your Adversary
小众软件
小众软件
Engineering at Meta
Engineering at Meta
NISL@THU
NISL@THU
K
KPMG report finds enterprise disconnect between AI and its ROI | CIO
人人都是产品经理
人人都是产品经理
Cisco Talos Blog
Cisco Talos Blog
Martin Fowler
Martin Fowler
T
Troy Hunt's Blog

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理, 企事业单位数字化的业务供需本质 – 人人都是产品经理, 医疗智能体·第1讲——医疗信息化重构:从“辅助软件”到“自主智能体”的范式转移 – 人人都是产品经理, 粉丝量就是空气!!! – 人人都是产品经理, 用户说“薯片碎了”,机器回“要买吗?”:意图识别的翻车与破局 – 人人都是产品经理, RAG召回准确率从75到90 我做对了这三件事 – 人人都是产品经理, AI大事件:Anthropic改收费、OpenAI发安全版、手术机器人纳入医保、阿里发布”秒悟” – 人人都是产品经理, Chrome 推出 Skills 新功能,Agent 重塑上网方式 – 人人都是产品经理, GitHub前创始人拿了a16z的1700万美元,做Agent时代的Git – 人人都是产品经理 拷贝或克隆其他 Flutter OH 项目到本地后无法运行 – 人人都是产品经理, 优惠券设计:优惠券创建 – 人人都是产品经理, 不用死磕文档!AI 助手 1 小时搞定飞书 CLI 安装 + 配置 + 知识库 – 人人都是产品经理, 用小龙虾做竞品分析报告:从2天到20分钟,我是怎么做到的 – 人人都是产品经理 用小龙虾做市场分析报告:搞懂这3个公式,市场规模不再靠猜 – 人人都是产品经理, 你早就在做 Harness 工程,只是不知道它叫这个名字 – 人人都是产品经理, Think Long就够?你可能想多了! – 人人都是产品经理, 货代SRM实战:供应商准入怎么做,才能让资源池不是通讯录而是可交付网络? – 人人都是产品经理, 如何做好用户调研?详解基本技巧 – 人人都是产品经理, 木鸟、途家、美团对打,平台春天行动开“卷” – 人人都是产品经理, 入职才发现公司不靠谱?小红书从业者求职避坑指南 – 人人都是产品经理, 美国 AI 三巨头联手封堵,中国 AI 突围之路在何方 – 人人都是产品经理, 小红书,放在需求对面的镜子 – 人人都是产品经理, AI 会带来大规模失业吗? – 人人都是产品经理, 从出单到补货前,我第一次犹豫:该不该放大? – 人人都是产品经理, Flutter 三方库鸿蒙化适配:5 种高效检查方式,快速判断是否需要适配 – 人人都是产品经理, 从做产品进阶拿结果:医美机构产品经理转岗科室运营经理 – 人人都是产品经理, 阿里HappyHorse,一场关于“Token经济”的阳谋 – 人人都是产品经理, To B AI:客户留存落地的观察与思考 – 人人都是产品经理, AI产品的“生命线”——数据采集、标注、清洗的产品化设计 – 人人都是产品经理, 谈谈AI Agent(二):当“孩子”能自己“体验世界”时,你该学什么? – 人人都是产品经理, UI/UX设计师的3层能力进阶,前两层让你活下来,第三层…才是真正的分水岭 – 人人都是产品经理, 2分钟 → 30秒,效率提升75%:B端产品经理如何用「规则枷锁」驯服AI幻觉? – 人人都是产品经理, 还没来得及学OpenClaw,来了个更猛的:Hermes Agent – 人人都是产品经理, AI日报:宇树机器人跑出10m/s刷新世界纪录 – 人人都是产品经理, 一文说透基金互金如何用情绪价值引导用户决策做转化 – 人人都是产品经理, 当浏览器开始替你”看”网页:AI 浏览器正在亲手拆掉它脚下的那张网 – 人人都是产品经理, 0代码,一天时间我Vibe Coding了个网站 – 人人都是产品经理, Hermes 和 OpenClaw 之争,Agent 的能力应该“装上去”还是“长出来”? – 人人都是产品经理 视频生成的“桌子”,字节Seedance 2掀完,阿里快乐马掀 – 人人都是产品经理, 从听不懂到完全信任:我的 Codex 深度产品体验 – 人人都是产品经理, 当虚拟偶像有了北京户口,与真人偶像还有什么区别? – 人人都是产品经理, 会说,远远比会做更重要 —— 对 SBTI 爆火现象的五层观察 – 人人都是产品经理, AI产品经理必看:当“搭环境”比“选模型”更重要,你的认知还在2024年吗? – 人人都是产品经理, 2026年AI产品商业化核心逻辑:从功能demo到规模化营收的3个必破卡点 – 人人都是产品经理, 京东围绕供应链,卷起裤腿下场的那些事儿 – 人人都是产品经理, SBTI一夜刷屏:它赢在了“太会说人话” – 人人都是产品经理, 折扣零售的真相:不是便宜,而是价值感! – 人人都是产品经理, 和甲方吵了一架,最后加钱做了——我学到的ToB产品经理生存法则 – 人人都是产品经理, 和几位小红书操盘手聊了8小时,干货全在这 – 人人都是产品经理, 智谱GLM-5.1登场,开源模型首超Opus4.6!!! – 人人都是产品经理 Anthropic收入凭什么反超OpenAI,终于有人把这事说清楚了 – 人人都是产品经理, 史上最有故事感的技术报告——Claude最强模型Mythos 7个极其精彩的细节 – 人人都是产品经理, 模型不是壁垒,Harness 也不是 – 人人都是产品经理, 抖音本地生活业务思考21 – 人人都是产品经理, Superpowers:145k Star的AI编码框架,到底是什么来头? Superpowers:145k Star的AI编码框架,到底是什么来头? – 人人都是产品经理, OpenAI 的路走错了,Anthropic Harness 解法启示:模型需要实践专科生 – 人人都是产品经理, 画原型图的前一步:设计站点地图 – 人人都是产品经理, 给 DeepSeek 的最后一封催更信 – 人人都是产品经理, 手把手教你用 Claude Code 搭建 AI 营销团队:5 个 Agent、12 项技能,独立完成研究、写作、设计全流程 – 人人都是产品经理, 你以为大模型在学语言?不,它在重新发明语言学 – 人人都是产品经理 所谓Skill,不过是AI时代的工业垃圾 – 人人都是产品经理, 聊一聊内容传播的几个方法 – 人人都是产品经理, 当平台开始吃掉生态:从 OpenClaw 被封杀,读懂 Anthropic 的这盘棋 – 人人都是产品经理, 你装了 10 个 AI 插件,Obsidian 还是一个文件夹 – 人人都是产品经理 关于AI智能体架构演进的系统性思考:从单体试水到多体协同的重构 – 人人都是产品经理, 当“人”变成Skill,我们又该何去何从? – 人人都是产品经理 Mythos 事件:前沿 AI 治理的意外实验 – 人人都是产品经理, 货代CRM:信用与风险管理怎么做,才能把坏账风险拦在放货之前? – 人人都是产品经理, 从HR收集自拍照到员工自助录入——我见证了园区人脸识别从”不可用”到”真好用”的全过程 – 人人都是产品经理 千问闯关AI混沌期:阿里画靶,吴嘉张弓,马云射箭? – 人人都是产品经理,
实战经验:使用AI+MCP时,如何有效降低大模型幻觉率?
hanpangzi · 2025-08-15 · via 人人都是产品经理

AI生成内容越来越强,但“幻觉”依然是最大的不确定性。这篇文章将从MCP(多组件流程)角度出发,分享一套可复用的“降幻觉”方法论,帮助你在实际应用中构建更可靠的AI内容系统

今天想和大家聊聊一个老生常谈但又极其关键的话题:如何搞定AI工具的“幻觉”问题。当我们将LLM对接到需要高精准度的业务(比如电商比价、企业知识库问答)时,模型一本正经地胡说八道,随意生成错误链接、价格或参数,是绝对无法接受的。

最近我为公司开发了一款内部使用的Agent工具,想借此机会分享一下我在其中解决“幻觉”问题的心得。

这款工具的核心,是我采用并实践的一套“AI+MCP”模式,即通过大模型(LLM)来驾驭多个MCP工具即“模型上下文协议”(Model Context Protocol),并结合知识库(RAG)使其有据可查。但在项目初期,工具的表现并不理想,时常会“一本正经地胡说八道”,这对于要求数据严谨来说是不可接受的。

因此,我的主要工作就聚焦于如何一步步地降低这个工具的幻觉率。下面,我将详细拆解我的优化步骤,希望能为你提供一些实战参考。

经验零:万丈高楼平地起 —— 选择强大的模型基座

在讨论所有技巧之前,一个无法回避的前提是:模型基座的能力决定了反幻觉工作的起点和上限。

一个更先进、能力更强的模型,其本身在遵循指令、逻辑推理方面的表现就会更好,内在的幻觉率也相对更低。

在预算和项目允许的情况下,选用能力更强的模型基座,本身就是降低幻觉率的第一步。

经验一:善用MCP工具简化开发,并用代码约束其最终输出

在我最初接触这个项目时,我以为需要从零开始构建一套复杂的代码链路来“管教”AI。但我的第一个,也是最重要的发现是:一个优秀的MCP工具,其本身就能极大地减少许多不必要的底层开发环节。

像过去那种需要我手动编写的、繁琐的API调用流程、请求与响应逻辑、甚至是一些初步的数据解析工作,现在大部分都被MCP工具优雅地接管了。我只需要使用大语言模型(LLM)去调用他。

这让我的工作重心发生了关键性的转变。我的做法是:

  • 代码后置,专注业务:我的核心代码工作,从繁重的“事前处理”转向了轻量而关键的“事后处理”。AI会通过MCP工具会给我一个初步的、已经结构化的结果,我的代码只需要在这个干净的基础上,进行更贴近业务的精加工。比如,根据我们公司的特定规则进行二次筛选和排序。
  • 为输出加上“代码保险”:我的最终目标是用一段确定性的代码,为工具的输出上最后一道“保险”。无论MCP工具内部如何智能,我都会用一段确定性的代码来检查、过滤并格式化它的最终输出。这相当于为工具的出口设置了一道最终的“质检”关卡,旨在最大程度上拦截和避免不符合业务规范的“幻觉”内容流出。

经验心得:这个过程就像是,我拥有了一台先进的“智能料理机”(MCP工具),它已经能自动完成和面、揉面、发酵等一系列复杂的工序。我作为工程师的角色,不再需要从头和面粉打交道,而是更像一个最后的“品控师”和“造型师”。我的代码,就是在面包出炉的最后一刻,为它撒上精准的配料、进行完美的切割,确保最终出品既高效又完美。

经验二:把Prompt当成“铁笼子”,而不是“建议书”

在代码设定好边界后,Prompt就是在这个边界内与模型沟通的唯一方式。Prompt的强度,直接决定了模型行为的规整度。

怎么做?

  • 使用命令式、不容置疑的语气:改用“你必须…”、“禁止你…”这样的强硬指令。
  • 严格限定角色:明确告知模型它的身份和唯一的任务。
  • 锁定输出格式:提供一个无法被篡改的、严格的字段化模板,让模型只做“填空题”。

经验心得:一个好的Prompt,应该像一个精密的模具,模型这个“原材料”在被代码处理完后,再被放进这个模具,出来的形状就会被完全限定好。

经验三:引入“开卷考试”(RAG)—— 让模型有据可查

如果说前两步是为AI制定了严格的“纪律”,那这一步就是为它提供一本可以随时查阅的“标准答案教科书”。这就是检索增强生成(Retrieval-Augmented Generation, RAG)的核心思想。

这是如何实现的?

我不让模型仅仅依赖它自己“脑中”可能已经过时或不准确的知识来回答问题。相反,当一个问题进来时:

  1. 先检索,不回答:系统首先会根据问题,自动去我指定的知识库(比如公司的产品文档、政策规定、最新的业务数据等)中进行搜索。
  2. 提取相关“证据”:找到与问题最相关的几段信息。
  3. 带着“证据”提问:然后,我将这些检索到的信息作为上下文,连同原始问题一起,形成一个新的Prompt交给模型,并明确指示:“请仅根据以下提供的资料来回答这个问题。”

经验心得:这种模式,相当于把模型的“闭卷考试”改为了“开卷考试”。它带来的好处是巨大的:首先,幻觉大幅减少,因为模型的回答不再是凭空想象,而是对已有资料的归纳总结;其次,信息永远是新的,我只要更新知识库,模型的回答就能立刻跟上;最后,答案变得可追溯,我可以告诉用户,这个回答是基于哪几份文档得出的,极大地增强了工具的公信力。

经验四:把好数据源的“总阀门”,用代码构建“防火墙”

这个环节再次体现了代码控制的重要性,它与RAG相辅相成。通过利用API的过滤能力和建立代码“防火墙”去重去杂,可以确保无论是RAG检索到的,还是API调用的数据,在喂给模型之前都是高度纯净的。同时,在Prompt中强调关键信息必须与返回的指定字段完全一致,也是一道重要的保险。

经验五:从“开发者控制”到“赋能用户” —— 让模型自学文档

上面我们讨论的更多是开发者如何从后端构建护栏。但MCP还有一种更激动人心的应用视角:极大地降低普通用户的使用门槛。

这是如何实现的?

传统上,使用一个复杂的工具,需要用户先去学习它的说明文档。而现在,你可以把这个“学习”过程也交给大模型。用户在调用MCP工具时,除了给出目标,还可以同时“喂”给模型一份详细的MCP工具说明文档或API文档。模型会像一个超强的学习者,“一边阅读教学,一边上手使用”,自行从文档中理解正确的参数、格式和调用方法,然后去执行任务。

经验心得:这就像是给您分配了一个永不疲倦的超级实习生。您不需要逐一教他如何操作一台复杂的机器,您只需要把机器的说明书扔给他,并告诉他您想要的结果,他自己就能搞定一切。这对普通用户来说是革命性的。

总结

对抗模型幻觉、构建真正可用的AI工具,需要一个多层次的策略。我的经验可以总结为:

一个好基础:选择一个能力足够强大的模型基座。

一套开发者“组合拳”

  • 硬控制(代码):用确定性的代码逻辑构建强制的调用流程、数据处理和验证规则。
  • 知识注入(RAG):通过“开卷考试”模式,让模型的回答基于可信、最新的知识库,从根源上消除幻觉。
  • 软引导(Prompt):在代码和RAG设定的框架内,用高强度的Prompt约束模型的最终行为。

一种赋能用户的“新范式”:利用大模型超强的阅读理解能力,让其在使用MCP工具时自学文档,从而为非技术用户打开通往复杂功能的大门。

通过这套组合拳,我们才能在享受大模型带来便利的同时,真正建立起用户对系统信息准确性的信任,并释放其作为“通用接口”的巨大潜能。

本文由 @hanpangzi 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议