惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Engineering at Meta
Engineering at Meta
雷峰网
雷峰网
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
B
Blog
Y
Y Combinator Blog
WordPress大学
WordPress大学
Microsoft Azure Blog
Microsoft Azure Blog
小众软件
小众软件
G
Google Developers Blog
云风的 BLOG
云风的 BLOG
罗磊的独立博客
博客园 - 三生石上(FineUI控件)
博客园 - 叶小钗
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
量子位
The Cloudflare Blog
T
The Blog of Author Tim Ferriss
博客园_首页
B
Blog RSS Feed
Hugging Face - Blog
Hugging Face - Blog
IT之家
IT之家
阮一峰的网络日志
阮一峰的网络日志
L
LangChain Blog
宝玉的分享
宝玉的分享

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
从底层原理让你的AI更好用!
古木杉 · 2025-04-22 · via 人人都是产品经理

在使用AI工具时,你是否遇到过答非所问、数理计算不准确或编造事实等问题?这些问题可能源于提示词的不当设计或模型本身的局限性。本文将从大模型的底层原理出发,深入探讨如何通过提示词调优、外部资源调用和模型微调等方法提升AI的使用效果。

在用AI落地你的想法时,是否有遇到以下问题:

  • 答非所问
  • 数理计算不准确
  • 编造事实

大家遇到这些问题时可能会疑惑:到底是提示词写的不好?还是模型本身的能力不足?

面对问题却只能“拔剑四顾心茫然”,不知道该用什么方式解决问题

本文的目的便是帮大家理解大模型,后续使用AI遇到问题时,能够快速找到合适的解决方案

(为帮助不同背景的同学理解,本文的举例、概念有一定的简化)

一、大模型不会思考

从deepseek、豆包等大模型的使用体验而言,我们能感受到大模型有所谓“思考”的过程,但其实这只是为了用户体验所包装出来的假象:

大模型其实不会思考,但他擅长“推理计算”,本质是一个概率函数,根据上文计算出接下来概率最大的文本是什么。

以一个小学生的完形填空题目为例:

既然大模型不会思考,为什么改提示词能够让它更听话?甚至能影响模型输出的“思考过程”?

二、让大模型更听话的三种方式

大模型不听话可能有几种原因:

  • 无法回答或编造事实,可能为大模型本身缺少相关知识
  • 回答过于发散,可能为大模型训练时很少接触过此类问题,对应的语言/推理模式较弱
  • 指令丢失,可能提示词/上下文过长,超出了模型可处理的长度

从提示词工程、外部知识与工具、模型微调三种方式可针对性地解决问题

2.1 提示词调优

如前文表述,提示词是最直接影响大模型输出结果的因素,

在模型本身能力范围内,提示词是提升准确性最具性价比的方式

像deepseek-R1这种推理模型是否不再需要复杂的提示词?

——看情况,若希望有效果更稳定的回答,提示词技巧仍然适用,对于一些通识性问题,推理模型自带的推理模式可以很好地解决问题,不需要过多的人为引导

列举部分提示词优化技巧,列举主要是为了帮助大家理解其原理,实操上可以将提示词扔给大模型帮忙优化

更多技巧可参考:

⭐ 结构化提示词

若尝试了多种提示词技巧后,发现结果仍然不符合预期,可能触及了当前大模型的能力边界,可参考2.2~2.3方法进阶调优

2.2 外部资源调用

当前大模型长文本阅读、数理计算、知识时效性方面仍然有局限性

为了补足这些短板,大模型也发展出了调用外部资源的能力

在具体落地上,可以使用Coze、Dify等AI应用搭建平台,均有提供相关功能

虽然外部资源调用能一定程度扩大大模型的能力边界,但现在也仍有高延迟、实时性、安全风险等问题

在落地时为了更好的效果,需要在工程侧做一定优化

2.3 模型微调

示例参考:模型微调 – SiliconFlow

模型微调的本质是调整大模型的参数,需要引入“模型训练”的环节

在微调后,模型对特定领域场景的能力将会得到提升,但训练过程的门槛和成本都比较高

效果示例如下:

三、选择合适你的调优方式

一般来说,提示词调优>外部知识&工具>模型微调

  • 当提示词触及模型能力边界的问题,再考虑另外两种方式
  • 当准确度、时效要求较高时,考虑微调

作者:古木杉 公众号:Jor的思考日记

本文由 @古木杉 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务