惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

阮一峰的网络日志
阮一峰的网络日志
Jina AI
Jina AI
GbyAI
GbyAI
D
DataBreaches.Net
人人都是产品经理
人人都是产品经理
Hugging Face - Blog
Hugging Face - Blog
V
Visual Studio Blog
P
Proofpoint News Feed
The Cloudflare Blog
H
Help Net Security
MyScale Blog
MyScale Blog
T
The Blog of Author Tim Ferriss
量子位
博客园 - 聂微东
Apple Machine Learning Research
Apple Machine Learning Research
T
Tailwind CSS Blog
博客园 - 三生石上(FineUI控件)
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
MongoDB | Blog
MongoDB | Blog
Last Week in AI
Last Week in AI
大猫的无限游戏
大猫的无限游戏
小众软件
小众软件
月光博客
月光博客

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
思维链 (Chain of Thought)是什么?有什么价值?怎么用?
小末就是小末 · 2025-05-12 · via 人人都是产品经理

随着AI技术的不断发展,如何提升其可解释性和推理能力成为研究热点。本文深入探讨了“思维链”(Chain of Thought, CoT)技术,不仅解释了CoT的核心概念和价值,还展示了如何通过具体示例和提示词来提升模型的表现。

随着关于AI可解释性的讨论逐渐进入主流,越来越多的人对解开大型语言模型(LLM)的“黑匣子”感到好奇。向大模型提问总能获得各种各样的答案,有时给你思路,有时给你答案,有时又能变成你的老师!

01. COT是什么?

链式思维 (Chain-of-thought, CoT)是一种提升大型语言模型 (LLMs) 推理能力的技术。

Google AI 的研究人员在 2022 年的一项开创性研究为这个思维链的研究打下了基础。研究证明,CoT 提示词在解决数学单词问题等任务中非常有效。与传统的提示词工程相比,遵循 LLM 的思维过程、展示使用的步骤和方程式,显著提高了模型的表现。

https://research.google/blog/language-models-perform-reasoning-via-chain-of-thought/

大型语言模型 (LLMs) 擅长预测下一个单词。但是,LLMs其实自身很难解决需要逐步思考的问题,需要通过提示词工程,来指导GPT-4o 或 Claude Sonnet 3.5/3.7 等语言模型给出更好的答案,尤其是当涉及到复杂的推理任务时,思维链提示 (CoT Prompt)就是一个很棒的解决方案,通过你提供的示例(分步推理思路和流程),包括但不限于:识别关键信息、应用规则,得出的结论类型等,类似于通过分步提示引导AI 计算结果,LLM在输出答案时会学习并遵循你示例里提供的思维过程。

传统的 AI 训练通常像一个“黑匣子”:你给它一堆数据(比如电影评论),它直接输出一个结果(正面或负面)。而 CoT 方法则不同,它能分解这个过程的内部运作。

思维链提示的核心目标是兼顾清晰、创造力以及连贯性展示,而不仅仅是告诉LLM要怎么输出,就像教侦探破案一样,你不能只说:“找出罪魁祸首。” 而是需要用几个案例来教他们分析。同样,给 AI 提示时,也别只说“识别情绪”,而是要给它一些具体的例子,告诉它怎么一步步分解问题,比如怎么看文字、分析用词,还要结合上下文,最后得出情感判断。

思维链提示(CoT Prompt)还有另一种说法叫:‘response_format’(回答模版),其实我觉得这种说法更容易理解,就是字面意思的,告诉大模型一个回答模版,让大模型根据你提供的模版进行回复,这个模版越全面,逻辑越缜密,你收到的回复就更详细,但这个模版一般是在技术层面内置,下面是示例:比如你想让你的AI计算一个数学题:可以这么“教”他:

小明有12块饼干,吃掉了4块。她还剩多少块饼干?回答的时候你需要这么计算:

第一步:”玛丽一开始有多少块饼干?” 第二步:”玛丽吃了多少块饼干?”, 第三步:”怎么计算剩下的饼干数?”

代码示例:

如果你问AI问题发现答案都不太满意的时候,可以在给AI发的问题后面对话多加一句:“Let’s think step by step”(让我们一步一步思考)以指导语言模型的推理过程。

举个例子:你正在尝试和 AI 学习一个新概念,例如“量子物理学”,你希望它生成一些解释。你可以说“让我们一步一步思考:解释量子物理学”。

02. 自动思维链 (Auto-CoT)

自动生成 CoT 提示(LLMs self CoT):想象一下,你不再需要把思考方式教给LLMs,有个 AI 助手可以不断的为你自动编写 CoT 提示然后反哺LLMs,岂不是可以极大地节省开发人员和研究人员的时间和精力,特别是在处理复杂的推理问题的时候。

这是一种 AI 可以从之前提供的示例中找出规律的模式,自动把这些模版(Format)应用到新问题上。这就像是 AI“参考”自己之前的经验,让它的提示能够适应新的情况,从而在某种程度上产生像是“自我提示”的效果。

借助 Auto – CoT 技术,AI 系统可以解决即使是最经验丰富的 NLP 工程师也难以理解的问题。例如,AI 可以逐行调试复杂的代码,并在每一步解释其推理过程,或者利用清晰透明的思维链来分析金融市场的动态。

CoT 技术让 AI 系统可以不断学习和变得更好。它通过分析自己的推理过程和结果,帮助 AI 找到不足之处,并逐渐改进自己的方法。这样,AI 就能像人一样不断进步,为“终身学习”的新一代 AI 系统奠定基础。

Open AI那12天 碎片化直播的第一天发布的system card里也提到了模型自带CoT:

论文链接在这里,感兴趣可以点开看全文:

https://cdn.openai.com/o1-system-card-20241205.pdf

写这篇文章的时候Deepseek还没火成那样,后来Deepseek火了,Deepseek把大模型的推理/思考的思维链都完整展示出来了,思考的力量果然强大。

03.展示CoT的「阶段」- Loading过程

AI的Loading过程:展示CoT的「阶段」,当我们在和AI对话的时候,如果可以看到AI的思考到哪步了,可以很大程度提高我们对AI输出内容的信任程度,遇到输出较慢的场景也能作为中间提示避免无反馈或反馈过慢的情况。因此大模型输出内容前的加载过程(Loading)是非常有必要的设计。

我觉得在这方面Minimax从一开始做的就特别好,在此就以Minimax的举例。

以下loading中的每一步都是依据回答用户Query所需要的思考步骤出现,我也是尝试了好几次才截成功,有几个状态由于太快还是没截到,不过这也能表明并不会因为loading状态太多导致输出速度变慢。

「我正在尽全力搜索」

「正在阅读」

「完成搜索」

最后再「告知以下内容来自xxx引用」

(这个步骤大部分支持联网的AI对话产品都有)

关于AI对话的Loading设计还有很多有趣的方向,之前Kimi有一个对于计算场景的loading设计,「按了一下计算机」挺有趣的!

我还试着让Chatgpt回答一下这问题,终究是没有Deepseek格局大呀 哈哈哈

但是可以看到这个的loading小设计:“正在推理”

其实我记得最早Chatgot在loading这块的设计做的还挺细节的,有很多状态展示,更新了几版以后看不到那些可爱的loading设计细节的了。

最后再放出一个AI界著名的独立开发者idoubi曾经做过的一个隐藏款产品,多语种AI搜索引擎,BiLin.ai,我一直觉得BiLin的loading设计的很棒,可以看到AI帮你执行到哪一步了,有效缓解搜索和推理复杂问题耗时太长问题。(www.bilin.ai)

当然除了对话的loading效果,还有图片生成的loading设计:

Chatgpt生图:

Gemini生图:loading中告知使用的生图模型

生图loading也有很多巧思设计,等待大家慢慢挖掘!

类似的在用户和AI的交互过程中告知模型目前的思考过程与思路的设计都可以有效提升AI交互的体验,也可以增加用户对大模型输出信任感,我想这也是为什么Deepseek推理过程的展示能让AI对话产品用户增量有了质的飞跃。

就分享到这了,下一篇分享也会很有趣!

参考链接:

https://bilin.ai/zh-CN

https://chat.minimaxi.com/

https://www.vellum.ai/blog/chain-of-thought-prompting-cot-everything-you-need-to-know

https://learnprompting.org/ru/docs/intermediate/chain_of_thought

https://www.woshipm.com/aigc/6126239.html

https://blogs.novita.ai/chain-of-thought-prompting-elicits-reasoning-in-large-language-models/

作者:小末,公众号:Moer Talk

本文由 @小末is小末 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自 Pixabay,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务