导读：本文用生动的职场类比，带你看懂大语言模型从"复读机"到"智能助手"的完整进化路径，理解AI能力增强的底层逻辑。
你雇了个天才员工：上知天文下知地理，问啥都能立刻接话，但聊完就失忆，更别提帮你查资料、写代码——这就是早期大语言模型（LLM）的真实写照。
图：大语言模型核心工作原理示意图
很多人以为LLM内部有"思考系统"，其实它的核心机制只有一件事：根据当前输入，预测下一个最可能出现的词汇token （模型眼里的“最小文字单位” ）。用数学公式表达就是：
P(token_t | token₁...t₋₁)本质上它只是一个：
LLM的真实工作状态有三个关键特点：
既然模型只会接话，我们就想到用"说话方式"控制它的行为，于是**Prompt Engineering（提示词工程）**诞生了。
图：Prompt工程原理示意图
Prompt的本质不是"指令"，而是控制条件概率分布：给模型不同的上下文，就是在改变"P(输出|输入条件)"的计算结果。
Few-shot（少样本学习）的真正原理也很简单：给几个示例不是让模型"学习"，而是帮它：
Prompt解决了部分问题，但模型仍然是单轮、无状态的。于是我们开始做一件简单粗暴的事：把更多信息塞进输入里。
图：上下文窗口限制原理示意图
Context的本质不是"记忆"，而是一次性注入的信息。模型不会区分这些信息的来源，它看到的只是一串更长的token序列。
这里有个关键物理约束：上下文窗口长度。因为Transformer的注意力机制复杂度是O(n²)，token越多计算成本会指数增长，所以Context是有限资源，不能无限塞信息。
很多人以为模型能记住聊天内容，其实真相是：每一轮对话都在重新喂历史记录。
图：对话记忆的上下文重放机制示意图
这种机制叫上下文重放（Context Replay），模型本身仍然没有任何记忆能力。
随着对话越来越长，会出现三个问题：
到这里还有个核心问题没解决：模型的知识是训练时"冻结"的，它不知道最新新闻、私有数据或企业文档。怎么办？答案是RAG（检索增强生成）。
图：RAG检索增强生成流程示意图
RAG的本质思想可以一句话总结：不改变模型，而是通过检索系统动态构造输入上下文。注意：模型并没有"查数据库"的能力，是外部系统帮它查好资料，再把结果塞给它作为输入。
为什么要把文档切块？因为长文档的embedding会失去语义精度，检索粒度过粗。所以必须：
回头看整个演化过程：Prompt、Context、Memory、RAG，其实都在解决同一个问题——输入不够。
这些创新并没有改变LLM的核心机制，它仍然是那个"根据输入预测下一个token"的条件概率模型，只是我们通过各种方式给它提供了更丰富、更准确、更及时的输入信息。
尽管做了这么多增强，模型仍然有个根本限制：它不能执行操作、调用工具、做决策或规划任务。它只是从"只会接话的复读机"，变成了"更会说话、更会查资料的复读机"。
当我们意识到这一点时，一个更深刻的问题出现了：如果模型不能做事，我们能不能让它"行动起来"？这正是下一阶段的开始——Agent（智能体）的诞生。
📌 核心要点：
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。