惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

大猫的无限游戏
大猫的无限游戏
H
Help Net Security
The Cloudflare Blog
Y
Y Combinator Blog
A
Arctic Wolf
Cyberwarzone
Cyberwarzone
G
Google Developers Blog
Recent Announcements
Recent Announcements
S
SegmentFault 最新的问题
Microsoft Security Blog
Microsoft Security Blog
WordPress大学
WordPress大学
博客园 - Franky
罗磊的独立博客
Martin Fowler
Martin Fowler
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
博客园 - 三生石上(FineUI控件)
N
News and Events Feed by Topic
F
Fortinet All Blogs
N
News | PayPal Newsroom
J
Java Code Geeks
www.infosecurity-magazine.com
www.infosecurity-magazine.com
博客园 - 【当耐特】
M
MIT News - Artificial intelligence
Google Online Security Blog
Google Online Security Blog
Recorded Future
Recorded Future
博客园 - 聂微东
S
Securelist
C
CERT Recently Published Vulnerability Notes
小众软件
小众软件
Cisco Talos Blog
Cisco Talos Blog
S
Security Affairs
NISL@THU
NISL@THU
A
About on SuperTechFans
PCI Perspectives
PCI Perspectives
N
News and Events Feed by Topic
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
Jina AI
Jina AI
Microsoft Azure Blog
Microsoft Azure Blog
AWS News Blog
AWS News Blog
GbyAI
GbyAI
C
Cyber Attacks, Cyber Crime and Cyber Security
V
Vulnerabilities – Threatpost
D
Docker
P
Proofpoint News Feed
W
WeLiveSecurity
Help Net Security
Help Net Security
The GitHub Blog
The GitHub Blog
The Last Watchdog
The Last Watchdog
The Hacker News
The Hacker News
博客园 - 叶小钗

博客园 - 天戈朱

AI PPT 收官篇:我做了一个能直接生成可编辑 PPTX 的 Skill 从文件堆积到版本可控:用 Git、GitHub 与 Gitee 管理 AI 资产 Codex 额度不足后的模型替代 AI 生成 PPT 的最后一公里:图片转可编辑 PPTX 从网页采集到 SQL Server 入库:WorkBuddy 自动化流程设计实战复盘 从“会干活”到“会成长”:从OpenClaw 到 Hermes,看懂 Agent 的进化路线 WorkBuddy 运行逻辑解读:桌面 AI Agent 如何把事真正做完 GB/T 27930.2 -2024 通 信 协 议解读 OCV与SOH dQ/dV曲线 锂离子电池脉冲频率优化的低温预热 EIS在线辨识方法 EIS基础知识 大厂订单架构参考 新能源汽车大数据与运行安全 新能源车新风口:9大潜力赛道 ES各版本对比及升级路径 ThingsBoard 开源物联网平台 AI 与 新生产要素 数据资产入表 VisActor ICLR2024 | iTransformer: 倒置Transformer,刷新时序预测新纪录 大模型_3.2 RAG 高效应用指南 大模型_3.1:构建企业RAG系统 2024工业AI大模型发展分析 2024数据工程开源技术跟踪 大模型_4:Agent
详解|从 Prompt 到 Meta-Loop:AI 工程化实践的演进历程
天戈朱 · 2026-07-05 · via 博客园 - 天戈朱

更佳阅读效果,请移步关注我的公众号

tgzhu_公众号


先给结论:
AI 工程的演进,本质上是在不断补齐“模型能回答”与“系统能可靠交付”之间的缺口。

一位客户提交售后申请后,Agent 自动查询订单、核对退款规则并生成处理建议;遇到高风险情况则转交人工。系统会保存 Agent 的执行状态与关键上下文,并将对业务有意义的处理进度同步给工单。下一次任务启动时,它可以从上次状态继续推进,而不是重新询问客户信息。

这已经不是“把 Prompt 写得更好”就能解决的问题。

它需要模型理解任务,需要正确的信息,需要工具与权限,需要安全的执行环境,需要状态记录,也需要在失败时继续推进。AI 工程化,正是在把这些零散能力组织成一个可长期运行的系统。

本文不试图罗列所有 Agent 产品,而是回答一个更重要的问题:

是什么推动 AI 工程从 Prompt 逐步走向 Context、Harness、Loop 与 Meta-Loop?


📌 本文导读

  • 🔭 第一部分: AI Agent 的能力跃迁
  • 🧱 第二部分: AI 工程的五层能力体系
  • ⚔️ 第三部分: 一张图看 AI 工程全景

一、AI Agent 的能力跃迁

过去的 AI 产品,大多像一位知识丰富的助手:你提问,它回答。

现在的 Agent 更像一位能进入工作现场的执行者:它能读取文件、查询系统、调用工具、修改内容、验证结果,并把任务推进到下一步。

较早形成清晰形态的是 Coding Agent。Claude Code、Codex CLI 等产品将模型接入终端、代码仓库和执行环境,使 AI 可以围绕真实工程任务生成代码、修改文件、运行测试和协作交付。

随后,这种能力开始突破编程边界,进入知识处理、桌面办公、企业协同和行业任务交付等场景。

01_Agent

与其把这条时间线理解为“谁先发布了产品”,不如把它理解为三次能力跃迁:

  1. 从代码任务自动化,走向通用任务执行
    Agent 不再只会补全代码,也开始处理文档、数据、工单和业务流程。

  2. 从一次性调用,走向持续运行
    它不只是收到指令后做一次,而是能够被事件触发、持续跟进、失败重试。

  3. 从个人工具,走向企业系统
    真正进入业务后,Agent 必须面对权限、审计、数据、协作和责任边界。

这也是行业关注点发生变化的原因:早期比的是“模型能不能做”;进入真实工作环境后,比的是“系统能不能稳定做、持续做、可控地做”。

未来产品的差异,不只取决于底层模型能力,更取决于是否具备上下文、工具、运行时、记忆、评估与治理体系。

附录:产品能力对比

02_能力对比


二、AI 工程的五层能力体系

可以把 AI 工程体系 想象成一套自动驾驶系统。

大模型像“驾驶大脑”,负责理解环境、判断情况并生成下一步行动;但只有大脑,汽车仍然无法安全上路。它还需要传感器获取信息、导航规划路径、控制系统执行动作、安全规则限制风险,以及运行记录和维护机制保障长期稳定运行。

AI Agent 也是如此:模型只是其中的认知核心。Prompt、Context、Harness、Loop 与 Meta-Loop,则是在不同任务复杂度下,为 Agent 逐步补齐信息、持续运行与优化能力的工程层。

随着任务复杂度提升,工程系统会依次遇到不同问题:

层级 核心问题 关键能力
L1 Prompt 这一轮怎么让模型听懂? 指令、格式、示例
L2 Context 当前到底该给模型哪些信息? 检索、记忆、工具数据、状态
L3 Harness 怎样让 Agent 在边界内可靠执行? 规则、权限、验证、观测
L4 Loop 怎样让任务跨轮次持续推进? 触发、协作、状态、重试
L5 Meta-Loop 怎样持续优化这套运行系统? 评估、比较、搜索、回滚

这些层级不是严格的替代关系,也不是后者出现后前者就失效。

更准确地说,它们是嵌套关系

Context 包含 Prompt;Harness 组织 Context 并约束执行;Loop 基于 Harness 持续编排任务;Meta-Loop 评估并优化整个系统。

03_工程演进


2.1 L1|Prompt Engineering

为什么需要它?

同一个模型,换一种表达,答案可能完全不同。

你问:“分析一下公司财报。”
模型可能给出一段泛泛而谈的文字。

你换成:“你是一名财务分析师。请以 JSON 输出营收、利润率、主要风险和结论;无法确认的数据请标记为 unknown。”
结果通常会更稳定、更容易被程序使用。

这就是 Prompt Engineering 的价值:在单次推理中,把人的意图翻译成模型更容易执行的指令。

常见做法

  • 指定角色:你是财务分析师、客服专员、代码审查员
  • 指定输出:JSON、表格、固定字段、结论优先
  • 给出示例:输入是什么,理想输出长什么样
  • 限定边界:不确定时说明不确定,不要编造

它的边界

Prompt 只能改善“这一轮怎么答”。

它记不住上一段对话,不知道最新业务数据,也不能自己调用系统完成操作。

一句话:Prompt Engineering 解决表达问题,但还解决不了信息、执行和持续运行问题。


2.2 L2|Context Engineering

Prompt 写得很好,为什么 Agent 还是会答错?

因为它可能根本没有看到关键资料。

例如,员工问:“这次出差能报多少住宿费?”
模型不只需要一段提示词,还需要知道员工所在城市、出差地点、日期、职级,以及公司最新差旅制度。

如果把整本制度、全部聊天记录和所有数据库字段都塞进去,模型又会“信息过载”。真正难的地方是:

在有限的上下文窗口中,选择当前任务最需要的信息。

这就是 Context Engineering。

Anthropic 的定义强调:它是在模型推理时,筛选、组织和维护“高价值 Token 集合”的一系列策略。
参考:Effective Context Engineering for AI Agents

04_L2

五种常见能力

1)RAG:按需查资料,而不是把整本书塞给模型

RAG(检索增强生成)会从知识库中找出与当前问题最相关的内容,再交给模型。

例子: 用户问“报销标准”,系统只检索“差旅住宿标准第 3 条”,而不是把整份制度全文塞进上下文。

2)Memory:把长期互动变成可持续的任务状态

长对话中,模型不可能永久记住每一句话。系统通常会保留最近对话,并把早期内容压缩成状态。

例子: 客服系统把 50 轮对话整理为:
订单 12345|商品质量问题|已申请换货|等待物流回传

这样下一轮对话仍能接上,而不是重新问“您的订单号是多少”。

3)MCP:让模型拿到真实世界的数据

MCP(Model Context Protocol)可以理解为模型连接外部系统的一种标准化方式。它本身不是 Context Engineering,但为 Context 提供了按需获取数据与工具的通道。

例子: 生成客户报告时,Agent 可以连接 CRM、工单系统和数据库,获取实时客户信息,而不是依赖人工导出的 Excel。

4)工具定义管理:不要让无关工具干扰模型

当系统接入几十个工具时,不必每次都把全部说明交给模型。通常只加载与当前任务相关的工具定义。

例子: 处理售后工单时,加载订单、物流和退款工具;没有必要同时加载代码仓库和招聘系统工具。

5)上下文压缩:保留关键事实,不让信息越积越乱

常见方式包括:

  • 摘要压缩: 长对话变成当前任务摘要
  • 语义压缩: 长文档提炼为关键条款
  • KV Cache 优化: 复用已计算的注意力结果,减少重复推理成本

它的边界

Context Engineering 能让模型“看得更对”,但不能保证系统“做得更对”。

检索错了、摘要漏了、工具返回异常,错误仍可能进入下一步。

一句话:Context Engineering 是动态的信息筛选与组织系统,让模型在当前任务中尽可能看到正确内容。


2.3 L3|Harness Engineering

模型会写代码,不代表它可以安全修改生产系统。

它可能忘记补测试、调用错误接口、越权访问数据,或者在失败后反复尝试。要让 Agent 真正进入生产环境,需要把模型放进一个有规则、有门禁、有日志的执行环境里。

这就是 Harness Engineering。一种常见的工程抽象是:

Agent = Model + Harness

模型负责理解与推理;Harness 则是模型外围的执行脚手架,包括规则、工具、权限、上下文、验证、恢复和观测。

05_L3

Harness 的五类能力

1)Guides:告诉 Agent 应该怎么做

Guides 是项目规则和行为约束,例如 AGENTS.mdCLAUDE.md、系统提示词和任务规范。

例子: “接口变更必须补测试。”、“禁止直接连接生产数据、库。”、“涉及金额的修改必须进入人工审批。”等。它们像新员工入职时拿到的项目手册。

2)Sensors:发现问题是否出现

Sensors 负责观察和判断,例如输出格式校验、质量评估、行为漂移检测。

例子: Agent 应该输出 JSON,解析器发现少了必填字段,就标记为不合格。

3)Enforcement:关键规则必须过门禁

Enforcement 不负责“判断所有事情是否正确”,而是确保关键规范不能被绕过。

例子: 代码没有通过测试,就不能合并;账号没有权限,就不能访问数据库;危险命令必须经过审批。

Guides 是“应该这样做”;Sensors 是“我发现你跑偏了”;Enforcement 是“不符合规则就过不去”。

4)Context Pipeline:由系统决定该加载什么信息

在 L3 中,RAG、Memory、MCP 不再是散落的能力,而是由执行系统统一编排。

例子: 处理退款任务时,系统自动加载退款规范、用户订单和风险提示;处理代码任务时,则加载仓库规范、相关文件和测试工具。

5)Observability:出错后能回放整个过程

可观测性记录输入、输出、工具调用、耗时、成本和关键决策路径。

例子: 当 Agent 给出错误结论时,团队可以回溯:是检索错了?工具失败了?还是模型误解了规则?

它的边界

Harness 能提高任务执行的可靠性,但仍需要人来定义:做什么、优先级是什么、什么时候算完成。

一句话:Harness Engineering 是为 Agent 建立“可约束、可验证、可追踪”的执行环境。


2.4 L4|Loop Engineering

当 Agent 需要持续推进一个未完成的任务时,系统还缺什么?

一次响应完成后,模型的工作通常就结束了;但很多真实任务并不会在第一次处理后闭环。

以售后工单为例:系统可能已经完成订单核验和初步判断,却仍要等待物流签收、客户补充材料或人工审批。此时,Agent 不仅要处理当下的问题,还要持续关注任务是否出现新进展,并在合适的时机接着处理。

这正是 Loop Engineering 要解决的问题:让 Agent 围绕同一个目标,在多个事件、多个阶段和多次运行之间持续推进任务。 为此,系统需要明确:

  • 任务当前处于哪个阶段?
  • 下一步等待什么事件、条件或输入?
  • 条件满足后,如何触发下一次执行?
  • 哪些关键信息和执行状态需要保留?
  • 出现失败、超时或规则冲突时,如何重试、转人工或终止?
  • 以什么标准判断任务真正完成?

换句话说,Loop Engineering 不是把一次响应简单重复多次,而是将触发、执行、验证、状态更新和异常处理组织成一个可持续运行的闭环。

06_L4

在一些 Loop 系统中,Prompt 仍然存在,但它不再总是由人逐句编写。系统会根据任务状态、工具结果和评估反馈,动态组织下一轮指令、上下文和行动计划。

因此,Loop 不是“让 Agent 多跑几次”,而是让它能够:

触发任务 → 执行任务 → 验证结果 → 更新状态 → 进入下一轮。

06_L4_01

一个典型的 Loop 运行架构

下面这六项可以帮助理解,一个复杂任务如何从“一次回答”变成“可持续推进的系统”。其中 Worktrees 更常见于 Coding Agent,其余能力同样适用于企业服务、知识处理和流程自动化场景。

1)Automations:何时启动

自动化触发决定任务在何时运行、运行频率和触发条件。

例子: 客户提交售后申请后,系统自动创建处理任务;每天上午自动检查超过 24 小时未处理的高优先级工单。

2)Worktrees:并行时互不干扰

Git Worktree 可以为不同 Agent 创建独立工作目录和分支,避免多个 Agent 同时改同一仓库时直接覆盖文件。

例子: 在代码研发中,Agent A 修复接口,Agent B 补测试;二者各自在独立 Worktree 中修改,验证通过后再合并。

3)Skills:把团队经验写成可读取规则

Skills 通常以 SKILL.md 等文件沉淀项目约定、构建流程和风险边界。

例子: 在售后场景中,Skill 可以规定:“超过 500 元的退款必须转人工审批”“涉及已发货订单先查询物流状态”“高风险客户需附风险说明”。

它让 Agent 少靠猜测,多按团队规则执行。

4)Connectors:进入真实工作环境

通过 MCP、API 或内部插件,Agent 可以接入工单、订单、CRM、知识库、测试环境和协作工具。

例子: Agent 查询订单与物流状态,核对退款规则,再将处理建议写回工单并通知客服人员。

5)Sub-agents:让“执行”和“验证”分开

一个 Agent 处理任务,另一个 Agent 审核关键结论或检查是否符合规则,通常比“自己做、自己判”更可靠。

例子: Agent A 生成退款处理建议;Agent B 独立核对金额、规则和风险标签,确认是否需要转人工。

6)State:让下一轮记得上一轮

状态层记录已经完成什么、当前卡在哪里、下一步要做什么。它可以是 Markdown、任务看板、数据库或工作流引擎。

例子: 订单已核验|物流在途|退款需等待签收|已通知客户|48 小时后自动复查

模型会遗忘,但外部状态不会。它是 Loop 跨运行连续性的基础。

L4 的三类风险

1、 成本失控

自动触发、多 Agent、重试和工具调用叠加后,消耗不再像单次调用那样容易预算。

控制方式: 频率限制、并发上限、Token 预算、最大重试次数、停止条件。

2、错误扩散

一次错误的分级、摘要或状态更新,可能进入下一轮并持续放大。

例子: 系统误把“高风险退款”标记为普通工单,后续流程便可能绕过人工审核。

控制方式: 状态机、超时终止、独立验证、人工升级、完整审计。

3、理解力负债

系统越快生成决策和动作,人越可能逐渐不理解它为什么这样运行。等到客户投诉、规则变化或故障发生时,排查难度会急剧上升。

控制方式: 关键变更保留人工审核;持续维护 Trace、设计文档和验收标准;不要把 AI 输出当成天然正确结论。

一句话:Loop Engineering 的难点,不是让 Agent 持续运行,而是让它在成本可控、错误可隔离、人仍保有判断力的前提下持续运行。


2.5 L5|Meta-Loop:

到 L4 为止,人仍主要负责设计 Loop、配置规则、观察结果,然后手动调优。再往上一层,问题变成:

有没有可能让系统比较不同的运行方案,并根据结果持续改进自己?

这就是 Meta-Loop / Meta-Harness Engineering 所探索的方向。

L5 不等于“AI 获得自我意识”,更不是任由系统自由演化。它是在明确目标、评估标准、成本预算和安全边界下,比较不同的 Context、Harness 或 Loop 设计,保留表现更好的方案。

例如,同样是“自动处理高风险售后工单”,系统可以比较:

  • 直接根据退款规则给出建议
  • 先识别风险等级,再选择不同处理路径
  • 加入历史相似投诉案例检索
  • 修改验证 Agent 的审核规则

然后根据准确率、转人工比例、处理时长、成本和客户满意度,判断哪种方案更有效。

2026 年,斯坦福 IRIS Lab 发布的 Meta-Harness 展示了这一方向:系统可以基于运行记录、评估得分和不同的 Harness 方案,搜索并改进任务特定的 Harness 代码。

需要注意:这证明的是“Harness 可以被系统化搜索和优化”,并不意味着 Agent 已经能够自主设计任意业务系统。

L5 依赖什么?

L5 的前提不是“自动化足够强”,而是“评估足够可靠”。它需要:

  • Benchmark: 一组标准任务与评分规则,用来判断是否真的变好
  • Trace: 可查询的运行记录,用来知道问题出现在哪里
  • 版本历史: 能比较不同方案,也能回滚
  • 成本记录: 防止系统为了更高成功率无限消耗资源
  • 权限与审批: 防止自动优化突破安全边界

一句话:L5 不是替代 L4,而是在 L1–L4 之上增加一层元优化机制,让系统能够比较、验证并改进自己的运行方式。


三、一张图看 AI 工程全景

09_All

这张图将 AI 工程分为四个相互协作的层级:

  1. 方法论层: 回答“系统应该如何设计和演进”
  2. 框架与运行时层: 回答“这些方法如何真正跑起来”
  3. 应用与解决方案层: 回答“最终为谁创造什么业务价值”
  4. 基础组件层: 提供模型连接、检索、记忆、评估等通用能力

面对一个新框架、新产品或新名词,可以用三个问题快速定位:

问题 1:它主要解决什么问题?

  • 改善模型表达?可能更接近 Prompt
  • 补充任务信息?可能更接近 Context / RAG / Memory
  • 限制执行风险?可能更接近 Harness
  • 推进跨轮任务?可能更接近 Loop
  • 优化系统设计?可能更接近 Meta-Loop

问题 2:它依赖哪些下层能力?

例如,一个企业 Agent 看起来是应用产品,但背后通常依赖:

  • MCP 或 API 接入业务系统
  • RAG 获取知识
  • Memory 保存状态
  • Runtime 调度任务
  • Evaluator 评估结果

问题 3:它属于方法、运行时、应用,还是组件?

  • RAG、Memory、Evaluator: 更接近基础组件能力
  • MCP: 更接近连接协议与工具接入能力
  • Claude Code 一类产品: 是应用、运行时与工具链的组合
  • Meta-Harness: 是面向上层系统优化的研究方向

当这些位置被放进同一张图里,新技术就不再显得杂乱。你不必先问“它是不是下一个风口”,而可以先问:

它解决什么问题?
它依赖什么能力?
它在整个 AI 工程体系中处于什么位置?


总结:真正重要的,不是追上每一个新名词

从 Prompt 到 Meta-Loop,变化看起来很快,但主线始终清晰:

  • Prompt 解决“怎么说”
  • Context 解决“看什么”
  • Harness 解决“怎么安全地做”
  • Loop 解决“怎么持续推进”
  • Meta-Loop 解决“怎么让系统持续变好”

未来的新框架、新产品和新术语还会不断出现。但只要抓住这条主线,你就能判断:它是在优化模型表达、补充任务信息、强化执行约束、推动持续运行,还是在尝试优化系统本身。

AI 的竞争,正在从“谁的模型更会回答”,走向“谁能把模型组织成一个可靠、可控、可持续交付的系统”。

说明:以后的文章会发到我的个人公众号,与傅客同名,请关注

tgzhu_公众号