惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园_首页
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Microsoft Azure Blog
Microsoft Azure Blog
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Recent Announcements
Recent Announcements
L
Lohrmann on Cybersecurity
Vercel News
Vercel News
P
Palo Alto Networks Blog
P
Proofpoint News Feed
WordPress大学
WordPress大学
Know Your Adversary
Know Your Adversary
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
K
Kaspersky official blog
T
Threat Research - Cisco Blogs
GbyAI
GbyAI
L
LangChain Blog
Y
Y Combinator Blog
T
Tenable Blog
腾讯CDC
T
Tailwind CSS Blog
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
NISL@THU
NISL@THU
A
Arctic Wolf
Security Latest
Security Latest
IT之家
IT之家
Latest news
Latest news
Cisco Talos Blog
Cisco Talos Blog
P
Privacy & Cybersecurity Law Blog
T
Tor Project blog
T
Threatpost
Simon Willison's Weblog
Simon Willison's Weblog
Last Week in AI
Last Week in AI
D
Darknet – Hacking Tools, Hacker News & Cyber Security
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
AWS News Blog
AWS News Blog
月光博客
月光博客
aimingoo的专栏
aimingoo的专栏
量子位
T
Troy Hunt's Blog
Blog — PlanetScale
Blog — PlanetScale
V
Vulnerabilities – Threatpost
I
InfoQ
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
C
Cyber Attacks, Cyber Crime and Cyber Security
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
I
Intezer
爱范儿
爱范儿
C
Cisco Blogs
cs.CV updates on arXiv.org
cs.CV updates on arXiv.org

博客园 - 天戈朱

AI PPT 收官篇:我做了一个能直接生成可编辑 PPTX 的 Skill 从文件堆积到版本可控:用 Git、GitHub 与 Gitee 管理 AI 资产 Codex 额度不足后的模型替代 AI 生成 PPT 的最后一公里:图片转可编辑 PPTX 从网页采集到 SQL Server 入库:WorkBuddy 自动化流程设计实战复盘 从“会干活”到“会成长”:从OpenClaw 到 Hermes,看懂 Agent 的进化路线 WorkBuddy 运行逻辑解读:桌面 AI Agent 如何把事真正做完 GB/T 27930.2 -2024 通 信 协 议解读 OCV与SOH dQ/dV曲线 锂离子电池脉冲频率优化的低温预热 EIS在线辨识方法 EIS基础知识 大厂订单架构参考 新能源汽车大数据与运行安全 新能源车新风口:9大潜力赛道 ES各版本对比及升级路径 ThingsBoard 开源物联网平台 AI 与 新生产要素 数据资产入表 VisActor ICLR2024 | iTransformer: 倒置Transformer,刷新时序预测新纪录 大模型_3.2 RAG 高效应用指南 大模型_3.1:构建企业RAG系统 2024工业AI大模型发展分析 2024数据工程开源技术跟踪 大模型_4:Agent
详解|从 Prompt 到 Meta-Loop:AI 工程化实践的演进历程
天戈朱 · 2026-07-05 · via 博客园 - 天戈朱

更佳阅读效果,请移步关注我的公众号

tgzhu_公众号


先给结论:
AI 工程的演进,本质上是在不断补齐“模型能回答”与“系统能可靠交付”之间的缺口。

一位客户提交售后申请后,Agent 自动查询订单、核对退款规则并生成处理建议;遇到高风险情况则转交人工。系统会保存 Agent 的执行状态与关键上下文,并将对业务有意义的处理进度同步给工单。下一次任务启动时,它可以从上次状态继续推进,而不是重新询问客户信息。

这已经不是“把 Prompt 写得更好”就能解决的问题。

它需要模型理解任务,需要正确的信息,需要工具与权限,需要安全的执行环境,需要状态记录,也需要在失败时继续推进。AI 工程化,正是在把这些零散能力组织成一个可长期运行的系统。

本文不试图罗列所有 Agent 产品,而是回答一个更重要的问题:

是什么推动 AI 工程从 Prompt 逐步走向 Context、Harness、Loop 与 Meta-Loop?


📌 本文导读

  • 🔭 第一部分: AI Agent 的能力跃迁
  • 🧱 第二部分: AI 工程的五层能力体系
  • ⚔️ 第三部分: 一张图看 AI 工程全景

一、AI Agent 的能力跃迁

过去的 AI 产品,大多像一位知识丰富的助手:你提问,它回答。

现在的 Agent 更像一位能进入工作现场的执行者:它能读取文件、查询系统、调用工具、修改内容、验证结果,并把任务推进到下一步。

较早形成清晰形态的是 Coding Agent。Claude Code、Codex CLI 等产品将模型接入终端、代码仓库和执行环境,使 AI 可以围绕真实工程任务生成代码、修改文件、运行测试和协作交付。

随后,这种能力开始突破编程边界,进入知识处理、桌面办公、企业协同和行业任务交付等场景。

01_Agent

与其把这条时间线理解为“谁先发布了产品”,不如把它理解为三次能力跃迁:

  1. 从代码任务自动化,走向通用任务执行
    Agent 不再只会补全代码,也开始处理文档、数据、工单和业务流程。

  2. 从一次性调用,走向持续运行
    它不只是收到指令后做一次,而是能够被事件触发、持续跟进、失败重试。

  3. 从个人工具,走向企业系统
    真正进入业务后,Agent 必须面对权限、审计、数据、协作和责任边界。

这也是行业关注点发生变化的原因:早期比的是“模型能不能做”;进入真实工作环境后,比的是“系统能不能稳定做、持续做、可控地做”。

未来产品的差异,不只取决于底层模型能力,更取决于是否具备上下文、工具、运行时、记忆、评估与治理体系。

附录:产品能力对比

02_能力对比


二、AI 工程的五层能力体系

可以把 AI 工程体系 想象成一套自动驾驶系统。

大模型像“驾驶大脑”,负责理解环境、判断情况并生成下一步行动;但只有大脑,汽车仍然无法安全上路。它还需要传感器获取信息、导航规划路径、控制系统执行动作、安全规则限制风险,以及运行记录和维护机制保障长期稳定运行。

AI Agent 也是如此:模型只是其中的认知核心。Prompt、Context、Harness、Loop 与 Meta-Loop,则是在不同任务复杂度下,为 Agent 逐步补齐信息、持续运行与优化能力的工程层。

随着任务复杂度提升,工程系统会依次遇到不同问题:

层级 核心问题 关键能力
L1 Prompt 这一轮怎么让模型听懂? 指令、格式、示例
L2 Context 当前到底该给模型哪些信息? 检索、记忆、工具数据、状态
L3 Harness 怎样让 Agent 在边界内可靠执行? 规则、权限、验证、观测
L4 Loop 怎样让任务跨轮次持续推进? 触发、协作、状态、重试
L5 Meta-Loop 怎样持续优化这套运行系统? 评估、比较、搜索、回滚

这些层级不是严格的替代关系,也不是后者出现后前者就失效。

更准确地说,它们是嵌套关系

Context 包含 Prompt;Harness 组织 Context 并约束执行;Loop 基于 Harness 持续编排任务;Meta-Loop 评估并优化整个系统。

03_工程演进


2.1 L1|Prompt Engineering

为什么需要它?

同一个模型,换一种表达,答案可能完全不同。

你问:“分析一下公司财报。”
模型可能给出一段泛泛而谈的文字。

你换成:“你是一名财务分析师。请以 JSON 输出营收、利润率、主要风险和结论;无法确认的数据请标记为 unknown。”
结果通常会更稳定、更容易被程序使用。

这就是 Prompt Engineering 的价值:在单次推理中,把人的意图翻译成模型更容易执行的指令。

常见做法

  • 指定角色:你是财务分析师、客服专员、代码审查员
  • 指定输出:JSON、表格、固定字段、结论优先
  • 给出示例:输入是什么,理想输出长什么样
  • 限定边界:不确定时说明不确定,不要编造

它的边界

Prompt 只能改善“这一轮怎么答”。

它记不住上一段对话,不知道最新业务数据,也不能自己调用系统完成操作。

一句话:Prompt Engineering 解决表达问题,但还解决不了信息、执行和持续运行问题。


2.2 L2|Context Engineering

Prompt 写得很好,为什么 Agent 还是会答错?

因为它可能根本没有看到关键资料。

例如,员工问:“这次出差能报多少住宿费?”
模型不只需要一段提示词,还需要知道员工所在城市、出差地点、日期、职级,以及公司最新差旅制度。

如果把整本制度、全部聊天记录和所有数据库字段都塞进去,模型又会“信息过载”。真正难的地方是:

在有限的上下文窗口中,选择当前任务最需要的信息。

这就是 Context Engineering。

Anthropic 的定义强调:它是在模型推理时,筛选、组织和维护“高价值 Token 集合”的一系列策略。
参考:Effective Context Engineering for AI Agents

04_L2

五种常见能力

1)RAG:按需查资料,而不是把整本书塞给模型

RAG(检索增强生成)会从知识库中找出与当前问题最相关的内容,再交给模型。

例子: 用户问“报销标准”,系统只检索“差旅住宿标准第 3 条”,而不是把整份制度全文塞进上下文。

2)Memory:把长期互动变成可持续的任务状态

长对话中,模型不可能永久记住每一句话。系统通常会保留最近对话,并把早期内容压缩成状态。

例子: 客服系统把 50 轮对话整理为:
订单 12345|商品质量问题|已申请换货|等待物流回传

这样下一轮对话仍能接上,而不是重新问“您的订单号是多少”。

3)MCP:让模型拿到真实世界的数据

MCP(Model Context Protocol)可以理解为模型连接外部系统的一种标准化方式。它本身不是 Context Engineering,但为 Context 提供了按需获取数据与工具的通道。

例子: 生成客户报告时,Agent 可以连接 CRM、工单系统和数据库,获取实时客户信息,而不是依赖人工导出的 Excel。

4)工具定义管理:不要让无关工具干扰模型

当系统接入几十个工具时,不必每次都把全部说明交给模型。通常只加载与当前任务相关的工具定义。

例子: 处理售后工单时,加载订单、物流和退款工具;没有必要同时加载代码仓库和招聘系统工具。

5)上下文压缩:保留关键事实,不让信息越积越乱

常见方式包括:

  • 摘要压缩: 长对话变成当前任务摘要
  • 语义压缩: 长文档提炼为关键条款
  • KV Cache 优化: 复用已计算的注意力结果,减少重复推理成本

它的边界

Context Engineering 能让模型“看得更对”,但不能保证系统“做得更对”。

检索错了、摘要漏了、工具返回异常,错误仍可能进入下一步。

一句话:Context Engineering 是动态的信息筛选与组织系统,让模型在当前任务中尽可能看到正确内容。


2.3 L3|Harness Engineering

模型会写代码,不代表它可以安全修改生产系统。

它可能忘记补测试、调用错误接口、越权访问数据,或者在失败后反复尝试。要让 Agent 真正进入生产环境,需要把模型放进一个有规则、有门禁、有日志的执行环境里。

这就是 Harness Engineering。一种常见的工程抽象是:

Agent = Model + Harness

模型负责理解与推理;Harness 则是模型外围的执行脚手架,包括规则、工具、权限、上下文、验证、恢复和观测。

05_L3

Harness 的五类能力

1)Guides:告诉 Agent 应该怎么做

Guides 是项目规则和行为约束,例如 AGENTS.mdCLAUDE.md、系统提示词和任务规范。

例子: “接口变更必须补测试。”、“禁止直接连接生产数据、库。”、“涉及金额的修改必须进入人工审批。”等。它们像新员工入职时拿到的项目手册。

2)Sensors:发现问题是否出现

Sensors 负责观察和判断,例如输出格式校验、质量评估、行为漂移检测。

例子: Agent 应该输出 JSON,解析器发现少了必填字段,就标记为不合格。

3)Enforcement:关键规则必须过门禁

Enforcement 不负责“判断所有事情是否正确”,而是确保关键规范不能被绕过。

例子: 代码没有通过测试,就不能合并;账号没有权限,就不能访问数据库;危险命令必须经过审批。

Guides 是“应该这样做”;Sensors 是“我发现你跑偏了”;Enforcement 是“不符合规则就过不去”。

4)Context Pipeline:由系统决定该加载什么信息

在 L3 中,RAG、Memory、MCP 不再是散落的能力,而是由执行系统统一编排。

例子: 处理退款任务时,系统自动加载退款规范、用户订单和风险提示;处理代码任务时,则加载仓库规范、相关文件和测试工具。

5)Observability:出错后能回放整个过程

可观测性记录输入、输出、工具调用、耗时、成本和关键决策路径。

例子: 当 Agent 给出错误结论时,团队可以回溯:是检索错了?工具失败了?还是模型误解了规则?

它的边界

Harness 能提高任务执行的可靠性,但仍需要人来定义:做什么、优先级是什么、什么时候算完成。

一句话:Harness Engineering 是为 Agent 建立“可约束、可验证、可追踪”的执行环境。


2.4 L4|Loop Engineering

当 Agent 需要持续推进一个未完成的任务时,系统还缺什么?

一次响应完成后,模型的工作通常就结束了;但很多真实任务并不会在第一次处理后闭环。

以售后工单为例:系统可能已经完成订单核验和初步判断,却仍要等待物流签收、客户补充材料或人工审批。此时,Agent 不仅要处理当下的问题,还要持续关注任务是否出现新进展,并在合适的时机接着处理。

这正是 Loop Engineering 要解决的问题:让 Agent 围绕同一个目标,在多个事件、多个阶段和多次运行之间持续推进任务。 为此,系统需要明确:

  • 任务当前处于哪个阶段?
  • 下一步等待什么事件、条件或输入?
  • 条件满足后,如何触发下一次执行?
  • 哪些关键信息和执行状态需要保留?
  • 出现失败、超时或规则冲突时,如何重试、转人工或终止?
  • 以什么标准判断任务真正完成?

换句话说,Loop Engineering 不是把一次响应简单重复多次,而是将触发、执行、验证、状态更新和异常处理组织成一个可持续运行的闭环。

06_L4

在一些 Loop 系统中,Prompt 仍然存在,但它不再总是由人逐句编写。系统会根据任务状态、工具结果和评估反馈,动态组织下一轮指令、上下文和行动计划。

因此,Loop 不是“让 Agent 多跑几次”,而是让它能够:

触发任务 → 执行任务 → 验证结果 → 更新状态 → 进入下一轮。

06_L4_01

一个典型的 Loop 运行架构

下面这六项可以帮助理解,一个复杂任务如何从“一次回答”变成“可持续推进的系统”。其中 Worktrees 更常见于 Coding Agent,其余能力同样适用于企业服务、知识处理和流程自动化场景。

1)Automations:何时启动

自动化触发决定任务在何时运行、运行频率和触发条件。

例子: 客户提交售后申请后,系统自动创建处理任务;每天上午自动检查超过 24 小时未处理的高优先级工单。

2)Worktrees:并行时互不干扰

Git Worktree 可以为不同 Agent 创建独立工作目录和分支,避免多个 Agent 同时改同一仓库时直接覆盖文件。

例子: 在代码研发中,Agent A 修复接口,Agent B 补测试;二者各自在独立 Worktree 中修改,验证通过后再合并。

3)Skills:把团队经验写成可读取规则

Skills 通常以 SKILL.md 等文件沉淀项目约定、构建流程和风险边界。

例子: 在售后场景中,Skill 可以规定:“超过 500 元的退款必须转人工审批”“涉及已发货订单先查询物流状态”“高风险客户需附风险说明”。

它让 Agent 少靠猜测,多按团队规则执行。

4)Connectors:进入真实工作环境

通过 MCP、API 或内部插件,Agent 可以接入工单、订单、CRM、知识库、测试环境和协作工具。

例子: Agent 查询订单与物流状态,核对退款规则,再将处理建议写回工单并通知客服人员。

5)Sub-agents:让“执行”和“验证”分开

一个 Agent 处理任务,另一个 Agent 审核关键结论或检查是否符合规则,通常比“自己做、自己判”更可靠。

例子: Agent A 生成退款处理建议;Agent B 独立核对金额、规则和风险标签,确认是否需要转人工。

6)State:让下一轮记得上一轮

状态层记录已经完成什么、当前卡在哪里、下一步要做什么。它可以是 Markdown、任务看板、数据库或工作流引擎。

例子: 订单已核验|物流在途|退款需等待签收|已通知客户|48 小时后自动复查

模型会遗忘,但外部状态不会。它是 Loop 跨运行连续性的基础。

L4 的三类风险

1、 成本失控

自动触发、多 Agent、重试和工具调用叠加后,消耗不再像单次调用那样容易预算。

控制方式: 频率限制、并发上限、Token 预算、最大重试次数、停止条件。

2、错误扩散

一次错误的分级、摘要或状态更新,可能进入下一轮并持续放大。

例子: 系统误把“高风险退款”标记为普通工单,后续流程便可能绕过人工审核。

控制方式: 状态机、超时终止、独立验证、人工升级、完整审计。

3、理解力负债

系统越快生成决策和动作,人越可能逐渐不理解它为什么这样运行。等到客户投诉、规则变化或故障发生时,排查难度会急剧上升。

控制方式: 关键变更保留人工审核;持续维护 Trace、设计文档和验收标准;不要把 AI 输出当成天然正确结论。

一句话:Loop Engineering 的难点,不是让 Agent 持续运行,而是让它在成本可控、错误可隔离、人仍保有判断力的前提下持续运行。


2.5 L5|Meta-Loop:

到 L4 为止,人仍主要负责设计 Loop、配置规则、观察结果,然后手动调优。再往上一层,问题变成:

有没有可能让系统比较不同的运行方案,并根据结果持续改进自己?

这就是 Meta-Loop / Meta-Harness Engineering 所探索的方向。

L5 不等于“AI 获得自我意识”,更不是任由系统自由演化。它是在明确目标、评估标准、成本预算和安全边界下,比较不同的 Context、Harness 或 Loop 设计,保留表现更好的方案。

例如,同样是“自动处理高风险售后工单”,系统可以比较:

  • 直接根据退款规则给出建议
  • 先识别风险等级,再选择不同处理路径
  • 加入历史相似投诉案例检索
  • 修改验证 Agent 的审核规则

然后根据准确率、转人工比例、处理时长、成本和客户满意度,判断哪种方案更有效。

2026 年,斯坦福 IRIS Lab 发布的 Meta-Harness 展示了这一方向:系统可以基于运行记录、评估得分和不同的 Harness 方案,搜索并改进任务特定的 Harness 代码。

需要注意:这证明的是“Harness 可以被系统化搜索和优化”,并不意味着 Agent 已经能够自主设计任意业务系统。

L5 依赖什么?

L5 的前提不是“自动化足够强”,而是“评估足够可靠”。它需要:

  • Benchmark: 一组标准任务与评分规则,用来判断是否真的变好
  • Trace: 可查询的运行记录,用来知道问题出现在哪里
  • 版本历史: 能比较不同方案,也能回滚
  • 成本记录: 防止系统为了更高成功率无限消耗资源
  • 权限与审批: 防止自动优化突破安全边界

一句话:L5 不是替代 L4,而是在 L1–L4 之上增加一层元优化机制,让系统能够比较、验证并改进自己的运行方式。


三、一张图看 AI 工程全景

09_All

这张图将 AI 工程分为四个相互协作的层级:

  1. 方法论层: 回答“系统应该如何设计和演进”
  2. 框架与运行时层: 回答“这些方法如何真正跑起来”
  3. 应用与解决方案层: 回答“最终为谁创造什么业务价值”
  4. 基础组件层: 提供模型连接、检索、记忆、评估等通用能力

面对一个新框架、新产品或新名词,可以用三个问题快速定位:

问题 1:它主要解决什么问题?

  • 改善模型表达?可能更接近 Prompt
  • 补充任务信息?可能更接近 Context / RAG / Memory
  • 限制执行风险?可能更接近 Harness
  • 推进跨轮任务?可能更接近 Loop
  • 优化系统设计?可能更接近 Meta-Loop

问题 2:它依赖哪些下层能力?

例如,一个企业 Agent 看起来是应用产品,但背后通常依赖:

  • MCP 或 API 接入业务系统
  • RAG 获取知识
  • Memory 保存状态
  • Runtime 调度任务
  • Evaluator 评估结果

问题 3:它属于方法、运行时、应用,还是组件?

  • RAG、Memory、Evaluator: 更接近基础组件能力
  • MCP: 更接近连接协议与工具接入能力
  • Claude Code 一类产品: 是应用、运行时与工具链的组合
  • Meta-Harness: 是面向上层系统优化的研究方向

当这些位置被放进同一张图里,新技术就不再显得杂乱。你不必先问“它是不是下一个风口”,而可以先问:

它解决什么问题?
它依赖什么能力?
它在整个 AI 工程体系中处于什么位置?


总结:真正重要的,不是追上每一个新名词

从 Prompt 到 Meta-Loop,变化看起来很快,但主线始终清晰:

  • Prompt 解决“怎么说”
  • Context 解决“看什么”
  • Harness 解决“怎么安全地做”
  • Loop 解决“怎么持续推进”
  • Meta-Loop 解决“怎么让系统持续变好”

未来的新框架、新产品和新术语还会不断出现。但只要抓住这条主线,你就能判断:它是在优化模型表达、补充任务信息、强化执行约束、推动持续运行,还是在尝试优化系统本身。

AI 的竞争,正在从“谁的模型更会回答”,走向“谁能把模型组织成一个可靠、可控、可持续交付的系统”。

说明:以后的文章会发到我的个人公众号,与傅客同名,请关注

tgzhu_公众号