原文：20 Loop Design Patterns Every AI Engineer Should Know
作者：Rahul (@sairahul1)
声明：本文由 AI 翻译，可能包含错误

大多数 AI 工程师知道如何构建一个 agent。

但很少有人知道如何构建一个能在首次尝试后不断变好的系统。

这个差距值六位数美金。

区别在哪里：

Agent 是一个工人。

Loop（循环）是让工人进步的机制。

当今生产环境中最强大的 AI 系统，不是单次模型调用。

它们是循环。

生成 → 评估 → 学习 → 改进。

一遍又一遍。

直到输出真正变好。

以下是生产级 AI 系统中反复出现的 20 个循环设计模式。

收藏这篇文章。你会用到它们的。

Agent vs Loop

旧方式：Prompt → Response → Done。

新方式：Generate → Critique → Rewrite → Score → Retry → Remember → Improve。

一个是流水线工人，做一次就完事。

另一个是流水线工人，研究每一个错误，重写操作手册，每个班次进步 3%。

现在能交付生产级 AI 的团队，他们不是在写更好的 prompt。

他们在构建更好的循环。

类别 1 — 质量改进循环（让输出在离开系统前就变好）

1. Generate → Critique → Rewrite

AI 工程中最重要的循环。

生成输出。评论家审阅。生成器根据反馈重写。重复直到质量达标。

不是一个模型。两个角色。一条流水线。

[Generator] → 初稿
[Critic]    → "第三段含糊不清，缺少证据，语气不对"
[Generator] → 根据批评重写
[Critic]    → "好多了，但结尾还是薄弱"
[Generator] → 最终重写

适用于：写作、代码审查、报告、策略文档、销售邮件。

洞察：负责生成的模型不是自己输出的最佳评判者。

独立的评论家每次都能发现生成器遗漏的问题。

2. Score-and-Retry Loop

生成。打分。低于阈值就重试。

简单。强大。被严重低估。

score = evaluate(output)

while score < threshold:
    output = generate(prompt)
    score = evaluate(output)
    attempts += 1
    if attempts > max_retries:
        return best_so_far

最适合质量可衡量的场景——提取准确率、格式合规性、事实正确性、线索评分。

生成器不知道自己在被评分。

评估者知道。

这个分离就是模式本身。

3. Multi-Critic Loop

一个评论家有盲点。

那就用四个。

• 正确性评论家：事实准确吗？
• 风格评论家：清晰且文笔好吗？
• 安全评论家：合适且安全吗？
• 领域评论家：符合专业标准吗？

每个独立评估。

最终输出必须同时满足四个才能放行。

用于：医疗 AI、法律文档审查、金融分析、受监管内容。

4. Adversarial Critique Loop

评论家唯一的任务是打破这个答案。

不是改进它。是打破它。

对抗性评论家会问的问题：

• 这里什么假设会失效？
• 缺少什么证据？
• 怀疑论者会说什么？
• 什么地方自信地错了？

生成器随后要么辩护，要么重写。

最好的答案在攻击中存活下来。

用于：研究综合、投资论点评审、战略规划、风险分析。

5. Judge Ensemble Loop

一个评委打分有噪声。

五个评委平均掉噪声。

将同一个输出送进多个评估器。

汇总分数。

只有高共识的输出才晋级。

用于：单一模型评估不可靠、风险高、边界情况重要的场景。

类别 2 — 记忆循环（从发生过的事情中学习）

6. Reflexion Loop

这是最重要的自我改进模式，没有之一。

Agent 失败。Agent 分析失败原因。Agent 存储教训。Agent 带着教训重新尝试。

每一次迭代都比上一次更聪明。

attempt 1: 失败
reflection: "我以为 X 是对的，但 X 是错的。下次先验证 X。"
attempt 2: 融入教训 → 部分成功
reflection: "好多了。但我跳过了 Y。加上 Y 检查。"
attempt 3: 成功

一个系统"失败一次"和"只失败一次"之间的区别。

7. Memory Update Loop

每次任务完成后存储三样东西：

• 做了什么决定
• 结果是什么
• 下次会怎么不同做

未来的运行继承这些知识。

第 6 个月的系统已经不是第 1 个月的那个系统了。

它读了 6 个月的自己历史。

8. Error Library Loop

存储每一次失败。

错误答案。糟糕输出。执行失败。边界情况。

在处理新任务之前：

先搜索错误库。

如果类似的失败存在 → 在开始之前就应用已知修复。

系统不再重复犯同一个错误。

这是生产级 AI 中最被低估的模式。

9. Success Pattern Loop

大多数工程师只存失败。

也要存成功。

当任务顺利时：

• 保存方法
• 保存上下文
• 保存什么让它奏效

遇到类似任务时检索成功模式。

从胜利中学习，而不仅仅是错误。

10. Memory Compression Loop

记忆永远在增长。

无限记忆 = 不可用的记忆。

当积累到 N 条之后：

压缩它们。

将许多具体记忆 → 变成少数高层抽象。

压缩前：
"任务 A 因为 X 失败了"
"任务 B 因为 X 失败了"
"任务 C 因为 X 失败了"

压缩后：
"模式：X 导致失败。总是先检查 X。"

上下文保持可控。模式保持可访问。系统保持快。

类别 3 — 规划循环（当现实变化时调整计划）

11. Plan → Execute → Replan

AI Agent 设计中最常见的错误：

把计划当作固定的。

计划在接触现实时会破裂。

模式：

制定计划 → 执行步骤 → 观察结果 → 更新计划 → 继续

不是瀑布。

是螺旋。

每一圈收紧方法。

用于：环境变化、任务有依赖关系、长期目标。

12. Dynamic Workflow Loop

大多数流水线是固定的。

Step 1 → Step 2 → Step 3。永远如此。

动态工作流根据结果改变：

如果输出 A → 走分支 X；如果输出 B → 走分支 Y；如果输出 C → 跳到步骤 5。

流水线在运行时决定自己的形状。

用于：多文档研究、客服路由、自适应内容流水线。

13. Goal Decomposition Loop

大目标进入。

系统分解为子目标。

每个子目标分解为任务。

每个任务分解为步骤。

持续分解直到每个单元小到一次调用可以完成。

目标："写一份全面的竞争分析"
↓
子目标 1："识别前 5 名竞争对手"
子目标 2："分析每个竞争对手的产品"
子目标 3："对比定价模式"
子目标 4："识别差距"
↓
每个子目标 → 任务 → 单独的模型调用

循环持续分解，直到系统可以行动。

14. Progress Evaluation Loop

每 N 步：停下来问：

“我们真的在接近目标吗？”

如果是：继续当前策略。 如果不是：改变策略、工具或计划。

系统监控自己的进度。

而不是盲目执行。

用于：长时间运行的研究 agent、多天自主任务、调试 agent。

15. Constraint Satisfaction Loop

持续运行直到所有约束被满足。

while not all_constraints_satisfied(output):
    output = improve(output, unsatisfied_constraints)

constraints = [
    budget_under_limit,
    quality_above_threshold,
    latency_under_200ms,
    tone_matches_brand,
    no_hallucinations
]

在生产系统中非常常见。

输出在每一条业务规则通过之前都不算完成。

类别 4 — 探索循环（通过尝试多条路径找到最佳答案）

16. Branch-and-Explore Loop

不要只走一条路。

同时探索多条路径。

paths = [
    generate(approach="conservative"),
    generate(approach="aggressive"),
    generate(approach="creative")
]

scores = [evaluate(p) for p in paths]
best = paths[scores.index(max(scores))]

对比结果。选择最佳分支。丢弃其余。

用于：内容变体、架构决策、多假设调试、A/B 生成。

17. Tree Search Loop

Branch-and-Explore 只深入一层。

Tree Search 需要多深就走多深。

扩展最有希望的节点。剪掉最弱的。持续探索直到找到解。

root → [A, B, C]
A → [A1, A2]   # A 看起来有希望，扩展它
B → prune      # B 太弱，停在这里
A1 → [A1a, A1b]
A1a → solution ✓

用于：复杂推理链、多步规划、代码调试、研究综合。

计算成本高，但能找到单次调用无法找到的解。

18. Debate Loop

两个 agent。一个话题。相反的立场。

Agent A 为答案辩护。Agent B 反对它。

每一轮挑战假设、要求证据、暴露逻辑漏洞。

最终答案通过分歧产生。

不是通过一致。

对抗性压力能发现自信的单 agent 答案遗漏的东西。

用于：投资决策、战略规划、风险评估、研究评论。

类别 5 — 系统优化循环（循环改进循环本身）

19. Prompt Optimization Loop

大多数工程师写一个 prompt 就不再碰它。

Prompt 优化循环改变了这一点。

系统：

• 在测试集上运行 prompt
• 对每个输出评分
• 识别 prompt 失败的地方
• 重写 prompt 修复这些失败
• 重新运行并重新评分

Prompt 自动变好。

不需要人碰。

current_prompt = "Summarize this document."

for iteration in range(max_iterations):
    outputs = [run(current_prompt, doc) for doc in test_set]
    scores = [evaluate(o) for o in outputs]
    avg_score = mean(scores)

    if avg_score >= target:
        break

    failures = [o for o, s in zip(outputs, scores) if s < threshold]
    current_prompt = improve_prompt(current_prompt, failures)

用于：生产流水线、自动化内容系统、分类任务。

生产级 AI 中最好的 prompt 不是人写的。

它们是进化出来的。

20. Workflow Optimization Loop

这才是真正有趣的地方。

循环改进循环本身。

系统测量自己的性能：

• 延迟：每一步花了多久？
• 成本：每次调用用了多少 token？
• 质量：每个阶段的输出得分多少？

然后它修改自己的工作流。

太慢了？并行化两个步骤。 太贵了？在质量能保持的地方用一个更小的模型替换 GPT-4 调用。 质量下降了？在最终输出前加一个评论家。

metrics = measure_workflow(outputs, latency, cost)

if metrics.latency > target_latency:
    workflow = parallelize(slow_steps)

if metrics.cost > budget:
    workflow = replace_with_cheaper_model(high_cost_steps)

if metrics.quality < threshold:
    workflow = add_critic_before(final_output_step)

这就是真正的自我改进系统的起点。

不只是输出在改进。

是系统在重新设计自己。

所有 20 个模式背后的统一模式

每一个循环都共享一个结构：

Act → Observe → Evaluate → Adjust

这就是完整的配方。

输出在第一次尝试时从来不是最终的。

输出是一个起点。

循环才是把起点变成生产级作品的东西。

全景图

类别 1 — 质量循环（让输出在离开前变好）

1. Generate → Critique → Rewrite
2. Score-and-Retry
3. Multi-Critic
4. Adversarial Critique
5. Judge Ensemble

类别 2 — 记忆循环（从发生过的事情中学习） 6. Reflexion 7. Memory Update 8. Error Library 9. Success Pattern 10. Memory Compression

类别 3 — 规划循环（当现实变化时适应） 11. Plan → Execute → Replan 12. Dynamic Workflow 13. Goal Decomposition 14. Progress Evaluation 15. Constraint Satisfaction

类别 4 — 探索循环（通过尝试多条路径找到最佳答案） 16. Branch-and-Explore 17. Tree Search 18. Debate

类别 5 — 系统优化循环（循环改进循环） 19. Prompt Optimization 20. Workflow Optimization

大多数工程师认为 agent 是未来。

Agent 只是工人。

循环才是让工人进步的东西。

AI 领域正在发生的最大的转变不是更好的模型。

是从 Prompt → Response

转向 Generate → Evaluate → Learn → Improve

掌握循环设计的团队不会写出更好的 prompt。

他们会构建出每天都在变好的系统。

部署之后，不需要任何人碰它们。