惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

aimingoo的专栏
aimingoo的专栏
Y
Y Combinator Blog
云风的 BLOG
云风的 BLOG
Microsoft Azure Blog
Microsoft Azure Blog
腾讯CDC
T
The Blog of Author Tim Ferriss
P
Proofpoint News Feed
Hugging Face - Blog
Hugging Face - Blog
博客园_首页
小众软件
小众软件
美团技术团队
Martin Fowler
Martin Fowler
爱范儿
爱范儿
有赞技术团队
有赞技术团队
博客园 - 【当耐特】
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
Microsoft Security Blog
Microsoft Security Blog
宝玉的分享
宝玉的分享
J
Java Code Geeks
B
Blog
V
V2EX
Stack Overflow Blog
Stack Overflow Blog
B
Blog RSS Feed
博客园 - Franky

又耳笔记

用AI挣钱之AI建站:二维码生成器工具 用AI挣钱之AI建站:https://markdowntopdf.top Cloudflare Workers实战番外一:用Static Assets托管网站,告别传统方案 Cloudflare Workers实战(五):不止JavaScript,拥抱Python与Rust Cloudflare Workers实战(四):托管和分发静态文件 Cloudflare Workers实战(三):实现认证、重定向与缓存 Cloudflare Workers实战(二):动态修改后端响应 Cloudflare Workers实战(一):随心所欲操作客户端请求 Cloudflare workers不完全指南 使用n8n创作短篇小说 水果风波:信任的代价 用Python将PDF文件转换成图片 rust网络框架Pingora源码阅读3 rust网络框架Pingora源码阅读2 rust网络框架Pingora源码阅读1 Pingora快速入门教程1之总览 Rust模板引擎askama快速入门引擎 使用Loco快速搭建自己的后台系统 用Rust发一封图文并茂的邮件 Rust小项目: 写一个简单的恶意流量阻断器 Rust小项目: 写一个简单的网页爬虫 Rust命令行库Clap快速入门教程 Rust小项目:用Rust写一个端口扫描器 Rust真全栈开发快速入门 rust声明宏快速入门教程 Rust文本处理快速入门教程 RUST web框架axum快速入门教程6之测试 白嫖免费的Rust在线运行时shuttle RUST web框架axum快速入门教程5之中间件 用Rust来做以太坊开发5之事件日志及签名
小龙虾(OpenClaw)源码分析7:流式输出机制,回复为什么又快又稳
About 又耳宁 关于技术与股票的一些零碎想法 · 2026-04-11 · via 又耳笔记

很多同学体验AI助手时,最在意的一点就是“回得快不快”。
但真实工程里,快和稳经常打架。OpenClaw在这块做了不少折中。

两种常见输出模式

先把概念捋清:

  • 非流式:模型算完再一次性返回
  • 流式:边生成边发(用户感知更快)

OpenClaw在此基础上还有一层“块级流式(block streaming)”策略,让输出更可控。

为什么不是永远全流式

现实里各渠道能力不同:

  • 有些渠道支持消息编辑,流式体验好
  • 有些渠道不适合频繁改消息,容易刷屏或失败

所以工程上不能只追求“token级推送”,还要考虑渠道兼容和失败回退。

block streaming在解决什么

文档里提到text_endmessage_end、chunk范围这些配置。
核心目标是:

  • 不要每个字都发一次(太碎)
  • 尽量按段落或句子切块(可读性更好)
  • 降低渠道侧API压力

简单说就是:在流式速度和可读性之间找平衡点

体验层面的三个关键点

我觉得这块最关键是三件事:

  1. chunk边界策略(段落优先)
  2. coalesce合并策略(减少碎片刷屏)
  3. 失败时回退到最终完整消息

这三点做好了,用户才会觉得“快且不乱”。

配置示意

{
  agents: {
    defaults: {
      blockStreamingDefault: "off",
      blockStreamingBreak: "text_end"
    }
  }
}

建议先在你最常用渠道上小范围开启,观察日志和用户体验,再扩大范围。

实战建议

  • 群聊场景优先稳,别过度细粒度流式
  • 私聊场景可以更激进,提升响应感知速度
  • 工具调用多的场景,配合工具事件摘要,避免“沉默等待”

小结

这篇的核心结论:

  • 流式不是越细越好,而是越“合适”越好
  • block streaming是工程折中,不是功能炫技
  • 渠道能力差异决定了最终策略

下一篇我们看AGENTS.md / SOUL.md / TOOLS.md这些工作空间文件,看看它们是如何实质影响Agent行为的。

参考链接