惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Latest news
Latest news
T
Troy Hunt's Blog
V
Vulnerabilities – Threatpost
L
LINUX DO - 热门话题
cs.CL updates on arXiv.org
cs.CL updates on arXiv.org
Simon Willison's Weblog
Simon Willison's Weblog
V
V2EX
博客园 - 司徒正美
B
Blog RSS Feed
AWS News Blog
AWS News Blog
MyScale Blog
MyScale Blog
Scott Helme
Scott Helme
Cisco Talos Blog
Cisco Talos Blog
Last Week in AI
Last Week in AI
NISL@THU
NISL@THU
博客园 - Franky
P
Proofpoint News Feed
博客园_首页
C
CERT Recently Published Vulnerability Notes
雷峰网
雷峰网
S
Schneier on Security
P
Proofpoint News Feed
Hugging Face - Blog
Hugging Face - Blog
G
GRAHAM CLULEY
博客园 - 三生石上(FineUI控件)
月光博客
月光博客
WordPress大学
WordPress大学
The Hacker News
The Hacker News
T
Threatpost
阮一峰的网络日志
阮一峰的网络日志
A
Arctic Wolf
Microsoft Azure Blog
Microsoft Azure Blog
T
The Exploit Database - CXSecurity.com
Engineering at Meta
Engineering at Meta
罗磊的独立博客
T
The Blog of Author Tim Ferriss
D
Darknet – Hacking Tools, Hacker News & Cyber Security
I
Intezer
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
K
Kaspersky official blog
SecWiki News
SecWiki News
云风的 BLOG
云风的 BLOG
美团技术团队
C
Cybersecurity and Infrastructure Security Agency CISA
博客园 - 【当耐特】
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
Security Latest
Security Latest
C
Cyber Attacks, Cyber Crime and Cyber Security
B
Blog
S
Security Affairs

暗无天日

读:AI Agent 安全日志——从可见性与隐私的两难说起 - 暗无天日 读:AI Agent 生产化——一份从原型到上线的速查清单 - 暗无天日 AI写作的语言指纹——如何让文字不那么像机器 - 暗无天日 读:50 条 Claude Code 技巧——一个工程经理的六个月使用心得 读:AI 辅助开发为什么让 E2E 测试更有价值 - 暗无天日 读:在Emacs中使用Claude Code(Spacemacs适配版) - 暗无天日 Claude Code 背后的工程哲学——读 Agent Harness Engineering 读:Agent Harness Engineering——AI 智能体不只是模型,还有套件 - 暗无天日 browser-harness:让 AI 直接接管你的浏览器 - 暗无天日 读:Security-First CI/CD —— DevSecOps 自动化实践指南 TIL: 数字小键盘的小数点陷阱与行内算术求值 - 暗无天日 读:Immutability 不是万能药,它是一种权衡 - 暗无天日 Conducty:给 Claude Code 加上项目记忆和并行执行能力 - 暗无天日 读 — GitHub Trending 里的 Claude Code 技能包 读 — Prompt Caching 省钱指南 TIL: Emacs 中那些跟鼠标配合的冷门快捷键 - 暗无天日 读:Anvil——把 Emacs 变成 AI 的工具服务器 读:Emacs 代码折叠终极指南 - 暗无天日 读:Clojure 搭车客指南 - 暗无天日 git推送失败后恢复仓库损坏的完整记录 - 暗无天日 多智能体系统的两个有效模式——以及对 Claude Code 用户的启示 - 暗无天日 用 Org Babel 写 Literate 博文:扩展执行 + 定制导出 proced:Emacs 内置的进程查看器 - 暗无天日 从 proced 定制中学到的 Elisp 模式 读:让 Emacs proced 在 macOS 上显示 CPU 和内存 异步编程的函数着色税 - 暗无天日 链式调用的代价:JavaScript 和 Clojure 的共同教训 - 暗无天日 hyperfine:命令行基准测试工具 - 暗无天日 管道中的变量去哪了?——子 shell 作用域陷阱 - 暗无天日 开源包装器的信任陷阱:四个危险信号 - 暗无天日 程序员愿意为 AI 写文档,却不愿为同事写 - 暗无天日 mktemp: Shell 脚本中临时文件的安全陷阱与最佳实践 - 暗无天日 WSL9x —— 在 Windows 9x 里跑 Linux 内核 6.19 用 ox.el 做你想做的事 —— org-export 高级编程指南 读:Hot-wiring the Lisp Machine —— 用纯 Elisp 构建零依赖的 Org 静态站点生成器 Elisp 性能优化的六个实战教训 - 暗无天日 fcitx5 下 Emacs 无法切换输入法的排查 - 暗无天日 ERT 测试交互命令的三种方式 - 暗无天日 SEM Assistant: 当 Elisp 守护进程遇上 LLM 用 dmsg 给 Elisp 加上结构化调试日志 用 org-habit 追踪非每日习惯 - 暗无天日 Clojure X-Men:当编程语言特性变成超能力 - 暗无天日 TIL: 用 diff-hl 在 fringe 中显示 git 变更 读:llm-test —— 用 LLM agent 驱动 Emacs 测试 TIL: AI 时代的橡皮鸭调试 - 暗无天日 fcitx 启动后键盘输入卡顿的排查 - 暗无天日 TIL: 早期网页的图片热区导航 - 暗无天日 读 Seeing the Whole System 用 Emacs 自动生成每周链接推荐 - 暗无天日 读:ASCII control characters in my terminal 读 What to learn - 暗无天日 Lisp 的括号之痛——一个愚人节玩笑揭开的老伤疤 - 暗无天日 一本书该"线性读"还是"并行读" - 暗无天日 读 How to Monetize a Blog:一篇伪装成变现指南的讽刺文 Python Mock 第三方依赖的四种策略 - 暗无天日 Emacs Lisp 热重载实用指南 - 暗无天日 Prot 的 Emacs 配置哲学 - 暗无天日 TIL: 从直播对谈中学到的三个 Emacs 技巧 - 暗无天日 TIL: 自动使用项目虚拟环境的 Python - 暗无天日 TIL: 让 Help buffer 自动获得焦点 一条命令让本地开发用上 HTTPS —— slim 工具介绍 用 fsck 检查和修复 Linux 文件系统 排查Linux进程"卡死"实战:从strace到gdb全流程 - 暗无天日 PostgreSQL 索引:从基础到你可能不知道的高级用法 - 暗无天日 用 .pdbrc 自定义 Python 调试器 ANSI 转义码的标准化现状 - 暗无天日 终端程序的潜规则 - 暗无天日 PARA Org-mode 测试配置 - 暗无天日 AI越强越辣鸡?控制论说这是必然的 - 暗无天日 你的AI代理正在偷你的密钥——四种你没想到的泄露通道 - 暗无天日 LLM 在 DevOps 中的三种角色 - 暗无天日 写作风格的反建议 - 暗无天日 反驳本质复杂性——Dan Luu 论为什么《没有银弹》错了 - 暗无天日 文件充满了危险——Dan Luu 谈文件系统的可靠性陷阱 - 暗无天日 AI 时代的 PARA 方法:用 Org-mode 和 AI 打造个人知识管理系统 Linux 数据去重学习笔记 - 暗无天日 创建跨平台 ZIP 文件的隐藏陷阱:Extra Field - 暗无天日 X11 Forwarding 排障指南 - 暗无天日 IP欺骗端口扫描:当别人冒充你去扫描别人 - 暗无天日 Linux 输入栈全景解析:从硬件按键到屏幕响应 - 暗无天日 Unix 系统中那些被埋没的配置开关——以 FontConfig 为例 - 暗无天日 在Linux上限制儿童使用电脑 - 暗无天日 GIF不仅仅是一种图片格式——用GIF流做些奇怪的事 - 暗无天日 Leiningen 学习笔记:Clojure 项目构建与管理从入门到实战配置 - 暗无天日 Google SRE Book 读书笔记 - 暗无天日 yes 管道 head 发生了什么 - 暗无天日 为什么 nohup 在 crontab 中不起作用 Bash中的Indirection与Nameref - 暗无天日 Linux PAM 简介 - 暗无天日 从Linux ISO文件启动计算机 - 暗无天日 用 Bash 打造一个Screen Locker 用GitHub Actions自动构建EGO博客 - 暗无天日 blocking I/O 的作用 - 暗无天日 mobileog 手机端同步提示Error:2 No such file 的解决方法 回收 WSL2 VHDX 文件占用空间 使用 org-mode columnview 生成任务列表 - 暗无天日 Emacs 作为 MPD 客户端 - 暗无天日 移动文件路径却不破坏org file link的方法 - 暗无天日 如何合理的导出help link 成HTML - 暗无天日 笑话理解之Biology - 暗无天日
AI 越强越需要你盯着——反馈循环实操指南 - 暗无天日
2026-04-16 · via 暗无天日

原文:OpenClaw之父:AI越强越辣鸡?人类审美与反馈循环才是核心控制系统

一个反直觉的事实

Peter Steinberger(OpenClaw 的创造者)说了一句扎心的话:你可以让 AI 一整晚疯狂写代码,CPU 跑得滚烫,第二天早上醒来一看,得到的是一坨终极版的流水垃圾。

原因很简单:AI 到目前为止还没有"审美"这个东西。

很多人以为 AI 输出差是因为它还不够聪明。但真相恰恰相反——AI 已经够聪明了,聪明到它能在错误的道路上跑得飞快,然后把一堆结构完整但灵魂空洞的东西堆到你面前。这种"高质量垃圾"比低质量垃圾更可怕,因为它看起来好像是对的,让你一开始很难发现问题。

AI 本质上是一个超级听话的执行器。它没有内置的审美闭环,没有长期的价值判断系统。它唯一能做的,就是拼命放大你输入的方向。输入模糊,它放大模糊;输入混乱,它放大混乱。

为什么 AI 会制造"高级垃圾"

Peter 用了一个很形象的词来形容 AI: spiky smart ——浑身是刺的聪明。

AI 在某些点上极度聪明,可以写出一个优雅到让人想哭的函数。但与此同时,它可能在整体架构上犯一个连初级程序员都不会犯的基础错误。这种"局部极强,整体不稳"的结构会制造一个诡异的结果:每个碎片都让你觉得不错,但拼在一起就像精神分裂——哪里都不对劲。

背后的原因是 AI 缺乏全局目标约束。它不会主动停下来问自己:我现在做的事情,是不是在逼近一个更好的最终结果?它只是在机械地响应你当前输入的每一个字,尽可能把当前这一步做得漂亮。

一旦你作为人类没有给出清晰的方向引导,AI 就会进入"局部最优循环"——每一步都做到了当前条件下的最好,但这些局部最好的步骤叠加在一起,整体方向越来越偏,最后彻底跑题。第一轮偏差一点你不纠正,第二轮 AI 就在偏差的基础上继续优化。三四轮之后,你得到一个结构极其精致、逻辑极其严密、但主题完全错误的庞然大物。

反馈循环的五步法

Peter 揭示了一个关键原则: 下一个 prompt 取决于你当前看到了什么、感受到了什么、思考了什么

这句话定义了真正有效的人机协作方式。把它拆解成五个连续的动作:

第一步:生成

写一个足够启动的 prompt,让 AI 先动起来。不要试图写一个完美的 prompt——这世界上不存在完美的 prompt。你只需要一个能跑起来的、大概差不多的版本。它的作用不是直接拿去用,而是给你一个初始结果来观察。

第二步:观察

拿到初始结果之后,认真看。不是扫一眼,是认认真真地看。找问题,找漏洞,找不对劲的地方。这一步是整个系统的心脏,你不能跳过它,不能敷衍它。

第三步:判断

决定这个结果里哪些部分是对的,哪些是错的,哪些需要保留,哪些需要扔掉。这就是 Peter 说的 taste ——不是"你喜欢红色还是蓝色"这种个人偏好,而是面对一堆代码、一篇文章、一个设计方案时,你能不能立刻判断出哪个结构更合理、哪个方向更正确。

第四步:调整

基于你的判断,修改你的 prompt。发现了什么问题,就针对那个问题去改。不要一次改十个问题,一次只改一个最关键的。然后让 AI 再生成下一轮结果。

第五步:再生成

让 AI 根据新的 prompt 输出下一个版本。然后回到第二步,重新开始观察。

这五个动作连在一起形成一个循环。每一次循环,你都在让结果变得更好一点。AI 扮演的角色是"超级快速试错器",你扮演的角色是"方向判断器"。

很多人只用了一次"生成"就结束了。写了一版 prompt,AI 给了一版结果,看了一眼觉得还行就收工。他们没有进入循环,只走了第一步就以为到了终点。

两个致命陷阱

陷阱一:Prompt 迷信

整个 AI 圈蔓延着一种迷信:只要把需求写得足够详细、足够全面,AI 就能一次性给完美结果。

这个想法从根本上误解了创造的本质。创造不是一个从完整输入到完美输出的线性过程,而是一个从模糊到清晰的演化过程。你不可能跳过演化本身,直接拿到最终结果。

当你试图一次性描述所有需求时,你在做一个危险的假设:你假设自己已经百分之百理解了目标。但绝大多数复杂项目在刚开始的时候,你自己都是一头雾水。你写下的每一条"要求",其实都是拍脑袋想出来的未经检验的猜测。AI 不会告诉你猜测是错的,它只会把这些猜测当成圣旨,以最高效率执行一个错误的指令。

真正的解法不是写更长的 prompt,而是换一种工作方式——把 AI 当成可以反复对话、反复调整的协作伙伴。

陷阱二:代理陷阱(Agentic Trap)

Peter 提出了 agentic trap 的概念:你在过程还没有稳定的时候,就把控制权彻底交给了 AI。

一开始你还参与一下,写写 prompt,看看结果,然后觉得差不多了就让 AI 自己跑完剩下的所有工作。这看起来是在节省时间,本质上是在主动放弃方向控制权。

问题在复杂项目里尤其明显。前期只要稍微偏一点点——偏了一度角——后期跑出去一公里之后,你就偏出去几十米了。AI 不会停下来问"这样对吗",它会继续沿着错误的路狂奔,跑得比你还快。等你终于发现问题的时候,AI 已经生成了上千个文件、几万行代码、几十个相互依赖的模块。想回头修正最初的小偏差,需要推翻一大半已经完成的工作。

关键问题从来不是"用不用 agent",而是"什么时候放手"。在系统的目标和路径还没有完全清晰之前,你一步都不能离开驾驶座。

你的核心角色

整个讨论最终落在一个词上: taste

这不是"审美"两个字能概括的。它是一种综合判断力——在复杂情境下分辨好坏对错的能力。面对一堆代码,你能不能立刻判断出哪个结构更合理;面对一篇文章,你能不能感知到哪个表达更清晰;面对一个方案,你能不能识别出哪个方向更正确。

AI 目前完全没有这种能力。它可以学习海量数据,模仿所有已知模式,但它不知道什么是"好",只知道什么是"常见"。常见不等于好,多数人认同不等于正确。

所以 AI 永远需要一个外部的评估系统来给它提供判断标准。这个外部系统就是你。你必须成为那个说"这个不行,那个可以"的人。一旦你失去了主动判断的能力和习惯,AI 再强也没有任何意义——因为你已经无法区分好坏了。

AI 放大能力,人类决定方向。两者结合成一个不断运转的循环系统:不断生成,不断判断,不断调整。这个过程本身就是你作为创造者的核心工作。