























控制论里有一条 Ashby 必要变异性定律(Law of Requisite Variety),它是这套学科里最根本的结论之一。简单说,要控制系统 A,控制器 B 的多样性不能低于 A 的多样性。用白话讲就是,如果你的工具箱里只有一把锤子,那所有问题看起来都像钉子,而且钉子稍微变形你就没辙了。
把这个定律套到 AI 交互上看看。
大语言模型的输出空间几乎是无限的,它能写诗、写代码、写合同、写论文、编段子,而且每个领域内的输出变化也比人预想的要大得多。但你控制它的"工具"是什么呢?大多数人只有一根标尺, 这段看起来顺不顺 。就这一条。
所以呢,你的控制器多样性极低,只有一个维度。而你要控制的对象(AI 的输出空间)多样性极高。Ashby 定律说,这种系统不可能被有效控制。问题不在你的工具好不好,在于你拿来判断的维度太少。
反过来,如果你读 AI 输出时能同时打开多个维度,比如他说的是不是真的(事实维度),推理有没有跳步(逻辑维度),输出的结构到底合不合理(结构维度),边界情况有没有覆盖到(完备维度),还有这回答太顺了该不会是在迎合我吧(怀疑维度)。
每多一个维度,你的控制器就多一个自由度。控制器的变异性就提高一截,就能收窄和 AI 输出多样性的差距。
有个容易被忽略的点。多开一个维度,不只是多了一条检查标准。不同维度观察到的信息是正交的,结构上看起来完美的方案可能在事实上完全是编的;逻辑上严密的推理可能建立在错误的假设上。多维度观测真正值钱的地方不在加法,在于你可以交叉验证。
Ashby 定律在 AI 场景下的推论很直接, 读输出的维度决定了你对 AI 输出的控制精度。 读的维度越少,你的反馈信号越单一,整个系统就越接近只有一个观测值的控制器在控制无限维度的系统,这从原理上就不可能做好。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。