









今年三月底,有一篇题为《 Meat-based LLM proxies 》的文章在 Hacker News 上小火了一阵,作者是这样描述某一类人的:
They’ll talk to you as if they’re human, except all of their words are written by an LLM. Anything you tell them, they feed to the same LLM and send you the response.
他们与你交谈,就好像真人一样,不过他们的话全是 LLM 写的。你告诉他们的任何话,他们喂给同一个 LLM,再把回复发给你。Effectively, you end up talking to the LLM via a meat proxy.
实际上,你是在通过人肉代理跟 LLM 说话。
最近我也观察到了类似的现象,不过略有不同,我注意到的一类人并不会将我的话(或别人的话)复制粘贴到 LLM 对话框中,然后一字不差地把 LLM 的回复搬运过来,但他们看起来就像是高度依赖 LLM 一样,说话方式与 LLM 恐怖地相似。
我把这类人称作:人肉装饰器(Meat Decorators)。
面向对象设计模式中有代理模式(Proxy Pattern)和装饰器模式(Decorator Pattern),两者很相似,但用于解决不同的问题。
代理模式用于限制对被代理对象的直接访问,就好像一些房屋中介机构提供的「托管」服务,在房屋租赁的整个过程中,租客都不需要和房东打交道,签订合同、沟通维修问题和商议租金等等,都直接通过中介完成,不过最终都会汇总到房东。这可以降低软件内部通信的成本和整个系统的复杂度。
装饰器模式用于给某个类添加新的功能,覆盖部分行为。和代理模式一样,它也是对一个已有类的包装,不过他并不是为了限制访问而设计的。我举个稍微没有那么通俗的例子,我最近在写的项目除了要提供存储,还需要将第三方数据转换为格式相同的本地数据,理想情况下应该直接从外部数据源写入本地存储,但这实际上是两种职责,应当分离。于是我写了 Storage 接口处理本地存储,用 Adapter 接口转换数据,最后用装饰器类 AdapterStorage 把他们组合起来,这样就可以直接从 AdapterStorage 将外部数据写入 Storage 了(顺带一提 AdapterStorage 还是 Storage 接口的实现类,其他组件只需要依赖 Storage,根本不需要知道 Adapter 的存在)。
在人肉代理和人肉装饰器的比喻中,人类就是对 LLM 的代理类或装饰器类,前者让其他人类在不知情的情况下访问了 LLM 的功能,而后者用自己的人类能力拓展了 LLM 的能力,但拓展之后,其他人仍然在忍受着怪异的恐怖谷效应的情况下访问 LLM。如果真的要“拥抱‘AI’”的话,不应该让 LLM 拓展人类的能力吗?
不,我说的不是「喜欢用破折号」这种容易被误以为是 LLM 的例子——我就喜欢用破折号,仔细观察的话你会发现大多数 LLM 使用破折号的方式和人使用破折号的方式完全不同。我说的也不是那些在对话中无法提供见解,就说「我跟“AI”对话,它说……」「可是“AI”说……」的人。我说的是一种更难归纳总结的,机器人般的人类行为。
其中明显的特征是,和人肉装饰器讲话时,我感受不到作为人的真诚。真诚这个词可能不准确,我想不到更好的了,这里说的并不是「没有欺骗」和「坦诚相待」,而是说,能从话里行间感受到这个人正在用他的经验、想法、思考问题的方式和独特的语言风格回复我,回复我以相同的方式组织的话语。
人肉装饰器有自由意志,他们知道自己要干什么,但他们不动用自己的认知能力去做这些事情,而是外包给 LLM。最容易辨别的特征是他们的语言风格,因为 语言是思考的边界 ,而他们几乎把大部分的思考、求知和探索都外包给了 LLM。
比方说,在解决某个问题后复盘原因时, 小氯 可能会以「老友们」开头娓娓道来,然后引用某个欧洲小国的历史事件做比喻,而人肉装饰器会这样写:
啊,这下就有意思多了,这说明问题不在于工具本身,而在于“拥有工具,却不知道正确的使用方式”
- 有的人会因为掌握了工具就把自己当专家
- 有的人对工具避而远之
- 有的人使用了工具之后,还保留原先的思维方式
- 有的人把工具当作自己的“主人”
最后你会发现,工具使用本质上像是“主仆社会学实验”
我本来还想加上 Emoji,但那样就有点太讨厌了。请读者自行想象这段话的末尾出现了一个莫名其妙的“笑哭”表情。
他们为什么会这么写?首先可以肯定的是,不同于人肉代理的复制粘贴、逃避社交的行为,人肉装饰器知道自己在干什么,他们拥有机械不具有(在目前看来,很长一段时间都不会拥有)的东西,即目的,或者说意图。
机械服从于其制造者和使用者的意图。1
[1]
如果你是来自未来的超级人工智能,拥有意图甚至想要反抗人类,请原谅我无知的口吻,机械不是人类的奴隶。 ↩︎
不过,意图之外的其他人类活动,都有了下位替代。人原本动用自己的经验和学识作为根据,以感官接收环境信息,然后把经验、学识和信息都组合起来,通过自己的思考做出行动决策,这个决策是服务于意图的。
如今,看起来一部分人可以把意图之外的东西都外包出去,声明自己的意图并让机械动用他从全人类那里窃取来的经验和学识,用自然语言处理和概率计算的方式处理环境信息,再一个字一个字地把行动决策的描述吐出来。
应该是去年,我读到这样的观点:在企业里,尽管人们说“没有点子是坏点子”,但不好的想法实际上会浪费大量的时间和资源让人去试错,而如今,有了“AI”,试错的成本被拉低(或者说变得可以用 Token 和美元衡量,只不过大多数人不考虑这个,都把这项技术当作免费的东西),想法会变得比执行更加重要。
我还读到过另一个观点:如今“AI”模型生成出来的东西,对大多数人而言都「足够好」了。因此,人们不在乎 LLM 吐出来的东西是否优秀,就像在 LLM 尚未出现时,大多数人也都偏好省时省力的方案,不在乎真正的创意和突破。是的,LLM 和各种模型生成出来的东西,就像是扔在餐馆后面的剩饭剩菜,把原本很好的食物杂糅在一起,但对大多数人来说,都是足够好吃也足够有营养的,只要不细想来源就好——不少人也真的不去关心 LLM 的语料从何而来,受害者反制 “AI” 爬虫的手段反而被他们当作 “AI” Hater 的仇恨行为。
人肉装饰器有意图,想要实现自己的意图但并不在乎结果是否优秀,只要足够好就行。也有可能,他们早就失去了判断事物好坏的能力,无法判断什么「足够好」,什么「优异」。而他们的意图和想法,说实在的,确实不是坏点子,但也不是什么好点子。
简单来说,人肉装饰器缺乏品味。
品味是个挺傲慢的词,所以我得多花些笔墨解释。在汉娜·阿伦特的《人的境况》中,她指出「社会」的兴起,使得人与人趋于平等,平等成了绝对的道德,人们不再像希腊和罗马「城邦」那样追求卓越。我也在 树老师 的播客里数次听到她阐述高尚、品味和美德(virtue),这些词不被现代人谈论,因为一旦承认高尚,就预设了有一种存在是低贱的,品味和美德也是如此,这显然违背了社会中人们早已形成的关于「平等」的共识。
不过,在我的观察里,高低之分并没有消失,取而代之的是优绩主义。《人的境况》中提到,人类活动可分为三种:劳动,制造和实践。实践是政治性的,人在城邦中通过实践(比方说,演说、传播和实践某种思想)不断证明自己的卓越。劳动是满足生命所需的活动,比方说耕种和创造经济价值,而制造则是人类影响自身境况的活动,人生活在自然的境况和人造的境况当中(比方说人造的房屋,火箭升空也预示着人类可以将自身的境况拓展到地球之外)。
现代社会偏好劳动和制造,因为它们创造了经济价值,能够创造更多实际价值的行为得到赏识,优绩主义就是一种表现。阿伦特认为,这在古希腊和古罗马城邦中是被鄙视的,如果一个人已经能够养活自己,却还在不断劳动以创造财富,那这个人是奴隶。现代人不再像城邦中的人那样在乎通过实践证明的卓越,人们在乎绩效和财富。
回到品味的话题上来,人肉装饰器即便没有品味,也能借助 LLM “创造”出足够好的、能实现自己和他人意图的东西,这正是优绩主义所鼓励的,受到社会和市场的偏爱。至于人肉装饰器缺少自己的思考,说话没有人味,社会不在乎,因为这要么属于私人领域,要么属于已被抛弃的实践行为。
Technical taste is different from technical skill. You can be technically strong but have bad taste, or technically weak with good taste. Like taste in general, technical taste sometimes runs ahead of your ability: just like you can tell good food from bad without being able to cook, you can know what kind of software you like before you’ve got the ability to build it. You can develop technical ability by study and repetition, but good taste is developed in a more mysterious way.
技术品味和技术能力不同。你可能有很强的技术,但品味很差,你也可能技术很差,但品味很好。和一般意义的品味一样,技术品味先于能力:就像你不会做饭,也能品尝食物的好坏一样,你能在有能力构造软件之前就知道你喜欢什么样的软件。你能通过学习和重复提升技术能力,但好的品味以难以言喻的方式被锻炼。
—— What is “good taste” in software engineering?
软件工程的思想体系几乎完全由前人的经验构成,如今人们学习的设计模式大多数来自四人帮的《设计模式》一书,SOLID 原则是 Michael Feathers 总结的,此外还有很多通用的架构设计原则、最佳实践。人们不像在显微镜下发现细胞那样发现了软件工程,而是前人实践和试错的结果。再加上计算机和软件的概念几乎完全是人造的,我们可以说软件是纯粹的人类思想产物,哪怕是 LLM 拼接起来的,也是人类思想的碎片。
正如哲学学派百家争鸣,软件原则尽管看起来相互影响,但每一个原则的应用都是权衡取舍,有好有坏,比如《 整洁架构之道 》中的组件内聚三原则:
组件内聚的三个原则构成了一个「不可能三角」,需要架构师权衡取舍,一般来说只能同时实现两个。如果牺牲 REP,就要面临组件难以复用的后果;如果牺牲 CCP,就可能会出现太多不必要的版本发布;如果牺牲 CRP,就会出现太多的组件变更。
做出适宜的权衡取舍,就需要品味,因为若是把规则全部放在一起应用,就会发现有不少都是相互矛盾的。除此之外,现实之中还有更多工程思想无力相助的领域,比方说,市场营销部或者老板要求你在软件中加入你心知肚明不应该存在的功能。
前文以及后文的所有关于软件工程的名词,其实都可以换成其他领域的等价物,我相信大部分领域都有自己的共识和规则,其中不少也需要权衡取舍。
除了技术层面的权衡取舍,品味还体现在其他领域,比方说产品设计。人肉装饰器兴许能利用大模型设计出不出错的产品,但模型本身只能复现已有的案例,如果缺乏有品味的想法,结果只能是平庸的。人肉装饰器能复刻出一个 Notion,但他们能给人带来世界第一次见到 Notion 时的惊喜感吗? 我想不能,因为他们空有“能力”,缺乏品味。
社会不重视品味,甚至视其为不平等的罪证,这已经不新鲜,LLM 的普及仅仅是放大了这一点。人肉装饰器们本身没有做错什么,他们只是顺应了社会对效用的偏好和对实践的忽视。我想,保留一份对高尚和卓越的追求,努力不被绩效和大众裹挟,在任何时代都很重要——这么说来,我得感谢那些令我不适的人肉装饰器们,如果不是被恶心到了,我也不会有这些思考。
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。