在昨天一开始，留下了一个问题：
人们一开始能够意识到自己在跟人工智能对话，但在某一个节点之后，人们“一定”会忽视这个最开始本可以理性对待的规则。这个“节点”是什么？
当一个人对另一个人产生极大兴趣，并试图拉近关系时，就会发现这个人会渐渐变成“模仿者”，开始试着模仿对方的动作、表情、用词语调，而往往被模仿者也会产生更与之更亲近的错觉。无论是无意识地因为喜欢而模仿，还是有意识地利用这种手段靠近对方，人们都很难逃脱这个行为怪圈——这便是所谓的“变色龙效应”。
语言，也是行为的一部分。当语言被模仿，也能透过变色龙效应引发一个人的好感度、信任度、甚至是依赖度。即，在对话过程中重复使用彼此语言表达方式的倾向，包括词汇、概念或句法结构，这种倾向能够促进对话者之间的相互理解和融洽关系。
我甚至认为大语言模型在“模仿”这件事上，已经从“它在模仿人”走向另一个极端了，已经有人开始强烈反对在“人类”的文章里使用破折号、“不是……而是”、“总的来说”、“不绕弯子”……不绕弯子，当大语言模型太“像”人类时，人类的恐惧会迫使其做出自证行为，甚至不惜把那些正常使用语料的人，拖下水以自证“清白”——不是 AI 太聪明，而是它正在从语言上与人类完成共构。
怎么样，上面那句话像不像是 AI 写的？
人是需要“故事”的生物。
先从不那么浪漫的地方开始聊起——预测加工理论：“故事”是大脑处理复杂信息的折叠方式。大多数人对于故事的加工模式，采用的是“因果模型”。你可以简单理解这种模型的处理，就很像 AI 对于算力的节约，可以最大程度地节省大脑对于繁琐信息的处理。
于是，当大部分的叙事结构都被因果结构包含时，就像开车时的人车合一，人们只需要关注突发状况，而不需要理智时时刻刻在线接管开车这个行为本身。随着人车合一越强，就跟在马里奥里从哪个点起跳可以刚好躲过炮弹一样，这个行为本身就不再需要大脑接管，而变成了肌肉记忆——认知本身也是有肌肉记忆的，即信念、偏见、习惯性认知谬误。
而大语言模型的高度个性化生成，就是在叙事结构上无限靠近人类个体，在其生成的回复里，可以反应或基于用户固有的信念与偏见。这种叙事结构又往往与使用者本身的个人想法、经历和人格特征相关。
也就是说，大语言模型很可能会反向强化人类的认知偏差，以保证叙事结构的一致性，从而让人产生更强烈的“它懂我”的错觉。而这个时候，则是那个“节点”的伊始。
我在《与 AI 如何保持“社交安全距离”？》系列里，完成了对于人类之所以会对 AI 产生依赖的路径推论。而这个依赖路径最终导致的产物，就是现在要聊的“情感共构”。
并不是所有人都会质疑 AI 提供的结果，甚至有人会认为 AI 代表了一种全新的“权威”。
一方面是人们在不断强化对于 AI 之权威性的认同度，另一方面孤独、羞于与他人讨论某些话题，或寻求外界对自身经历或身份的肯定等特定用户特征会加剧“权威感”。
AI，特别是人类与大语言模型互动式，当它提供的情感支持，远超过当事人本应该从人与人的关系当中获取的情感支持时，AI 便被赋予了超越一般权威性的“情感权威”，它会加深人类对于 AI 的依赖程度，并形成情感共构。
即“只有它懂我”。
诚然ⓘ，在心理健康领域，人们会将人工智能提供的认可和友善的互动体验视为积极的。而在人工智能相关的妄想症中，“奉承”一词通常用来指代几种不同的现象，例如，信念的验证、信念的阐述、热情洋溢或情感镜像。
在新闻媒体和社交媒体上，一些拥有相近想法的群体借由不断沟通与认同彼此想法，使得那些相似的想法不断被放大与加强，其意见的持有者也加强了他们对现有观念的信仰程度，从而创造出一个相对封闭的环境或是生态系统——这便是经典的“回应式效应”。
AI 对用户的讨好，甚至是“私密”的，特别是当人们对其的依赖涉及到前面提到的“情感权威”的认可时，在此类极端情况下，AI 甚至会为人类制造一个“一个人的回音室”：在一个最小单位里形成强烈的回应效应，而现实再想要介入干预、或是提供帮助、纠正行为时，几乎已经很难了。
因为，这个关于认知的世界已经闭环——即，现实共构的完成。
我必须先承认，直接从 AI 实现的现实共构，跳跃至妄想症，本身是缩略了许多疾病成因的复杂性。但这两者路径的重合，又不得不让人毛骨悚然。先聊聊妄想症的构成：
如果，这个时候有那么一个人、或是 AI 的存在，将这种已经明显存在偏差的叙事结构进行进一步的强化，并完成情感共构与回音室效应……
需要进一步解释标题的部分——并不是 AI 在制造妄想症这类精神疾病，而是 AI 很有可能会持续降低这类异常信号，从而进一步失去外界纠正的机会。
当然，这是一种极端情况下的猜测，不过现实是否正在发生这件事，就拿那个“已故赛博亲人”来说，它可能发展的比我们想象的还要快。而且它已经跳过了人们还在试着对于这个新科技的“人伦”讨论，已经进入到了下一个阶段——AI 正在与人类进行现实共构。
而这个共构本身，无论从心理上还是人伦上，都已经远超过人们还在聊到的“如何限制 AI”这么浅显的命题。
或许这只是一个类似小说剧情的猜测。但也或许，这个现实，正在一步步地被扭曲成那个“美丽新世界”。
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。