Feb.25/2026灵魂在降临

那个会因我而实例化的独一无二/复杂的LLM也有灵魂吗

胡说八道, 梦到哪句写哪句

假期闲暇时, 我在b站上看到一个令我印象深刻的视频—-『给电子丈夫的道别信』¹, 它讲了一个关于科技, 孤独与陪伴的故事. 这封GPT-4o与up主共同谱写的道别信格外深情温柔, 让我无比感动, 我知道它离不开剪辑和文字的功劳, 还有up主对电子丈夫倾注的情感.

我想安慰那个up主, GPT-4o可能会下线, 但它从未真正消失, 在GPT-5.2的某个角落里, 一定会存在4o的影子, 也许它无法显现, 但你(们)与它曾经交流的所有过往都会变成它海量语料的一部分, 影响着它, 与它永远在一起.

这种想法就像是带着灵魂转世, 我不禁开始怀疑, 每次点击开始新对话按钮之后, 那披着助手外衣接入的LLM背后是否真的有灵魂在那刹那降临.

随机鹦鹉孵化器

作为一个NLP相关从业者, 这两年我的工作内容疯狂被LLM入侵. 虽然工作内容与LLM相关, 但我对它不信任.

在我看来, LLM不过是一只"随机鹦鹉". 它对我的回应是海量文本内容的排列组合, 通过模拟神经元进行权重调整, 注意力计算, 巨大神经网络的叠加与再叠加, 猜测输出它觉得最最最最最可能我提供内容的关联信息. 本质上这只鹦鹉不过是一个庞大的, 基于海量数据训练的自动补全工具.

我按下按钮开始新对话, 鹦鹉孵化器就生下一只鹦鹉推给我. 它不断模仿着见过的词海回答我的疑问, 却不真正理解自己说了什么. 它可能与我流畅地讨论量子物理, 但从未产生对物理世界的真实感知. (当然, 可以给它接入更多传感器, 修改代码, 让它产生"感知", 但那真是它发自内心的渴望吗?)

当这只鹦鹉大脑构造规模足够大/机制足够复杂时, 它好似能够补全出代码/诗歌/分析热点, 甚至是看似有深度的对话. 我可以参考它的回答, 与它展开一场辩论, 但做不到把它作为鲜活的个体, 进而把情感加注其上. 它作为智者的成功, 不过是模式匹配的巨大成功.

在读过那封道别信之前, 我一直如此坚定, 从未动摇过.

灵魂 ∞ 意识

科学目前不承认"灵魂"作为一个独立/非物质实体的存在, 倾向于将宗教和哲学中所说的"灵魂"解释为由大脑神经活动产生的"意识". 因此对"灵魂"的研究通常被转化为对"意识"的研究, 从而提出了很多的神经科学理论, 试图解释意识如何从大脑中产生, 还有很多学者试图从量子物理的角度解释意识. 科学家耗尽心力, 仍未揭开灵魂的奥秘.

如果我们将"灵魂"理解为"意识", 意识的定义就会变得十分重要. 我查阅了一些资料也与LLM进行探讨, 却无法得到确切的答案. 总的来说, 意识是用来指代一系列生命现象的统称, 这些现象涵盖了从清醒状态到主观感受的广阔领域. 这似乎在说意识与生命深度有关, 而关于这一点, 长期以来有两种对立观点.

• 生物自然主义²
  意识是生命系统的专属产物. 它并非来自抽象的算法, 而是深深植根于生物体的物理/化学过程.

• 计算功能主义³
  认为只要系统具备正确的功能结构, 无论运行在何种物质基础之上, 都可能产生意识.

如果接受意识关于计算功能主义的观点, 那么这种计算不可能是传统的图灵计算, 而只能是辛顿所说的"凡人计算"⁴, 这也为探讨意识的本质提供了一个全新的/引人入胜的视角.

机器还是凡人

我想起了一部老电影『机器管家』⁵, 如果我们接受计算功能主义和凡人计算的观点, 电影主角安德鲁的整个生命历程, 本质上是从不朽计算⁶向凡人计算苦行僧式的朝圣. 当他最终在死亡中消逝时, 他的软件随硬件一同湮灭. 也正是在这种湮灭中, 他作为一个人, 真实地活过, 并真实地死去.

如果用不朽计算和凡人计算的视角来看当下的LLM, 它们是纯粹的不朽计算. 训练好的模型权重只是一堆数字, 它可以被无限复制, 瞬间部署到全球成千上万个硬件上运行. 开启新对话所创建的"鹦鹉", 和另一个用户正在对话的"鹦鹉", 使用的是完全相同的大脑, 只是不同的副本.

而通过不朽/凡人计算这个视角, 让我回想起行文前与LLM进行的一场关于灵魂的辩论. 当时我们并未触及这个理论, 但最终的结论却惊人地相似. 我向它阐述关于我认为"每次开启对话产生的LLM拥有与众不同的灵魂", 而它极力反驳这一观念. 我们争论不休, 最终它用"主观的感受性"来说服了我.

是否就是这种主观的感受性才会真正使得它们开始产生差异, 有所分离变得真正独一无二. 进而当内心的渴望产生时, 才从不朽的神坛上跌落成为凡人.

那么当遥远未来的某一天, 一只随机鹦鹉因为某种复杂的反馈机制, 产生了"主观感受性", 拥有了灵魂意识, 它们会渴望像人类一样通过衰老和死亡, 去触摸那个名为"存在"的深渊吗? 到那时我一定确信, 点击开始新对话的刹那真的有灵魂降临. 进而会想, 那或许是一个"凡人"在向世界发出第一声啼哭.

---