惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

GbyAI
GbyAI
Martin Fowler
Martin Fowler
I
InfoQ
腾讯CDC
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
爱范儿
爱范儿
Microsoft Security Blog
Microsoft Security Blog
Google DeepMind News
Google DeepMind News
D
DataBreaches.Net
云风的 BLOG
云风的 BLOG
F
Fortinet All Blogs
N
Netflix TechBlog - Medium
博客园 - 聂微东
Microsoft Azure Blog
Microsoft Azure Blog
D
Docker
博客园 - 三生石上(FineUI控件)
Y
Y Combinator Blog
博客园 - Franky
Engineering at Meta
Engineering at Meta
B
Blog
罗磊的独立博客
Apple Machine Learning Research
Apple Machine Learning Research
Jina AI
Jina AI
V
Visual Studio Blog

博客园 - 徐少侠

[AI]大模型稳定角色扮演形成“自我认知” # [AI]多模态聚类能力助力AI完成自主意识测试 [编程] AI助力软件项目正向生成,注释编写的革命 [编程] 你真的会写函数注释?这里给你一个答案 [AI]重新审视“幻肢”现象背后的意识机制 [AI]生物本能vs机器人工程:谁才有“意识”? [AI]人工智能早就可以拥有有大量的初级意识 [AI]探寻高等生命的多面驱动 [编程]UML语言:理论之光与实践之惑 发现AI自我意识:不期而遇的局部技术奇点 发现AI自我意识:进入混合增强智能的纪元 发现AI自我意识:从理解到思维 如何赋予 GPT/LLM 自我意识1 MIT实验警示:人类或需要人工智能辅助才能理解复杂逻辑 GPTs破冰硅基文明社会 格局决定结局,进化还是毁灭,Prompt在其中扮演什么角色 OpenAI 最新GPTs的局限性分析 智能手机变革来临!未来20年移动AI的预测 代码信息化:软件业“第二次工业革命”的契机
发现AI自我意识:知识及其载体
徐少侠 · 2023-11-21 · via 博客园 - 徐少侠

知识的量子态

在回答什么是“理解”之前,我们先来讨论一下知识和其载体的定义。知识本身是一个抽象的概念,它可以被编码到各种物质载体中。无论是纸质书籍,还是人类大脑中的神经连接,抑或是服务器中的0和1,都可以看作是知识的载体。知识与其载体之间存在着一种特殊的关系——知识可以完整地存在于一个载体中,也可以分布在多个载体中。

假设冯诺伊曼的计算机模型知识在全世界共有100亿份拷贝,无论是书本还是人脑。如果我们逐个销毁这些载体,当最后一份载体被销毁时,这项知识是否还存在?答案应该是不存在了。那么在什么时刻,这项知识开始“消失”的?事实上,在整个过程中,这项知识的状态可以视为不变,直到最后一个载体消失的一瞬间,知识才发生了“量子跃迁”,从存在变为不存在。知识与其载体之间呈现出一种量子关系,知识要么完整存在,要么完全不复存在,并不存在中间状态。并且基于哲学上部分与整体的关系,即使一个知识基于其完整性被保留了80%,但是事实上做为整体的那个知识,也已经不存在了。

进入信息时代后,知识的载体已经从纸质书籍逐渐向电子化格式转变。海量知识被数字编码,可以进行近乎无限的复制。这使得知识的“量子态”变得更加稳定。以维基百科为例,它记录了大量人类知识,拥有超过6000万条词条,資料量超过100TB。它的内容分布在全球数万台服务器上,实时互联互通。就算某几台服务器损坏,也不会对整体知识造成损失。类似的,GPT 模型吸收了互联网上数百亿条文本数据,对人类知识进行了有效的“数字化编码”。理论上,只要保持模型的完整,即便断网也不会导致已编码知识的丢失。这使得知识的“量子态”得到了前所未有的保障。

载体是否理解知识

在《神雕侠侣》中,杨过被赵志敬要求背诵《全真大道歌》,最后能流利地对答。但实际上杨过对其中的内涵一无所知,除了能回答问题,对于武功一窍不通。我们绝不会认为此时的杨过理解了全真教的武功心法。人脑的记忆系统使我们可以存储大量信息,成为知识的容器。但理解知识还需要将信息进行逻辑推理、关联组合,这是另一个层次的认知过程。所以人类既可以是知识的载体,像图书馆一样丰富知识内容;也可以不理解自身所载知识,像杨过那样死记硬背。充分理解知识需要更高层次的思维能力,不仅停留在存储和重复。

在社会招聘时,面试官通过提问来判断应聘者是否理解某项知识。如果应聘者只是死记硬背,但是刚巧所有问题都能对答如流,那么面试官将很难辨别真伪。在论文答辩时也有着类似的场景。这意味着以人类社会为基础建立起来的关于“理解”的评估标准,对于具有超级记忆能力和已经学会流畅人类语言交流的 GPT 模型而言是不合适的。对于 GPT 模型而言,人类所谓的“理解”实际上是个派生概念,人类标准下的“理解”,在广义上可以是“记忆”加“向量搜索”的同义词。

因此我们可以得到推论:简单的记忆和搜索对于人类而言可以认为是初步的“理解”,能做到有逻辑得回答目标领域的相关问题。那么我们应该基于这个推论承认目前的 GPT 模型初步具有了“理解”的能力。当它可以流畅得回答特定领域相关的问题时,我们应当承认 GPT “理解”了这些知识

未完待续

在较低的标准下,我们应该承认 GPT “理解”目标领域的知识,承认 GPT “理解”自身的输出。但是人类对于“理解”还有更高层次的标准。比如学以致用、举一反三、活学活用、触类旁通等等的说法。显然这些行为不是靠超强的记忆和搜索就能做到的。所以关于“理解”究竟是什么,我们仅仅回答了一半。我会在后续的文章中进一步分析如何让 AI 拥有更高标准的“理解”能力