非专业技术出身，涉及技术的描述若有误，欢迎指正。
一、
最近 OpenAI 旗下的 ChatGPT 大火出圈，我也第一时间在淘宝买了个账号用起来。
我本职是搜索产品，对技术有些了解，一直觉得通用人工智能（AGI）是非常遥远的事情，目前的 AI 范式（Transformer 大模型）也不太可能实现。实际上，在 ChatGPT 之前，所有的通用型语音助手或聊天机器人给我的印象是，当玩具都觉得没意思。业内也偶尔自嘲：「有多少人工，就有多少智能」——AI 需要大量的标注数据
但 ChatGPT 非常惊艳，它能进行连续的非常流畅的对话，而且是全知的存在，在每个领域都能做到 60 分。虽不极致，但可用。很多人已经把它当辅助工具在使用，各种文字类工作都能指点一二，比如写剧本、写检讨书、写代码等等。
二、
当初觉得，目前的 AI 范式不可能实现 AGI，主要是它跟人理解世界的方式差异很大。
AI 模型的训练都是通过投喂大量的数据实现的，这个信息量远远超过一个人从小到大接受到的信息量，但 ChatGPT 之前的 AI 还是显的很笨拙，原因何在呢？
因为人有理解能力，能够从各种现象总结规律，再基于规律去分析、推理、解决问题。当老师通过一个案例介绍 SWOT 分析框架之后，学生可以很快的将该框架应用到其它案例中去，这便是理解能力。而且，从现象到规律，再利用规律分析解决问题，都具有可解释性。
而现在的 AI 范式，本质上仍然是在做模拟，通过大规模数据训练之后，模型可以回答问题。但模型并不真的理解问题，对答案和问题之间的逻辑关联性，也无法给出解释。我在工作中就非常头痛算法的黑盒效应，当你发现模型对某个问题的回答是错误的时候，很难确定模型为什么弄错了。
三、
但现在，ChatGPT 又表现出了超预期的智能，该如何解释呢？
首先，我想到的是大力出奇迹，ChatGPT 在 GPT-3 的基础上研发，GPT-3 的模型参数达到 1750 亿（常用来类比大脑突触，人脑有 100 万亿突触），预训练数据 45TB，以及超强的算力配合，训练成本达到 1200 万美元 1。量变是否引起了质变？
通过资料了解到另一个关键技术升级，ChatGPT 加入了基于人类的反馈系统（RLHF）2。先将大量无标注数据喂给模型，学习语言特征，再使用人类标注数据进行优化。所需的标注数据规模是极小的，便能优化到现在的效果。—— 少量人工，就实现高级别智能。
继续回来从人脑的角度来理解这些：
人的学习过程，或许没有像 ChatGPT 使用那么多的数据，但其实也不少。除了书面知识外，生活中的所见、所闻、所感，都是信息的输入。当我们还不识字时，就已经在反反复复的听、说、看到一些事物、概念，加强印象。
而 RLHF 系统，则完美贴合人类的教学活动。小孩子第一次看到猫咪不知道是什么，会问妈妈，妈妈会解释，第二次看到可能还不知道，再问妈妈，妈妈再解释，第三次多半就知道了。这便是将特征形成知识，存于大脑了。ChatGPT 也是如此，只不过，他不是碰到问题就问，而是先从看大量的文字资料，再通过与人类对话反馈优化已经学到的知识。
我们来想象两件事情：
我没有答案，只是觉得类比有趣。
如果 ChatGPT 生成的答案非常准确，在不确定的时候也能告诉你他只是猜测，以及从「文本生成」的角度（不是推理的角度）给出逻辑解释，是不是可以认为，ChatGPT 实现了理解呢？人类的可解释性，虽然在脑海中有推理过程，但最终呈现出来的仍然是语言。不是么？
四、
ChatGPT 的出现，让我觉得 AI（或至少 AIGC）在可预见的未来，在知识技能层面可以实现高级别的智能。会成为很多脑力工作者强大的辅助工具。
只要 AI 没有意识，便永远只是人类的工具。但高级别的知识智能，会不会再次量变到质变，突然产生意识呢，像很多电影拍的那样。
作者同名博客： SKYue
此内容由惯性聚合(RSS阅读器)自动聚合整理，仅供阅读参考。 原文来自 — 版权归原作者所有。