惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

量子位
Stack Overflow Blog
Stack Overflow Blog
人人都是产品经理
人人都是产品经理
The GitHub Blog
The GitHub Blog
Engineering at Meta
Engineering at Meta
Vercel News
Vercel News
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
Y
Y Combinator Blog
The Cloudflare Blog
Last Week in AI
Last Week in AI
B
Blog
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
T
Tailwind CSS Blog
V
Visual Studio Blog
博客园 - 三生石上(FineUI控件)
小众软件
小众软件
Google DeepMind News
Google DeepMind News
D
DataBreaches.Net
博客园 - 司徒正美
B
Blog RSS Feed
Microsoft Azure Blog
Microsoft Azure Blog
罗磊的独立博客
Hugging Face - Blog
Hugging Face - Blog
L
LangChain Blog

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派
AIGC浪潮下,普通人又该何去何从? - 少数派
2023-08-25 · via 少数派

这是一个信息爆炸的时代,各种新的技术和改革让我们目不暇接。

无论是神通广大的 ChatGPT,还是苹果引起热潮的 APPLE Vision Pro,抑或是最近物理学界和金融圈闹得沸沸扬扬的室温超导...

在面对这些突然全球爆火的技术和名词时,你是不是和我一样有种焦虑,担心自己因为没有搭上时代的快车而落后于人?又或者感到困惑,弄不清这到底是科技的浪潮还是资本的骗局?

时代的车轮滚滚向前,浪潮之中,作为一个普通人,我们又该何去何从?

Apple Vision Pro

ChatGPT只是互联网的一张缩略图

知名科幻作家特德姜今年2月9日在纽约客上面发表了一篇有关ChatGPT的文章,写的非常好,有兴趣的同学可以去读一下原文:

2013年德国一家建筑公司工人发现他们的复印机有个不大但很致命的问题:施工图的复印件里面有一个很重要的数字是房屋的面积大小,这个数字复印出来是错了。它不是乱码或者不清晰,而是会把施工图的数字给改成另一个,这真的见鬼了,因为你一个复印机复印出来的文件怎么会就去改动某个数字呢?为了解决这个问题,建筑公司特定请了一个计算机学家来debug;

最后问题终于发现了,复印机在复印的时候会先把原始文件压缩编码,再解码打印;因为这个压缩是有损压缩,导致在解码的时候部分数字的信息被替换成其他数字;这才有了这个不可思议的bug。

再说回到GPT上,特德姜说GPT或者其他的老流氓也就是LLM(Large Language Model,即大语言模型)其实也可以类比成复印机。只不过输入给老流氓的是整个互联网,ChatGPT将整个互联网上信息编码压缩成了一张模糊的照片;

因为老流氓们很擅长创建语法文本,所以当它把这张模糊的照片解码打印出来时,我们会感觉是在和一个活生生的人在交谈。事实上正因为ChatGPT的模糊和不确定,每次给出的回答都不一样,我们才会觉得它这么好玩有趣,简直像一个真人一样。

但事实上ChatGPT并不理解输入给它的这些材料,它可以看成是一个在某种统计规律下的,对互联网上文本信息进行高效压缩编码再解码的复印机;举个最简单的例子,我现在随便问它一个稍微复杂一些的整数乘法数学问题,它会一本正经地胡说八道,如果我们不加筛选,很容易就被骗了。

实际上等于1032845

我相信所有深度用过ChatGPT的朋友,都会发现它有很多让人哭笑不得的常识性错误;

虽然现在gpt4.0的模型已经可以正确解数学题了,但是我们还是可以通过这个看到其本质,

ChatGPT只是互联网的一张缩略图

递归的诅咒

还有一个事实可以佐证特德姜说的有损压缩这点,在训练这些老流氓时,要去尽可能的去喂给他们高质量的内容,否则就是GIGO, 也就是Garbage in, garbage out垃圾进垃圾出;

之前出了一个新闻,2023 年 5 月底,开放获取期刊 arXiv 上有一篇名为《递归的诅咒》的文章引起了广泛的关注;

讲如果我们拿AI生成的内容再去喂给AI,这样反复循环,最后会导致整个模型出现不可逆的缺陷;学者们把这个现象称之为 Model Collapse 也就是老流氓的崩溃;

简单示意图

结合特德姜的文章其实很好理解,因为AI生成是一种有损压缩,通过不断地压缩迭代,原始的信息也会越来越少,噪点越来越多,最后必然导致整个模型的崩溃;

就像我们压缩照片和视频一样,不断的压缩之后,这个照片和视频就会出现“电子包浆”,各位资深冲浪爱好者应该都看过这种全损画质的内容,因为压缩带来的就是不可逆的损失。

当然一个好的老流氓可以做到压缩比非常高,就像在做的各位一样,哪怕是抽象成这种程度,我们也可以在脑海中解码出一段莫名的音乐和神秘影像。因为我们已经创建了非常详细的心理表征。

只是普通的自然风光

让子弹飞一会儿

言归正传,其实特德姜没有贬低ChatGPT的意思,只是在提醒人们不要过度地神话这波AIGC浪潮;

我们都知道AI是一个非常好用的工具,我自己也经常把GPT当作我的英语老师以及百科助手在用;甚至我现在遇到任何专业上的问题,都会先去咨询GPT,会得到一个非常好的结果;

GPT的4.0模型也可以进行一些算法工作,写个Excel函数更是不在话下,但我们不要去有一种FOMO的心态,就是Fear of missing out, 担心自己错过这个,错过那个;

要知道这个世界上随时随地有很多好玩新奇的事情在出现,作为一个普通人,我们不需要去事事都去赶第一波浪潮。事实上,我现在已经是习惯让子弹飞一会儿,时间就像筛子一样,会留下真正有用的东西;

这个时候我们再去虚心地去接受它,学习它;然后快速地掌握它,最重要的就是要去使用它;

因为一把铲子,它再好用,如果你不用来挖坑,只是挂在墙上,那它就一点价值都没有。

最后我们以乔布斯在斯坦福那次著名演讲里的那句话作为收尾吧:

Stay hungry, stay foolish.

时代的浪潮可能来了又去,但只要我们永远保持一颗敏感的心,保持积极乐观的态度,把我们所做的事情做到极致,机会自然会垂青我们,毕竟好运可不会眷顾傻瓜。