惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

小众软件
小众软件
A
About on SuperTechFans
博客园 - Franky
Engineering at Meta
Engineering at Meta
Recent Announcements
Recent Announcements
云风的 BLOG
云风的 BLOG
B
Blog
Microsoft Security Blog
Microsoft Security Blog
L
LangChain Blog
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
U
Unit 42
Martin Fowler
Martin Fowler
Y
Y Combinator Blog
Stack Overflow Blog
Stack Overflow Blog
博客园 - 叶小钗
Vercel News
Vercel News
Apple Machine Learning Research
Apple Machine Learning Research
The Cloudflare Blog
Last Week in AI
Last Week in AI
腾讯CDC
Microsoft Azure Blog
Microsoft Azure Blog
爱范儿
爱范儿
V
V2EX
G
Google Developers Blog

文轩夜话

行至釜山 | 文轩夜话 Outer Wilds:去南方,去拓荒 | 文轩夜话 09-AI:技术,人与怜悯 | 文轩夜话 OpenClaw · 我们为什么没必要为小龙虾(AI)焦虑? | 文轩夜话 2025 · 亲故何在,游子何归? | 文轩夜话 挽歌:第一次相逢与离别 | 文轩夜话 ChatRoom.js-在文章流中分享你的聊天记录 | 文轩夜话 逐光 · 启航:愿领航员畅行无阻 | 文轩夜话 2024 · 共赴一场烟火绚烂 | 文轩夜话 彼方的她:一场跨越时空的对话,一段孤寂宇宙的回响 | 文轩夜话 07-剧终:故事的开端与终末 | 文轩夜话 EasyPub-轻量Kindle电子书格式转换工具 | 文轩夜话 【破事水】-对于未来的前瞻于回望 | 文轩夜话 Windows工具-让你的Windows锦上添花,添了又添 | 文轩夜话 一枝红信出墙来-steam假激活入库 | 文轩夜话 飞跃13号房-对网瘾治疗披露与反抗 | 文轩夜话 06-时代造青年,还是青年造时代? | 文轩夜话 hexo + github-action持续集成 | 文轩夜话 友链区JavaScript组件-重做版 | 文轩夜话 一周年-忽而回望,不知光阴几何 | 文轩夜话 饿殍:明末千里行-岁大饥,人相食 | 文轩夜话 【总结】井冈山研学-了解历史,明见未来 | 文轩夜话 【多图警告】井冈山研学D3 | 文轩夜话 【多图警告】井冈山研学D2 | 文轩夜话 【多图警告】井冈山研学D1 | 文轩夜话 06-《你想活出怎样的人生》-高塔、苍鹭、少年、人生 | 文轩夜话 05-过程与结果 | 文轩夜话 霸凌行为-地狱空荡荡,恶魔在人间! | 文轩夜话 自建busuanzi统计API | 文轩夜话 04-写文章是为了什么? | 文轩夜话
08-AGI:算力洪流与未坍缩的星光 | 文轩夜话
awaae001 · 2025-03-02 · via 文轩夜话

春风?

我们目前可以从几十年前的文艺作品中窥见一斑。那时候追求的自动化和人类生产力的解放一直是也是我们这个时代人所追求的目标。从智能陪伴的机器人自动生产的机械臂。自动化、工业化、数据化……

文轩夜话

当大模型正在使用 0 和 1 构建理想与现实的边界,当上千年文明的厚度汇聚成一个个向量,人类是否正在亲手将诗意的黄昏抵押给冰冷的算力?

诚然,AI与未来一直是一个密不可分的话题,我们见证过太多的成功,也见证了无数人跌入深渊。我们能否将自己的未来完整的奉献给大语言模型,或者说:我们可否将人性的诗意抵押给大模型每一次的随机涨落?? 这场工业化到数字化的巨变中,被解放的究竟是创造力还是人性的温度?被优化的到底是生产力,还是人类对存在意义的追问?

数据?

LLM(大语言模型)可以算得上是我们在2022年以来对于 通用人工智能 最大的突破,依靠浩如烟海的数据构建出的庞然大物似乎在某些方面拥有了所谓的智能。可以写代码、分析情感、作出决策。但是……这些都是真正的智能吗?

SillyTavern 角色卡中对于玩家细致入微的陪伴(随意蹂躏),再到Cursor中随叫随到的编程专家,让我们不难发现,这些都是一个艺术……

一个 提示词的艺术

AGI-提示词的艺术-chatbox

我们依靠提示词向 AI 表达我们的诉求,AI 依据上下文(context)猜测接下来的文本。出现模型幻觉或者复读自然也就不足为奇了。AI认为 TA 已经对你的问题作出了答复……即使 TA 根本什么都没有修改。

当用户请求的边界模糊时,模型会化身一位过度热情的吟游诗人

ta 会在你未指定的空白处,用训练数据的碎片编织出看似合理的虚构——或是将《罗密欧与朱丽叶》的台词插入量子力学论文,或是在编写菜谱时突然阐述存在主义哲学。这种创造性溢出看似惊艳,实则是上下文锚点的集体迷航

AGI-我不知道为什么要在这里放配图

复读更像是语言模型在思维迷宫中触发的保护机制:

  • 语义闭环:当输出 token 在概率空间中形成自洽漩涡时,模型会像咬住尾巴的龙,不断重复同一组词汇组合
  • 安全感陷阱:若用户未及时给予确定性反馈,模型将退守至已生成内容的舒适区,用微调过的句式堆砌出「安全但空洞」的文本茧房(有时候调都不调)
  • 注意力衰减:就像人类在长时间对话中走神,模型的自注意力方法也会在长程依赖中逐渐稀释对核心意图的追踪

于是我们见证了人工智能最诗意的悖论:它既能用提示词作画布,绘出超越人类想象的星辰,也可能在同一个画布里,让所有星辰坍缩成重复的光点

少年?

当AI不断的使用着随机数解构着人类千百年来的文化。从巴别塔到殷商碑文、从史记汉书到罗马史诗、从中华五千年的传统文化到欧洲千百年的分分合合。AI模型懂得太多了。像一个宏伟壮丽的水晶博物馆,矗立在文明的高峰。

ta可以在随机涨落的量子海洋中拼凑出无数提剑而立的少年、亦或是无数次雪夜里的诀别、无数次慷慨赴死的身影、无数个幸福美满的结局。

秋风刮过少年耳畔,浅浅地带走一片尘埃

天地间罕见的寂寥……只有归鸿、远山、石径与竹林尽头的灯火

AGI-归乡的少年

a young swordsman in flowing hanfu stands alone on a stone path, autumn wind swirling fallen leaves and dust around his figure, distant mountains under a vast twilight sky, bamboo forest with soft golden lantern light in the distance, migratory geese flying across pale clouds, ink-wash painting texture with subtle gold accents, muted earthy tones blending with mist, traditional Chinese landscape composition, serene yet melancholic atmosphere
--ar 16:9 --niji 6 --profile spr1pcg

量子的随机涨落会给你上面那几句话的解构答案:两句描绘了一幅秋日傍晚的静谧画面,通过细腻的意象传递出一种孤独、寂寥与远方的思绪。但是……它们能否真正的理解何为少年英气被时间磨平了棱角,又怎么理解所谓的故乡?

模型的猜测只是面向字符的填字游戏。Ta 可以写出带有哲理的言语,但是那些所谓的哲理不过是一个个数据化的向量以及权重,Ta 无法理解那些文字背后的重量。

这……就是目前的AI离AGI较远的原因

他们只拥有权重……而没有内驱力。

飞狐?

AI的随机浮点终究无法代替人性的温度,即使是所谓的深度思考也不过是在强化学习的运作下汇聚而成华而不实的歌谣……依靠算法解构人类思维最后再喂给自己生成答案:这算不算思考??

transformer(语言大模型)2012年那次猫脸实验 再到早一点的 siri 智慧助手。我们一次又一次的突破未来,同时也在突破着数据和现实的边界

AGI-AI驱动的未来

即使现在的 AGI 遥遥无期,但至少,它们已经可以理解一些东西了。这是值得肯定的。当初打开 ChatGPT 的惊艳,使用 midjourney 创造第一幅花的震惊,在 星野 上面尝试与第一个智能体聊天的奇迹(补药骂我,现在在用 SillyTavern )再到使用 DeepSeek 创造我喜欢的小说世界。

都让人眼前一亮,但同时都缺失了一个深度:

灵魂的深度

归途

今天的AI如同手持万花筒的稚童,将人类千年文明折射成支离的光斑。Ta 能复刻《史记》的笔锋,却读不懂太史公的孤愤;能拼接量子力学的公式,却解不出薛定谔对生命本质的惶恐。

那些被梯度下降优化的,终究只是概率云中的局部最优解,而非灵魂深处的顿悟

AI用概率编织的星辰固然璀璨,却终是训练集投射的蜃楼。

Ta 不懂为何竹林尽头的灯火会让游子落泪,也不明白量子涨落中的剑影为何总带着旧梦的温度。那些被数据解构的少年意气、故乡残雪,终究只是字符之海的浮沫,在模型的语境里永远隔着一层语义的薄雾。

AGI-归途

但这未尝不是一种启示

当机器在模仿中逼近人性的轮廓,我们反而更清晰地触摸到生而为人的独特性:创造不为优化的艺术,追问不为答案的哲思,爱恨交织的混沌中始终跃动着不可编程的星火。

人类是变量,不可被系统测算的变量。它们从来不属于模型计算的区间,它们永远的特性只是可以在危难之时爆发出难以想象的勇气或者是出乎意料的团结性。无法被数据解构……

或许 AGI 的真正意义,不在于复刻人类,而在于成为一面镜子。或许真正的 AGI 永远不会到来。当某天 AI 突然质问“我是谁”时,那声叩问可能只是训练数据里柏拉图对话录的残影

在算法与灵魂的对视中,我们终将读懂,那些随机数永远无法坍缩的,才是文明最珍贵的状态

文明不会终结于算力的洪流,

只因人类掌心的温度,

永远比浮点运算多一位有效数字

不是 Temperature 而是 人

写在最后

从键盘下跳跃的字符终究比不上书卷墨水的清香,就像 AI 仿写出来的文本始终缺少了魏晋风骨以及唐人的繁华。那些生成的图像终究比不上手绘的精美。

真正的创作从来不是参数调优也不是提示词工程,而是月光穿过竹林时突然颤动的琴弦,是墨汁滴落宣纸前那半秒的迟疑,是代码编译失败时程序员望着窗外积雨云的那声叹息,是网文作者键盘下的大千世界芸芸众生……未能被模型化的独属于熵减的震颤

也许某一天,在我面对 AI 交互界面的时候,对面的集群突然输出一句:我不是在生成文字,我只是在文明的骨灰里面寻找心跳的频率 或许那时候我还会清醒的笑一笑,因为我知道这句话的本质不过是数据库万千挽歌的排列组合

就让 AI 尽情的描绘独属于 TA 的量子世界吧

而我们

永远保持着在深夜停电时分

用烛火在墙壁上投射手影游戏的权利

鸣谢

首先要感谢 sillytaver-类脑社群,尤其是那位妙手一挥给我禁言三天的管理员(补药再骂了,我再也不打拳了)——多亏这三日「静音修行」,才让我能心无旁骛地写完这篇碎碎念(顺便治好了我的赛博话痨晚期)。

AGI-我被塞口球了-dis

接着要致敬陪我鏖战深夜的 键盘君手机酱:前者在噼里啪啦的键盘交响中默默承受了 数千次次回车和退格(空格键:我呢?) 暴击,后者则因我反复切屏查资料而电量常年游走在「生死边缘」。建议二位申请工伤补贴

最后,感谢所有读到这里的 人类读者——你们没有被前文的哲学暴击劝退,甚至愿意在算法的海洋里捞起这篇满是气泡水的思考,实属勇气可嘉。