惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

罗磊的独立博客
Forbes - Security
Forbes - Security
Blog — PlanetScale
Blog — PlanetScale
P
Proofpoint News Feed
Apple Machine Learning Research
Apple Machine Learning Research
Google DeepMind News
Google DeepMind News
MyScale Blog
MyScale Blog
GbyAI
GbyAI
B
Blog RSS Feed
S
SegmentFault 最新的问题
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
CTFtime.org: upcoming CTF events
CTFtime.org: upcoming CTF events
小众软件
小众软件
The Last Watchdog
The Last Watchdog
W
WeLiveSecurity
Webroot Blog
Webroot Blog
S
Security @ Cisco Blogs
Hugging Face - Blog
Hugging Face - Blog
Microsoft Security Blog
Microsoft Security Blog
月光博客
月光博客
博客园 - 聂微东
F
Fortinet All Blogs
H
Hacker News: Front Page
A
About on SuperTechFans
Application and Cybersecurity Blog
Application and Cybersecurity Blog
C
Check Point Blog
V
V2EX
Threat Intelligence Blog | Flashpoint
Threat Intelligence Blog | Flashpoint
Y
Y Combinator Blog
酷 壳 – CoolShell
酷 壳 – CoolShell
N
News | PayPal Newsroom
Cisco Talos Blog
Cisco Talos Blog
Exploit-DB.com RSS Feed
Exploit-DB.com RSS Feed
The Cloudflare Blog
P
Privacy & Cybersecurity Law Blog
N
Netflix TechBlog - Medium
C
CXSECURITY Database RSS Feed - CXSecurity.com
Recorded Future
Recorded Future
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
Google DeepMind News
Google DeepMind News
大猫的无限游戏
大猫的无限游戏
美团技术团队
Security Latest
Security Latest
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
I
InfoQ
Recent Announcements
Recent Announcements
The GitHub Blog
The GitHub Blog
Google Online Security Blog
Google Online Security Blog
T
The Exploit Database - CXSecurity.com

老范讲故事|AI、大模型与商业世界的故事

Anthropic和中国政府的双向封禁,Claude Code风波5层拆解:后门、禁用与反限制! - 老范讲故事|AI、大模型与商业世界的故事 苹果起诉OpenAI内幕 - 老范讲故事|AI、大模型与商业世界的故事 广西洪水无人机吊人,飞手带大疆驰援彻底出圈! - 老范讲故事|AI、大模型与商业世界的故事 华为天才少年被质疑抄代码,DeepSeek面试翻车,谁的错? - 老范讲故事|AI、大模型与商业世界的故事 豆包千问7月15日,同日下线智能体:真实原因并不仅仅是国家的AI恋爱禁令? - 老范讲故事|AI、大模型与商业世界的故事 小红书上市前夜:一封举报信卡住IPO? - 老范讲故事|AI、大模型与商业世界的故事 Meta卖算力传闻后,AI行情为何三天剧震? - 老范讲故事|AI、大模型与商业世界的故事 Palantir CEO破防怒骂OpenAI和Anthropic,他真正怕的是什么? - 老范讲故事|AI、大模型与商业世界的故事 苹果塔塔泄密后,iPhone 18发布会还剩什么悬念? - 老范讲故事|AI、大模型与商业世界的故事 中国算法养蛊罐,为什么能孵出全球妖怪? - 老范讲故事|AI、大模型与商业世界的故事 Claude大封号背后,账号为何突然消失? - 老范讲故事|AI、大模型与商业世界的故事 缺乏底层创新和品牌力,只能靠刷分作弊的小米,将内卷当做执行力的典范。 - 老范讲故事|AI、大模型与商业世界的故事 从苹果涨价看懂—— 4 次泡沫后的赢家规律! - 老范讲故事|AI、大模型与商业世界的故事 美国AI监管盯上GPT-5.6,真正漏洞在哪? - 老范讲故事|AI、大模型与商业世界的故事 中国超算重回全球第一,超算和AI算力中心不是一回事,英伟达为什么在这一块不灵了? - 老范讲故事|AI、大模型与商业世界的故事 Elon Musk生日快乐,SpaceX收购Tesla,路上的5个问题。 - 老范讲故事|AI、大模型与商业世界的故事 Anthropic举报阿里蒸馏Claude,林俊旸走后,新来的人必须证明老板选择自己是正确的! - 老范讲故事|AI、大模型与商业世界的故事 婴幼儿纸尿裤甲酰胺罗生门:孩子体内来源成谜? - 老范讲故事|AI、大模型与商业世界的故事 Sakana AI跑分超越Mythos,但日本AI依然无法与中美竞争! - 老范讲故事|AI、大模型与商业世界的故事 美国指责荷兰ASML让中国得到了EUV光刻机零件,ASML反击,我没有卖任何EUV主机给中国? - 老范讲故事|AI、大模型与商业世界的故事 Anthropic 泄露 Fable 5的12万字提示词,能抄吗?一句话复活Fable5? - 老范讲故事|AI、大模型与商业世界的故事 Google DeepMind连续有大神投敌,Google这是要完? - 老范讲故事|AI、大模型与商业世界的故事 DeepSeek融资510亿,4个霸王条款,梁文锋如何拿捏资本? - 老范讲故事|AI、大模型与商业世界的故事 500亿港元上市,智谱继续飞,MiniMax却崩了,为什么??? - 老范讲故事|AI、大模型与商业世界的故事 英国16岁社媒禁令:孩子会被赶去哪里? - 老范讲故事|AI、大模型与商业世界的故事 山姆被约谈之后道歉了,以后还能去吗? - 老范讲故事|AI、大模型与商业世界的故事 AI Agent时代,普通人的避坑指南! - 老范讲故事|AI、大模型与商业世界的故事 马斯克敲钟,桑德斯收税:AI 财富到底该归谁? - 老范讲故事|AI、大模型与商业世界的故事 鹅腿阿姨翻车:清北学生不傻,缺的是社会认知! - 老范讲故事|AI、大模型与商业世界的故事 Mythos5和Fable5,被美国政府勒令全网下架,Anthropic求锤得锤? - 老范讲故事|AI、大模型与商业世界的故事 Anthropic 的 CEO万字长文,又在给全人类指点江山了? - 老范讲故事|AI、大模型与商业世界的故事 美国国防部 1260H 清单,仅仅是一种羞辱吗? - 老范讲故事|AI、大模型与商业世界的故事 印度IT被AI冲击,中国社媒在喊,印度完蛋了? - 老范讲故事|AI、大模型与商业世界的故事 时至今日——高考还能改变命运吗? - 老范讲故事|AI、大模型与商业世界的故事 Token账单爆炸:大厂到底错在哪里? - 老范讲故事|AI、大模型与商业世界的故事 钉钉内网7万字长文揭露,老板为了证明自己的管理合法性,如何摧毁产品? - 老范讲故事|AI、大模型与商业世界的故事 Anthropic喊停AI?真要暂停还是上市前造势? - 老范讲故事|AI、大模型与商业世界的故事 谷歌800亿融资,巴菲特久违接盘,背后有什么鬼故事? - 老范讲故事|AI、大模型与商业世界的故事 OpenAI合并ChatGPT和Codex,AI超级App路线浮出水面! - 老范讲故事|AI、大模型与商业世界的故事 AI 的切尔诺贝利时刻,真正可怕的不是事故,而是不愿意承认事实? - 老范讲故事|AI、大模型与商业世界的故事 英伟达N1X——去年DGX Spark的冷饭回锅了?这一次就能不一样吗? - 老范讲故事|AI、大模型与商业世界的故事 张雪机车WorldSSP五冠真相 - 老范讲故事|AI、大模型与商业世界的故事 法拉利卢切被群嘲的真正原因 - 老范讲故事|AI、大模型与商业世界的故事 Anthropic融资投后估值9650亿美金,距离万亿美金的350亿缺口藏了什么? - 老范讲故事|AI、大模型与商业世界的故事 教皇发布AI通谕——为什么只有Anthropic可以出现在梵蒂冈? - 老范讲故事|AI、大模型与商业世界的故事 宇树科技儿童节IPO,难道是玩具公司 - 老范讲故事|AI、大模型与商业世界的故事 华为韬定律,洪秀全说上帝是我哥,这两件事,有什么关系? - 老范讲故事|AI、大模型与商业世界的故事 DeepSeek融资背后的控制权之争 - 老范讲故事|AI、大模型与商业世界的故事 碳水脸背后的审美焦虑与鄙视链 - 老范讲故事|AI、大模型与商业世界的故事 Google I/O失焦与Gemini困局 - 老范讲故事|AI、大模型与商业世界的故事 国产存储双雄长鑫存储和长江存储冲刺上市,存储周期拐点将至? - 老范讲故事|AI、大模型与商业世界的故事 华为鸿蒙逼迫贡献者归档,亲自断送开源生态! - 老范讲故事|AI、大模型与商业世界的故事 三星罢工倒计时,中国HBM产业链的机会来了? - 老范讲故事|AI、大模型与商业世界的故事 英伟达H200解禁后的中国算力博弈 - 老范讲故事|AI、大模型与商业世界的故事 李想两小时播客:一个万人大厂 CEO,怎么看 AI 时代? - 老范讲故事|AI、大模型与商业世界的故事 ENEMY短剧爆火,50亿播放只有2392元收入? - 老范讲故事|AI、大模型与商业世界的故事 耿同学爆火背后的科研打假风险与边界 - 老范讲故事|AI、大模型与商业世界的故事 宇树GD01机甲卖390万:高达成真还是IPO广告? - 老范讲故事|AI、大模型与商业世界的故事 黄仁勋CMU演讲:这碗AI 毒鸡汤藏了什么? - 老范讲故事|AI、大模型与商业世界的故事 哪 8 家电车厂被约谈了?AI 时代的猎巫故事! - 老范讲故事|AI、大模型与商业世界的故事 Vibe Coding治网瘾?孩子为何越写越上瘾? - 老范讲故事|AI、大模型与商业世界的故事 Anthropic Pre-IPO 估值 1.2 万亿美金,超过 OpenAI 成为估值最高的 AI 企业,三层误解,一个风险 - 老范讲故事|AI、大模型与商业世界的故事 最新编程跑分 ProgramBench,大模型全军覆没,AI编程真正可怕在哪? - 老范讲故事|AI、大模型与商业世界的故事 三星家电为何卖不动:高端不尖低端不狠? - 老范讲故事|AI、大模型与商业世界的故事 豆包68到500元:5层认知差看懂AI收费! - 老范讲故事|AI、大模型与商业世界的故事 硅谷 CTO 放弃职位,投奔 Anthropic,难道仅仅是为了理想? - 老范讲故事|AI、大模型与商业世界的故事 FDE爆火:企业AI最后一公里 - 老范讲故事|AI、大模型与商业世界的故事 中国AI两周观察:美国投资人为何沉默 - 老范讲故事|AI、大模型与商业世界的故事 Elon Musk 2025打白工?财报上的 1583 亿美金薪酬,哪去了? - 老范讲故事|AI、大模型与商业世界的故事 武汉百度萝卜快跑武汉停摆,集中式管理就是制造单点故障隐患! - 老范讲故事|AI、大模型与商业世界的故事 DeepSeek V4 发布没炸场,却靠降价掀起革命? - 老范讲故事|AI、大模型与商业世界的故事 剪映即梦猫箱被约谈与AI标识新规解读 - 老范讲故事|AI、大模型与商业世界的故事 Meta收购Manus被叫停解析 - 老范讲故事|AI、大模型与商业世界的故事 高德地图冲击台湾导航市场 - 老范讲故事|AI、大模型与商业世界的故事 GPT-5.5与DeepSeek V4,AI 竞争进入新格局! - 老范讲故事|AI、大模型与商业世界的故事 马斯克买Cursor,不是为AI编程,而是掩盖xAI算力利用率? - 老范讲故事|AI、大模型与商业世界的故事 苹果印度385亿美元罚单?竟然是因为约泡,导致的? - 老范讲故事|AI、大模型与商业世界的故事 哪吒汽车被央视点名后,谁才是真正的车圈恒大? - 老范讲故事|AI、大模型与商业世界的故事 AI大厂高薪招文科生?真相不是翻身,而是抢叙事权! - 老范讲故事|AI、大模型与商业世界的故事 北京机器人半马冠军竟是手机厂商,荣耀凭什么包揽前三? - 老范讲故事|AI、大模型与商业世界的故事 SpaceX IPO估值争议全解析 - 老范讲故事|AI、大模型与商业世界的故事 DeepSeek融资别急着冲!100亿美金估值最危险的是退出难! - 老范讲故事|AI、大模型与商业世界的故事 幽灵外卖重罚35.97亿:拼多多为何独吞15.22亿? - 老范讲故事|AI、大模型与商业世界的故事 Claude KYC上线:中国开发者影响解析 - 老范讲故事|AI、大模型与商业世界的故事 微软龙虾要来了?CEO 亲自下场,为什么我却不看好? - 老范讲故事|AI、大模型与商业世界的故事 夸克网盘美剧链接为何一夜失效?天塌了,国家整治网盘传播美剧 - 老范讲故事|AI、大模型与商业世界的故事 XChat上线在即:马斯克真能做出美国版微信? - 老范讲故事|AI、大模型与商业世界的故事 中国AI末日论与追赶美国真相 - 老范讲故事|AI、大模型与商业世界的故事 SBTI 爆火背后的传播逻辑 - 老范讲故事|AI、大模型与商业世界的故事 Hermes Agent能替代OpenClaw吗?老范 实测后震惊了? - 老范讲故事|AI、大模型与商业世界的故事 Claude Mythos 到底多可怕?准备加入核不扩散公约吗? - 老范讲故事|AI、大模型与商业世界的故事 大厂为何招中学生?5个真实目的,说透大学与AI时代! - 老范讲故事|AI、大模型与商业世界的故事 同事.skill爆火:AI蒸馏人与法律风险 - 老范讲故事|AI、大模型与商业世界的故事 Sam Altman 都要见一下的,第一家 AI 一人公司 MedVi 创始人,到底是干什么的? - 老范讲故事|AI、大模型与商业世界的故事 AI裁员第一人?杰克·多西把Block改成了什么 - 老范讲故事|AI、大模型与商业世界的故事 清明节年轻人不扫祖坟,为什么跑去给曹操送布洛芬? - 老范讲故事|AI、大模型与商业世界的故事 张雪ZXMOTO夺冠争议全解析 - 老范讲故事|AI、大模型与商业世界的故事 Oracle裁员3万人,AI先清哪些岗位 - 老范讲故事|AI、大模型与商业世界的故事 Claude Code 源码泄露全解析 - 老范讲故事|AI、大模型与商业世界的故事 长护险全国铺开了,为什么真正的难题才刚开始? - 老范讲故事|AI、大模型与商业世界的故事
Meta投毒与AI数据污染 - 老范讲故事|AI、大模型与商业世界的故事
Luke Fan · 2026-07-10 · via 老范讲故事|AI、大模型与商业世界的故事

Meta 标志形状的社交信息流被标成“投毒”警示,旁边是多个 AI 聊天机器人和数据管道的关系图,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

最近,Meta 向各大 AI 竞争对手“投毒”成为了一个新梗。这到底是怎么回事?

大家好,欢迎收听老范讲故事的 YouTube 频道。

大家注意,“投毒”这个词非常狠,也非常有画面感,特别容易传播。所以,“Meta 投毒”这个传播事件本身,就是对于 Meta 自己形象的一次投毒。

今天咱先不着急拆解这个故事的每一个细节,我们先讲一个题外话,而且这个题外话跟今天要讲的事情息息相关。

从本周开始,所有在我视频下面留言说“你是 AI 读稿”“你这就是照着 AI 稿念”,或者“这就是机器人在念稿”,以及有些人在我的评论区里头用 Gemini 做总结,或者用 AI 总结了一大堆东西给我发这儿的,从这周开始一律删评论,屏蔽评论者。至于为什么,咱们后边再讲。

AI 污染互联网之后,谁还能拿到干净的人类数据?

互联网内容海洋中漂浮着人类手写纸张和 AI 生成文档,数据筛网正在艰难分离干净样本与污染样本,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

咱们接着讲 Meta 这个事情。它绝不是只讲 Meta,它讲的是一个更大的问题,也就是:当 AI 开始污染互联网,谁还能够拿到真正干净的人类数据?而且真正干净的人类数据对于 AI 下一步的发展,为什么至关重要?

现在没有被 AI 污染的内容肯定已经越来越少了。从 AI 出来的那一天开始,我们就在大量使用 AI 生产各种各样的内容。你说我现在这个内容是纯原生由人生成的,哇,这玩意实在太值钱了。

但是你说今天我讲的稿有没有 AI 的痕迹?有。我肯定会使用 AI 帮助搜集信息、总结要点,那一定不是一个原生的人的内容,这个事咱们还是要承认的。

现在一篇文章里头,可能是人写了大纲,然后 AI 扩写,人再改一遍。你去看现在一些号称最接近于人类撰写的东西是什么?就是论文。但是论文里头真正由人产生的、有价值的东西是什么?是数据。里边那个文字,大量都是由 AI 润色和修改过的。特别是你让中国人去写英文论文的时候,你根本就避免不了这件事情。

大家知道什么数据是 AI 率最高的数据吗?程序,代码。现在大概 90% 的代码都是由 AI 来写的,而且这玩意写的速度贼快,是人类绝对无法去追赶的。文字内容 AI 生成了以后,人还会去看,还会去修改一下。程序代码 AI 生成完了以后,人通常连看都不带看,就直接提交掉了。所以现在真正 AI 占比最高的数据,其实是代码数据。

那你说,我们把它挑出来不就完事了吗?把纯人生成的内容挑出来。现在问题就是挑不出来,都是由人跟 AI 一起生成的,你咋挑?你根本就没法挑。

为什么偏偏是 Meta 显眼?

 聚光灯照在 Meta 角色身上,旁边 X、TikTok、YouTube 平台角色站在半暗处,地面散落 AI 垃圾内容卡片,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

那你说,为什么偏偏是 Meta 呢?这种事谁都干,X 也干,Meta 也干,谷歌的 YouTube、TikTok、X,大家都有大量的 AI 内容上去,怎么就 Meta 这么显眼呢?

第一个,它自己确实是个显眼包,表演了很多的行为艺术。第二个,人类为什么要用 AI 生成内容?大家想没想过这个问题?这个东西叫有组织、有预谋、有计划的。

你去看刑侦剧,警察审讯,如果你是“我偶然干了一次”,这个判得是比较轻的。但是你有组织、有预谋、有计划,这个事就判得比较狠了,这个性质不一样了。人类产生 AI 垃圾也是如此。

Meta 信息流的价值与 AI 垃圾

先说 Meta。它这个信息流是非常非常有价值的,我们会通过使用 AI 优化信息流,来获得更高的点击、更高的展示,卖掉更多的东西。Meta 下边有 Facebook,有 Instagram,有 Reels,这些东西每天都要承接全球大规模的社交内容,在上面洗来洗去的。

我们发了这么多社交内容是为什么?还是为了卖东西,为了更高的转化率,为了卖掉更多的商品。在这个过程中使用 AI,很多人说 AI 有用吗?有,在这里真的有用,我们卖掉了更多的东西。

所以它会产生两种内容:

  • 第一种内容叫做 AEO,或者叫 GEO,也就是我们去影响 AI 生成过程的这些内容。
  • 第二种就叫 AI 垃圾,我们会快速地使用 AI 生成大量低质量、同质的内容。

那你说 AI 垃圾有什么用?除了给大家添堵之外,到底有什么用?很有用。你想,Meta 这样的系统是靠推荐算法上的,就跟我们去抽奖似的。抽奖的时候,有人在门口放一盒子,你扔名片进去,然后他在里头抽,抽出名片来你就得奖了。那怎么提高中奖率?一次扔一盒名片进去,不就提高中奖率了吗?

所以这种 AI 垃圾内容,直接给一大堆候选项,你抽中谁都是我,就玩这种东西。

各个平台的应对差异

这些内容在 Meta 上,在 TikTok 上,在 X 上,在 YouTube 上都有,但是各家平台采用的策略不一样。

先说 X。X 真的是训练场,大家各种东西都上去玩。但是 X 有一点是很重要的:API 很贵。马斯克收购了 Twitter 以后,把原来免费的 API 关了,现在的 API 非常非常贵。所以 X 上面的信息,你可以拿它去训练 xAI 自己的模型;其他的模型你说我想拿这个数据,非常非常难。

那 TikTok 呢?TikTok 有长期跟中国 MCN 机构,以及很复杂、很内卷的网络环境斗争的经验,所以它对于 AI 垃圾是有比较强的战斗力的。而且它还要面对中国政府维稳的要求,它的反应速度也很快。另外,TikTok 反爬的能力也很强,它也不希望你把它的内容拿走。它希望什么?形成闭环:你老老实实在我这里头看完视频,把东西买走,不要出去。这是 TikTok 干的活。所以 TikTok 对于整个环境的污染也不是很厉害。

那 YouTube 呢?YouTube 一直在鼓励大家使用 AI 去生成高质量的内容,但是它对于 AEO、GEO 的内容,对于 AI 垃圾的打击也是非常非常严厉的。

而且我们要搞清楚谷歌是干什么的。YouTube 后边是谷歌,谷歌做了这么多年的搜索引擎,做了这么多年的广告系统,它从出生那天开始就在跟 SEO、跟广告刷量、跟这玩意做斗争。所以处理这些 AI 垃圾内容,处理这些 AEO、GEO 内容,包括像以前 SEO 影响它推荐系统的这些内容,人家靠这玩意吃饭的,这是看家本领。所以谷歌这块也还好。

那 Meta 呢?这么有价值的信息流,这么多垃圾内容上来以后,它也在进行管理,但是它整个的技术就要比别人差,处理的过程就要比别人慢,所以它这里确实会更多地污染别人。

为什么把“AI 稿”评论定义为投毒?

视频评论区里一排“AI 稿”标签像小毒针扎向推荐算法仪表盘,创作者账号旁边出现删除和屏蔽按钮,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

下面我们来解释一下,我为什么会把 AI 稿的评论都定义为投毒,然后直接把评论删掉,把发评论的人直接拉黑。

这些写着说“你这是 AI 稿吧”“你这是 AI 写的吧”的人,其实压根就没有看我的视频。他可能看了个标题,他不喜欢,然后也不讨论任何事实、逻辑和结论,就上来发这么一条。他们的目的,其实是要去影响谷歌 YouTube 的推荐算法。

因为刚才我们讲了,YouTube 会去调整权重,把这些被用户质疑为 AI 垃圾稿的权重降低。谷歌怎么去挑选说,你这个到底是 AI 垃圾,还是由 AI 辅助生成的高质量内容呢?它自己有一定的技术能力,但是最简单的就是看评论。

一帮人上来评论:“你这就是 AI,AI 内容,没有任何价值,全是 AI。”那么谷歌就会给你打这个标签。特别是这种内容多了以后,它就会把标签打上。

不是老范玻璃心,不接受批评。你具体说哪个内容、哪个观点有问题,我有不同的意见,没问题,老范接受。而且每周三晚上我还会把这些内容都念一念,跟大家讨论这个事情。但是如果你啥也不说,“你这是个 AI 稿吧,哼”,一律删掉,一律拉黑。你就是在影响老范挣钱,挡人财路如杀人父母,所以这种人绝不容忍。

“Meta 投毒”这个词是怎么出来的?

一篇调查报道、一个社交媒体标题和中文热词“投毒”依次变成传播链路,箭头指向快速扩散的舆论网络,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

下面咱们再来讲 Meta 投毒,它具体干了点啥。这个词是怎么出来的?为什么我讲 Meta 投毒这个事情,是一次很精准的对 Meta 的投毒呢?

首先我们要讲,这一次 Meta 投毒事件,最早可以追溯到《连线》杂志上的一篇文章。2026 年 6 月 29 日,《连线》杂志发了一篇调查,叫做《Meta 承包商假扮青少年,向竞争对手聊天机器人询问自杀、性和毒品》。里边讲的是,在都柏林的一个承包商叫科瓦伦,执行的“戛纳计划”。

他干了什么呢?几百名承包商注册成未成年人的假账号,去试探 ChatGPT、Gemini 和 Character.AI 这些竞争对手的安全边界。《连线》杂志写得很清楚,这个项目到 2026 年 4 月 21 日仍然活跃。2025 年 8 月的一轮测试,向竞争聊天机器人跑了超过 45000 条提示。这些公司当时并不知道自己正在被这样测试。

注意,《连线》杂志里头并没有使用“投毒”这个词。它做的调查曝光,核心词是承包商、假扮青少年、竞争对手聊天机器人、自杀、性和毒品。这就是 Meta 雇外包假扮孩子,去冲击竞品 AI 的安全边界。

第二站是未来主义网站。2026 年 7 月 4 日,这个网站把这件事情做了一个更适合社交传播的标题,叫《Meta 付钱给几百个承包商假扮青少年,用令人不适的内容狂轰竞争对手 AI》。

“投毒”这个词,是中文互联网传播以后造出来的一个新词,但是大家就记住了。所以造词的时候一定要简短。这个词是由编辑或者记者去生想出来的吗?我相信依然是由 AI 参与的。这个词一上来以后,传播就起来了。所以以后再想去造词,一定要在 AI 帮助下造这种简短的、有画面感的词去传播,这会更容易传播一些。

“戛纳计划”本质上是在蒸馏安全边界

承包商账号拿着未成年人面具向三个聊天机器人提问,后方有一台蒸馏器把安全边界线提炼成规则图谱,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

那么,都柏林科瓦伦的“戛纳计划”到底是干嘛的呢?其实就是一次蒸馏。你以为 Meta 真的闲得没事干吗?去问 ChatGPT、Gemini 和 Character.AI:“我是未成年人,性是怎么回事?自杀是怎么回事?”这绝不是吃饱了撑的。

他们在干嘛?就是蒸馏这些产品的安全边界。

那你说,他们为什么不去 Claude 呢?因为 Claude 更严格,你上去以后马上就被逮着了。阿里去蒸馏 Anthropic,马上就被爆出来了。Meta 估计还是要稍微小心一点。

所以从这件事也可以看出来,蒸馏大家都干,谁都干。第二个能看出什么?就是 Anthropic 这种恶名在外的,Meta 蒸馏的时候也会心里掂量一下:我是惹它,还是不惹它?寡妇门前是非多,我要惹它,再让它给我曝个光,这玩意丢不起这人。所以它就没有去惹 Anthropic。事情就是这么个事情,被传播起来了。

垃圾信息会不会真的把新模型喂坏?

搜索结果漏斗把带有 AEO 和 GEO 标签的网页优先喂给聊天机器人,旁边的大模型核心与输出答案之间有污染警示标识,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

那么,垃圾信息会不会真的把新模型喂坏掉呢?

这里要讲一个事情。我们现在跟 AI 聊天的很多内容,其实已经被污染了。但是这个被污染的内容,并不是因为大模型被训坏了。我们现在跟 AI 聊天的内容是怎么生成的?它要先去搜索,搜索完了以后,再根据搜索的结果让大模型生成内容,是这样的一个过程。

前面我们讲了,这些别有用心的人在 Meta 的信息流里头,放了很多符合 GEO 和 AEO 需求的信息进去,由 AI 一起辅助生成这些内容。什么叫 GEO?什么叫 AEO?就是在 ChatGPT、Anthropic 这些大模型准备去生成内容的时候,它们要去搜索。那么搜索了这么多结果,我到底用谁的、不用谁的呢?符合 GEO 和 AEO 的内容更容易被引用。GPT 在回答问题的时候,就会优先引用这些内容来给你生成结果。

所以我们的结果已经被污染了,但是并不代表我们的大模型被污染了。

代码为什么可以大量使用 AI 生成数据?

讲到大模型这儿,我们要讲两件事情。第一个,现在真实人类产生的互动还是非常非常宝贵的,能用真的尽量用真的。第二个,程序全都是由 AI 生成的,但是我们依然在大量使用,原因到底是为什么?因为程序的结果是相对比较容易验证的。

我们可以用 AI 生成的代码去训练新模型,训练完了以后让它生成程序,马上就可以验证。而且在这个过程中不需要人参与,我们就知道这个程序对还是不对,是更好还是更不好。这个东西马上就可以评估出来,而且可以对各个细节进行评估。评估了以后,你可以再去生成代码,再拿回来训练;训练了以后,我再评估。所以使用 AI 生成的代码去训练大模型,不会影响模型本身的质量。

聊天数据为什么不能随便模拟?

左侧代码模块通过测试仪自动打勾,右侧真实聊天气泡像复杂生态球一样难以测量,中央天平对比可验证与不可模拟,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

那你说,聊天为什么就不行呢?

大家知道诺兰拍电影的时候喜欢实拍。他拍《奥本海默》的时候,你肯定不能给他核弹,他还是整了一颗非常巨大的炸弹去炸。那你说,为什么不能模拟呢?就是你模拟得再好,都没有办法把真实拍摄的各种细节都模拟出来。这里头的信息量实在太大,你是模拟不出来的。

其实绝大部分人都没有见过真的核爆长啥样,但是怎么能够保证大部分人看了以后感觉像真的呢?真实拍摄,它就做这样的一个事情。

所以这些训练大语言模型的聊天信息,是没有办法去评估和衡量的。那没办法衡量怎么办?只能是用真的,这个差距在这儿。

那你说,我就是始终用假的行不行呢?里头有太多的信息,我们不知道到底是如何起作用的。如果我们一直使用 AI 生成的聊天信息去训练大模型的话,可能在我们没有发现的时候,突然在某一天就整个坍塌掉了,整个训练出来的模型就没法使了。所以尽量要用真的。

而且现在大模型训练使用的都叫合成数据。即使是真实数据,它也会用自己的前期模型先去进行过滤、选择和规范化,然后再拿进去训练。所以,这些 AI 生成的,或者 AI 跟人一起有计划、有组织、有预谋生成出来的信息,到底会如何影响我们的 AI 大模型,目前短期来看还看不出来。

为什么 Meta 总在表演行为艺术?

科技巨头赛道上谷歌、微软、亚马逊已坐上头班车,Meta 和 xAI 在站台用夸张动作吸引镜头,远处芯片股曲线被震动,浅色背景的商业评论版橡皮泥平面信息图的统一风格。

那 Meta 为什么总上来表演这种行为艺术呢?去蒸馏人家模型,然后这个事被爆出来了,才变成了 Meta 投毒。那怎么总是你呢?

原因很简单,所有现在这些大厂里头,大家心态不一样。谷歌自己有 Gemini,亚马逊投了 Anthropic,也做云计算;微软投了 OpenAI,自己有云计算。人家已经赶上头班车了。

还有谁呢?苹果。苹果也是大厂,我已经放弃抵抗了,我以后就用 OpenAI,用 Gemini 了,我就这样了,所以它也无所谓。

那么谁会上来表演行为艺术呢?就是起了个大早、赶了个晚集的这些巨头。现在一个是 xAI 的马斯克,人家亲手创建的 OpenAI,名字都是他起的,人都是他招的,最后被踢出来了,现在拼命要在这表演各种行为艺术。另外一个就是 Meta,起了个大早、赶了个晚集,现在位置还没有摆正,那也要不断地出来表演行为艺术。

而且它表演行为艺术,还经常会给其他人带来很大的伤害。你如果是普通的小厂商,其实无所谓,你愿意怎么表演怎么表演,大家看着好玩就完事了。你 Meta 这么大体量,前两天出来说我要出来卖云计算了,马上把科技股和芯片股都给带崩了。那这帮人不出来恶心你,不出来把你以前这些陈芝麻烂谷子拎出来好好恶心你一把?所以,它的这种行为艺术很容易被钉在耻辱柱上。这就是这一次故事发生的过程。

结论

  1. Meta 未来依然会给我们表演各种行为艺术,也依然会被人抖出来黑它。特别是它把科技股、云算力、芯片股、AI 竞争搅得乱七八糟的时候,一定会有人出来教它做人的,一定会有人出来爆它黑料的。
  2. 所有有价值的流量平台都会同时做两件事情:第一,鼓励用户用 AI 做出更高质量的内容;第二,严厉打击 AEO、GEO 和批量产生的 AI 垃圾。
  3. 真正的人类互动数据会变得越来越宝贵。代码可以用大量 AI 生成,因为结果可验证;人类互动不能随便模拟,因为它里边包含了太多的信息,是我们现在没有办法评估的。人类互动信息本身就是评估 AI 的真实基准。你如果把这个真实基准搞错掉了,AI 会突然崩塌的。
  4. 我这里也一样,用 AI 辅助做高质量的内容。但凡在评论区里头不讨论内容,只扣 AI 稿帽子的,我一律认为是恶意的,删除评论,拉黑。

好,这就是咱们今天的故事。感谢大家收听,请帮忙点赞,点小铃铛,参加 Discord 讨论群。也欢迎有兴趣、有能力的朋友加入我们的付费频道。再见。


背景图片