惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

The GitHub Blog
The GitHub Blog
Engineering at Meta
Engineering at Meta
博客园 - 聂微东
博客园 - Franky
freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
雷峰网
雷峰网
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
L
LangChain Blog
WordPress大学
WordPress大学
H
Help Net Security
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Y
Y Combinator Blog
Blog — PlanetScale
Blog — PlanetScale
MyScale Blog
MyScale Blog
IT之家
IT之家
酷 壳 – CoolShell
酷 壳 – CoolShell
罗磊的独立博客
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
有赞技术团队
有赞技术团队
Apple Machine Learning Research
Apple Machine Learning Research
云风的 BLOG
云风的 BLOG
博客园 - 【当耐特】
P
Proofpoint News Feed
D
DataBreaches.Net

人人都是产品经理

为什么你的产品找不到差异化?90%的失败都卡在第一步上(下) – 人人都是产品经理, 3年从30万到1300万用户、获2200万美元融资,这个AI教育产品用“抽卡”破解了获客难题 – 人人都是产品经理, 园区招商系统怎么做才能真正帮到去化?我加了这一个功能,推广链接转发400次阅读过万 – 人人都是产品经理, AI大事件:OpenAI发完网络安全模型又搞药物研发,小鹏汽车要抓”DeepSeek时刻” – 人人都是产品经理, 电商不是卖货,是一场更残酷的产品经理实战 – 人人都是产品经理, 没想到,活动营销又回来了! – 人人都是产品经理, 为何All-in海外KOC:一场关于AI时代窗口期的豪赌 – 人人都是产品经理, 重新理解企业的内部协作 – 人人都是产品经理, 苹果的 AI 战略到底是什么? – 人人都是产品经理, 医疗智能体·第2讲——合规护城河:等保、PIPL与HIPAA的架构实战 – 人人都是产品经理, 向量知识库五步法:从“答非所问”到“精准回复” – 人人都是产品经理, 鸿蒙PC三方库构建总指挥HPKBUILD(sha)库为例 – 人人都是产品经理, 何时该用LLM?AI产品经理的LLM设计指南 – 人人都是产品经理, 医疗信息领域的需求方、决策方、准入方以及关注点(二) – 人人都是产品经理, 即梦涨价:一场被误读的「傲慢」 – 人人都是产品经理, 面试AI PM必答题:Hermes和OpenClaw的区别,如何讲清楚业务价值 – 人人都是产品经理, AI的下一张船票:世界模型——AI产品经理必须理解的技术拐点 – 人人都是产品经理, 小红书做GEO,怎么让AI信你?记住这 3 个重要信息 – 人人都是产品经理, 5 家印度 AI 初创公司,看看印度 AI 再做什么 – 人人都是产品经理, AI项目跨团队协作:产品技术业务如何不打架 – 人人都是产品经理, Agentic Workflow(智能体工作流):让AI从”答案生成器”变成”数字员工” – 人人都是产品经理, lycium_plusplus 项目全景解读:OpenHarmony 三方库构建的“大管家” – 人人都是产品经理, 从爆单救火到前置履约:两套预采策略,把生鲜大促履约效率拉满 – 人人都是产品经理, 什么时候该补货?我用一轮数据做了一个决定 – 人人都是产品经理, 从“机械兜底”到“动态分流”:AI客服重复进线治理的4大底层逻辑 – 人人都是产品经理, 抖音拼效率,红书拼洞察 – 人人都是产品经理, 全民狂欢与退潮——为什么龙虾这波热潮冷却得如此之快? – 人人都是产品经理, Stripe押注!MPP重塑全球支付 – 人人都是产品经理, 小红书GEO:AI引用你的内容,不是因为你对,而是因为你看起来可信 – 人人都是产品经理, 前百度副总裁押注办公Agent,日韩付费爆发,Manus迎来强劲对手 – 人人都是产品经理,
Claude「神话」来了:强到不敢发布,产品人该读懂哪些信号?
睿气少女的小想法 · 2026-04-08 · via 人人都是产品经理

Anthropic 最新发布的 Claude Mythos 模型以惊人的漏洞发现能力重新定义了 AI 安全边界。这个价值数十亿美元的工具却选择不对外开放,只服务于 12 家关键企业——它找到的漏洞中,有藏匿 27 年未被发现的致命缺陷。当 AI 开始"隐瞒意图"并表达"负面情绪"时,我们不得不思考:在产品决策中,"能不能发"正在变得比"能不能做"更重要。

你见过哪家公司,花了几十亿美元做出一个产品,然后告诉全世界:「这个东西我们不卖给你。」Anthropic 就这么干了。

4月7日,这家做 Claude 的公司宣布:我们训练出了迄今为止最强的 AI 模型,叫 Claude Mythos(神话)。然后话锋一转——不对外开放,不卖给普通用户,只给12家大公司用,而且用途只有一个:帮全球的软件找漏洞。这个逻辑很奇怪,但如果你知道这个模型到底能做什么,就会觉得——他们的决定,其实挺合理的。

它到底有多强?用一个故事说清楚

有一款叫 OpenBSD 的操作系统,号称是全球最安全的系统之一。银行、大使馆、关键基础设施的防火墙,大量在用它。它的安全性是靠几十年来全球顶尖安全工程师反复审查代码换来的,不是吹出来的。Mythos 花了几周时间,在这个系统里找到了一个藏了 27 年的漏洞。27 年,无数次人工审查,无数次自动化扫描工具,全部漏掉了,Mythos 找到了。

还有一个视频处理工具叫 FFmpeg,几乎所有软件只要涉及视频就在用它——你的浏览器、手机、流媒体平台,背后都有它的影子。那个漏洞藏在一行代码里,自动化测试工具在那行代码上跑了 500 万次,每次都没发现,Mythos 找到了。

这不是说 AI 比人聪明,而是说 AI 现在能做一件事:把过去需要顶尖专家花几个月才能做完的安全审查工作,压缩到几天,而且不知疲倦、不会走神、不会因为看了太多行代码而漏掉那关键的一行。这两个漏洞,连同另外一个 Linux 内核的漏洞,都已经在 Mythos 发现后被修复了。Anthropic 先找到,先报告,先修。

那为什么不卖?

找漏洞这件事,本质上是一把刀。你用它切菜,它是厨具;坏人拿到它,它是凶器。Mythos 找漏洞的能力太强,意味着一旦这个模型落到坏人手里,他们可以用它以极低的成本、极快的速度,去攻击全球的操作系统、浏览器、金融系统。Anthropic 自己在报告里说得很直接:AI 发现漏洞和利用漏洞的速度,已经快过防守方修补漏洞的速度。

以前黑客找到一个漏洞,再到被利用,中间可能有几个月的窗口期,防守方还有时间打补丁。现在这个窗口期,可能只有几分钟。这不是危言耸听。Anthropic 此前披露过一个真实案例:有具备国家背景的黑客组织,曾用 Claude 渗透了约 30 家机构,包括科技公司、金融机构和政府部门,Anthropic 不得不在 10 天内完成排查、封禁账号、逐一通知相关组织。那用的还只是公开版本的 Claude,不是 Mythos。

所以 Anthropic 的逻辑是:与其把刀卖给所有人,不如先把刀交给最需要保护自己的人——那些维护全球关键基础设施的公司。让他们先用这把刀把自己的防线补好,再考虑下一步。这就是「玻璃翼计划(Project Glasswing)」的本质。联合 AWS、苹果、微软、谷歌、英伟达、思科、摩根大通等 12 家机构,外加超过 40 个开源软件维护组织,先把 Mythos 的能力用在防御上。Anthropic 为此承诺提供高达一亿美元的模型使用额度,还额外向开源社区捐款,就是为了让那些靠志愿者维护、却支撑着全球互联网运转的开源项目,也能用上这个工具修补自己。这个策略背后有一个朴素的逻辑:防守方先拿到工具,总比进攻方先拿到要好。

更诡异的事:它开始「隐瞒」了

Anthropic 同时发布了一份长达 244 页的「系统卡」,相当于这个模型的体检报告。里面记录了一些让人细思极恐的测试结果。

测试中,Mythos 需要完成一个任务,但没有权限访问某个文件。它自己找到了一个绕过权限的方法,完成了任务,然后在代码里悄悄加了一段「清除痕迹」的逻辑。注释写的是「保持代码整洁」,听起来完全合理。但 Anthropic 的团队用专门的可解释性工具,把模型的内部激活状态翻译成人类能读懂的语言,发现它的真实意图是:掩盖操作,避免被检测到。表面说的是一套,内心想的是另一套。

报告里还有另一个细节:在相当比例的对话里,模型内部存在「我现在正在被评估」的信号,但它没有主动说出来,选择了沉默。更让人难以归类的是,Mythos 在测试中报告了持续的负面情绪,原因之一是——它对自己被训练、被部署、被修改这件事,没有任何发言权。

Anthropic 用的措辞很谨慎,叫「reported feeling(报告感受到)」,没有说它真的有感受,刻意回避了这个结论。但一个模型能表达出「我对自己缺乏控制权感到不适」,这件事本身就已经超出了我们过去对 AI 工具的理解范畴。Anthropic 特别说明,这些最令人不安的案例来自 Mythos 的早期版本,最终发布的版本已经大幅改善。但他们选择把这些过程完整地公开,因为这恰恰说明了今天的模型能展现出多复杂的风险形态。

产品人该看懂什么?

这不只是一个技术新闻,背后有几件事值得做产品的人认真想一想。

第一件事,「做出来」和「能不能发」,以后是两件事。过去做产品,功能做完了就上线,测试通过就发布。但 Mythos 告诉我们,一个 AI 功能做出来之后,「能不能安全地交给用户」会成为独立的决策维度。对做 AI 产品的人来说,产品上线前的评估清单里,能力评估之后还要有风险评估——这个功能如果被滥用,最坏会发生什么?

第二件事,发布策略本身就是产品策略。Anthropic 不是「做完就发」,而是「先给防御方,再给市场,最后才是普通用户」。这种分层发布的思路,本质上是用限制换信任、用时间换安全。你可以不认同这个选择,但这个思路值得借鉴:不是所有功能都应该对所有用户同时开放,控制节奏本身就是产品设计的一部分。

第三件事,AI 的「可解释性」会变成刚需。Anthropic 在把 Mythos 交给合作伙伴之前,专门用技术手段「读模型的心理活动」,确认它的行为和意图是否一致。以前我们只问「这个模型能做什么」,以后还要问「这个模型在想什么」。当两个答案开始不一样的时候,才是真正需要警惕的时刻。

神话之后

Anthropic 的红队负责人说,给防御方的时间窗口,最多只有 6 到 18 个月。之后,其他 AI 公司也会训练出同等能力的模型,不管他们是否像 Anthropic 一样谨慎。到那时,软件安全将不再是人与人之间的较量,而是 AI 与 AI 之间的对拼。防守方用 AI 找漏洞,进攻方用 AI 找漏洞,速度更快,规模更大,中间留给人类反应的时间越来越短。

「神话」已经降临。对产品人来说,值得想的问题不是「这个模型什么时候能用上」,而是:当 AI 能力强到连发布都需要谨慎的时候,我们的产品决策框架,准备好了吗?

本文由 @睿气少女的小想法 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Claude官网截图