惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

Google DeepMind News
Google DeepMind News
博客园 - 司徒正美
WordPress大学
WordPress大学
爱范儿
爱范儿
小众软件
小众软件
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
罗磊的独立博客
博客园_首页
V
V2EX
让小产品的独立变现更简单 - ezindie.com
让小产品的独立变现更简单 - ezindie.com
T
Tailwind CSS Blog
大猫的无限游戏
大猫的无限游戏
The Cloudflare Blog
MyScale Blog
MyScale Blog
IT之家
IT之家
H
Help Net Security
Blog — PlanetScale
Blog — PlanetScale
Microsoft Security Blog
Microsoft Security Blog
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Recent Announcements
Recent Announcements
F
Fortinet All Blogs
The GitHub Blog
The GitHub Blog
Y
Y Combinator Blog
人人都是产品经理
人人都是产品经理

@Lenciel

Fragments 0x0007 Fragments 0x0006 Fragments 0x0005 fragments 0x0004 Fragments 0x0003 Fragments 0x0001 徒然歌 苹果的电源 彩云易散 马代(2) 马代(1) Thoughts On AI In Early 2026 (3) Thoughts On AI In Early 2026 (2) Thoughts On AI In Early 2026 (1) Valine to Waline 江门 Nginx 挡爬虫 2025年终总结 What I know in 2025, 😳 技术债的心理模型
fragments 0x0002
http://lenciel.com · 2026-09-03 · via @Lenciel

家里有多少定时炸弹

这段时间为了和蒙爷进行「亲子活动」又买了个北通的手柄。本着消费电子就买旗舰的原则,下单了鲲鹏 70。

结果,这玩意儿居然加了一堆「AI」功能,比如可以通过呼叫一下「通通」,让它改变手柄彩灯(是的它有好多彩灯)的颜色。

今时今日,我们身边每个用电的家伙,好像都得记住它们的名字。

用手机得记住Siri或者小艺,开车得记住小鹏或者小爱,住酒店拉窗帘得求小度,买手柄还得认识一下通通:到这个程度,好像有点扯了。

但更扯的地方是,当我好不容易记得了它们叫什么,怎么唤醒,往往它提供的都是些可以通过简单操作实现的功能,比如,北通这个手柄完全不需要走「呼叫通通」这么诡异的交互,旋转一个专门的按钮,就可以改变彩灯的颜色,。

而我最需要的它们往往不会干:比如对通通我提出的第一个问题特别简单,就是充电的时候能不能别那么多LED灯珠亮闪闪的,它果然不会。

于是我只好尝试拉上 AI 一起反编译北通的配置软件,拿到配置接口去熄灯。

这让我想起来 Amazon 安全部门的 Chaz Schlarp 前段时间的博客文章 说,配合 Claude 用少则几小时多则十几小时把影石的摄像头、华硕的显示器等一堆硬件给破解了。

可以相信,当各种厂商把无需「智能」的硬件强行智能之后,这里面埋了很多雷。

因为要确保一个系统的安全性成本是非常高的。

前段时间挺热闹的 OpenAI–Hugging Face Incident,事后 OpenAI 的 Eric Wallace 和 Michael Dalton 在 Black Hat USA 大会上做了个演讲,他们分享说:

一开始完全不知道是自己的 Agent 黑了 HF,还跑去询问 HF 你们被黑了会不会影响我们;

总共查看了 70 亿行日志,才发现是自己的测试造成的;

如果以后攻击者手里有 AI 工具,而防御方的漏洞不是 AI 自动发现和自动 fix,攻守的能力就会失衡;

负责分享的工程师语气可以说相当的绝望。因为这里有成本的问题:找漏洞花再多成本,对产品方来说是一个没有预期收益的事情,因为用户默认应该没有漏洞。而用 AI 破解的成本显著降低,对攻击者来说每次成功攻击都是有预期收益的事情。

这个问题要解决就得靠 AI 来完成从发现到修复的闭环。不然如果只是发现很多,修复不了,等于白忙活。但完全自动的系统现在暂时还不可能实现。

可以想象,OpenAI 花了这么多代价,都没有办法做好这件事情,这些搞手柄的公司怎么可能确保自己系统的安全。

所以家里能机械化的地方就先别着急智能化,除非有足够的开发和防御能力。不然,如果有一天家里的微波炉或者带显示器的冰箱在局域网注入蠕虫病毒或者偷了支付宝里的余额,一点也不要觉得奇怪。

投资两个难点

今天聊天聊到了投资,它永远是一个很有魅力的话题。

毕竟,如果掌握了这项技能,只需要有一些本金和网络,就可以赚钱。

但为什么那么多人没有拿到收益?

我之前也简单看过一点点投资的东西。我觉得对我而言它有两个核心难点,一个是本质的随机性,一个是决策中的情绪因素。

首先,现实世界中几乎没有事情的发生和传播是确定性的。一切都是概率的,一切都是多因素决定的。

就算是写程序,好像非常有确定性了,但只要干的年头够长系统够复杂,肯定会遇到各种跟线缆、温度、电压、磁场、内存卡槽有关的问题。

我不想继续搞控制就是觉得先假设个工业现场白噪声这个假设然后把矩阵推来推去没啥意思。

所以,各种K线各种操作方法,都没有办法对抗这些随机性。比如很多时候你定投也好网格也好,遇到单边的熊市就会面对凯恩斯的那句格言:

Markets can remain irrational longer than you can remain solvent.

其次也更重要的是,人很多时候就没有理性。

我们只是被西方文化影响了,认为「理性决策」比「情感冲动」高级。

其实,投资的世界和人类其他场域一样,无可避免的充满混乱、情绪、偶然与未知。

甚至因为和钱有关,里面的情绪可能还会被放大,于是不要追涨杀跌,谈何容易。

从神经科学的角度来看,情绪这个估值函数本来也是人类庞大的决策机制的一部分。

我们人体内部的通信机制不是语音或者信令,这些太慢了,而往往是情绪。人之所以是「高级」动物,因为肠里面的神经元和狗的大脑整个皮层上的差不多一样多。

所以除非把投资当成一个专门的事业,作为普通人,最好找到一套允许系统不确定,允许自己有情绪的投资方法。

还有两个跟投资无关的推论:

  • 科研本质上是一种把某些确定性通过强行假设才可以推进的分类法,所以控制还是可以干的。
  • 基于神经网络的算法怎么调参怎么对齐,永远会有不确定性,所以指望它来做上帝的人肯定是疯了。

今天就碎到这里。