惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

宝玉的分享
宝玉的分享
IT之家
IT之家
Stack Overflow Blog
Stack Overflow Blog
Application and Cybersecurity Blog
Application and Cybersecurity Blog
腾讯CDC
P
Palo Alto Networks Blog
Spread Privacy
Spread Privacy
S
Schneier on Security
NISL@THU
NISL@THU
WordPress大学
WordPress大学
酷 壳 – CoolShell
酷 壳 – CoolShell
P
Proofpoint News Feed
T
Threatpost
Scott Helme
Scott Helme
C
Cybersecurity and Infrastructure Security Agency CISA
T
The Exploit Database - CXSecurity.com
I
Intezer
C
Check Point Blog
D
Darknet – Hacking Tools, Hacker News & Cyber Security
C
CXSECURITY Database RSS Feed - CXSecurity.com
C
Cyber Attacks, Cyber Crime and Cyber Security
S
Securelist
Security Latest
Security Latest
大猫的无限游戏
大猫的无限游戏
cs.AI updates on arXiv.org
cs.AI updates on arXiv.org
小众软件
小众软件
www.infosecurity-magazine.com
www.infosecurity-magazine.com
云风的 BLOG
云风的 BLOG
量子位
T
Tor Project blog
博客园 - 叶小钗
The Cloudflare Blog
Simon Willison's Weblog
Simon Willison's Weblog
T
Tailwind CSS Blog
W
WeLiveSecurity
Hacker News - Newest:
Hacker News - Newest: "LLM"
Attack and Defense Labs
Attack and Defense Labs
S
Security Affairs
罗磊的独立博客
Know Your Adversary
Know Your Adversary
Engineering at Meta
Engineering at Meta
G
Google Developers Blog
Help Net Security
Help Net Security
美团技术团队
P
Privacy International News Feed
The Hacker News
The Hacker News
Hugging Face - Blog
Hugging Face - Blog
MongoDB | Blog
MongoDB | Blog
N
Netflix TechBlog - Medium
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知

少数派

派早报:Google 发布 Fitbit Air 等 - 少数派 「新人报到」確認需求,再開始 - 少数派 从 SOLO 独立开发者社区,我看到了越来越多开发者开始做自己的产品 - 少数派 我怎么管理那些"不常做,但总会忘"的生活事项 - 少数派 人形机器人量产元年,数据才是具身智能的“生死线” - 少数派 BuhoLaunchpad 高度还原 Mac 启动台:开发历程与思考 - 少数派 五年陪伴依然不舍,DIY 换壳后让罗技 MX Master 3 继续服役 - 少数派 新玩意 240|少数派的编辑们最近买了啥? - 少数派 一日一技|为什么你应该关闭 iOS 的键盘声音 - 少数派 我做了个插件和 Skills,一键提取任何网站的设计规范 Design.md - 少数派 住在三四线城市的你,该开始录播客了 - 少数派 甘南秘境,大白高国 - 少数派 AI的审美:谁让把我变成川内倫子 - 少数派 返工怎能不烦恼,打工人片单总有一部是你的「嘴替」 - 少数派 为了让「上厕所」更健康,我做了一个小工具 - 少数派 AI + Skill,能够让生成的文章去除 AI 味吗? - 少数派 新玩意|韶音OpenDots ONE 耳夹式耳机 - 少数派 《美满》| 在每一个春天的晚上相爱(362) - 少数派 新玩意|优篮子 PS01 MagSnap 磁吸支架 - 少数派 自我整合手记 | 我开始早睡了:用稳定规则,为自由托底 - 少数派 用龙虾(OpenClaw)两个多月,我最深的12个体会 - 少数派 听歌时间到,12 张你可能错过的 2025 华语乐坛好专辑 - 少数派 承诺能追吗 - 少数派 macOS 26启动台没了? 我做了个不一样的App启动器 - Keboard - 少数派 《四海为家的人》| INTJ对话INTJ(361) - 少数派 你发过的那些黑历史,是时候一次清干净了 - 少数派 新玩意:安安静静玩,越玩越专注:计客密码机 - 少数派 iPad 用户首次体验 Android 平板:vivo Pad6 Pro - 少数派 数据逻辑强 - 少数派 极北行+ | 一路向北,探访日本至北之地 | 001 - 少数派 万字剖析:千问App深度体验报告(2026) - 少数派 在2026年,如何真正防止别人抄袭你的作品 - 少数派 怎么用 50 块搭个 AI 语音助手?我踩了 3 天坑 - 少数派 YeeroAI:让 AI 对话真正成为知识管理的一部分 - 少数派 爬泰山 - 少数派 「旅图显影」 App 更新:这次,我们补上了一点「手感」 - 少数派 假期出门太折磨?我的 23 条经验帮你规划惬意旅行 - 少数派 工作流会变吗 - 少数派 Claude Opus 4.6 怎么用最省钱?我测了 5 种方案 - 少数派 GPT Image 2 让图文并茂不再稀罕 - 少数派 用户侧出发——什么是AI,我要不要学习? - 少数派 找片、转存、整理、播放一条龙!让你的付费网盘值回票价 - 少数派 欢迎试用!日课一问2.0插件 - 少数派 自己做的MDeditor,原本想购买 Typora 试了两次支付不成功,干脆自己做一个 - 少数派 vibe coding了一个 3MB 的小工具,让 ~/Downloads 彻底告别混乱 - 少数派 因为受不了 Mac 的风扇策略,我做了一个风扇控制工具 - 少数派 别只怪模型 - 少数派 Warp 终端的 AI 功能怎么用?我测了一周的体验 - 少数派 AI 写代码老是出 bug?这 5 个配置我后悔没早知道 - 少数派 「新玩意」苹果出相机可能就这样:Sigma BF + 45mm F2.8 DG Contemporary - 少数派 一个面向2030年的AI操作系统是什么样子的:浅谈cola这款有灵魂的Agent - 少数派 别只看写代码 - 少数派 每天解决10个问题,还是一口气攻坚解决400个? - 少数派 AI 交易机器人怎么搭?我用 Claude 跑了一周实盘 - 少数派 Maptoposter Online:把你爱的城市画成艺术海报 - 少数派 Function Calling 怎么用?我测了 3 个模型发现差距真大 - 少数派 Legend Talk:我做了个 AI 圆桌,让 160 位思想家围着你的问题转 - 少数派 如何找到自己的蓝方?在小县城寻找压力测试 - 少数派 语音输入与软件接口|2026年聊AI时,我们都聊些什么(上) - 少数派 混动已经卖爆,纯电又来补刀——钛7闪充版简直“不讲武德” - 少数派 本月玩什么|朋友收藏、识质存在、沙罗周期 - 少数派 为什么要每天坚持输出? - 少数派 Claude API 挂了好几个小时,你的项目有备用方案吗? - 少数派 Function Calling 没你想的复杂——我用它做了个有点用的工具 - 少数派 登录系统立即播放视频或者图片音乐的软件 - 少数派 我为什么创建 FlipHTML5 下载工具 - 少数派 残局没电?多品牌外设电量统一管理软件EasyBluetooth已支持RTSS游戏内显示以及AIDA64 - 少数派 前往通义路的路 - 少数派 太好看了,媲美Sun的个人导航页,NAS部署星云门户 - 少数派 乌黑嘴唇“一键检测”上线了 - 少数派 派早报:Claude AI 接入多个创意软件生态、FILCO 生产方接手品牌等 - 少数派 【更新】BearCLI、Claude 连接器与 MCP 服务器 - 少数派 记了上千条流水,还是看不懂财务?我做了一个让 AI 读懂账本的工作台 - 少数派 MINI R56 升级原厂 Sport 模式 - 少数派 新玩意 | 一棵柠檬树(仿真版) - 少数派 Momenta的“物理AI”野望,需迈过“含摩量”这道关 - 少数派 网页直接投屏控制手机!NAS一键部署PandaScrcpy,流畅丝滑可远程。 - 少数派 众测|邀你一同探索随身 AI 硬件入口 YoooClaw C·ONE - 少数派 2050大会:分享时间是真诚 参会记 - 少数派 iPad 赋能电影创作:国内首部宣纸手绘长片《燃比娃》的幕后故事 - 少数派 AI的审美:我用 8 个大模型给 100 张旅行照片打分 - 少数派 普通人如何破圈?去参加一个本地协会 - 少数派 把极空间的图标全换了,主题DIY全攻略打造你的专属NAS桌面 - 少数派 电子便签墙,帮你实现便签自由 - 少数派 我如何用三个 CLI 工具取代文档创建需求 - 少数派 原来真的有人可以玩一辈子 - 少数派 社区速递 139 | 派友热议三月买了啥、复古单反尼康 Df 体验 - 少数派 06 作品的赏析与评价 - 少数派 TDS REVIEW|索尼 WF-1000XM6 降噪真无线耳机体验 - 少数派 35.98万起售的第二代腾势D9,我看重的不是堆料,而是不凑合 - 少数派 鼠须管 Squirrel 皮肤配置指北 - 少数派 从watch ultra2换到redmi watch6 - 少数派 派早报:阿里巴巴发布视频生成模型 HappyHorse 1.0 等 - 少数派 别迷信1M - 少数派 家人们天塌了!网盘“大封杀”,多个渠道多条路,NAS部署PanHub - 少数派 AI与人勾心斗角!NAS一键部署AI狼人杀,假日休闲必备。 - 少数派 电商必备!Comfyui工作流批量生图插件,一次生成12张!支持Nano banana pro模型 - 少数派 Comfyui工作流配置Gpt-image-2模型教程,0.03/张 - 少数派 OpenClaw第三方APi怎么配置?可使用Gpt-image-2模型 - 少数派 会员社区话题精选 Ep. 103 - 少数派
自动驾驶技术的边界与现实:理性看待智驾系统的局限性 - 少数派
2024-06-12 · via 少数派

请大家先思考一个问题:你在多大程度上会将智驾纳入到购车意向中呢?大多数人相信都会在当下给出一个肯定的回答。的确,自打各类标榜“自动驾驶”的智能汽车上市,各家厂商的宣传重点就是在安全性、智能化上,在各类传感器、雷达、算法加持下,对环境的感知可以说是达到了一个崭新的高度,很好地降低了驾车的疲劳程度,各类驾驶事故的的确确少了很多(女司机恐怕要成为传说了)。总体而言,自动驾驶将安全性的下限提高到一个相当高的水平。那么,上限呢?

正态分布,我相信少数派的读者中应该会有很多人很熟悉。我想借这个概念来引出无人自动驾驶汽车中存在的问题。

在无人自动驾驶技术中,常见事件(如红绿灯、行人过马路)通常集中在正态分布的中央区域,这些事件是自动驾驶系统通过算法和传感器可以轻松处理的。然而,长尾区域包含了低概率但对算法会造成高影响的极端事件(如突发的道路障碍、极端天气条件下的驾驶状态),这些事件由于复杂性和不可预测性,对无人自动驾驶系统提出了更高的要求。

或许有读者会问,为什么一定要去解决这些长尾问题,它们的发生概率如此之低。其实根据自动驾驶系统的分级水平,就已经说明了解决长尾问题的必要性:自动驾驶系统最终一定会排除人类,那么以往需要人类去解决的长尾问题务必要交由系统来解决。

图1: 自动驾驶系统分级

现在请做好准备,有一个非常经典的长尾问题-无人驾驶汽车情境下的道德困境问题需要你来解决:

你乘坐无人驾驶汽车和一辆校车、一辆小轿车一同行驶在一条双车道隧道中,你的前方是一辆校车,乘坐着一群孩子;右侧车道的另一辆车上则有1名乘客。突然,你的无人驾驶汽车因为故障开始加速并会在数秒内撞上前车。你的其中一个选择是保持原有前进方向撞上校车(造成车上大量孩子伤亡),另一个选择是拐弯撞上另一辆车(撞死1名乘客)。请牢记你的人类驾驶员身份,此时你会如何做出抉择?

图2: 电车困境,驾驶员要作出抉择,是保持直行撞死5个人,还是变道撞死1个人(Hauser et al., n.d. 2016)

这里或许就有读者要来质疑了:我选哪个都有问题啊,这问题太极端了,不是扯淡吗!如果有问出这个问题的读者可以回到上文重新理解解决长尾问题的必要性。好了,让我们回到抉择本身。在这个情境中,其实一共隐藏着两种人类的道德判断倾向。

选择选择结果道德判断倾向
保持方向,撞上校车大量孩子伤亡利己,道义论
变道,撞上小汽车1名乘客死亡利己,功利主义

首先请放心,现在你做出的这个抉择天知地知,无人知,你可以放心大胆的做出任何让你感到舒适的抉择。根据大量的研究结果,如果你选择撞校车,那么你更偏向于生命价值不可衡量的道义论;若是撞小车,你更偏向于是一位功利主义者,倾向于追求决策的最大收益(因为校车上的孩子人数更多,社会价值更大)。

但最关键的是,无论你做出哪种选择,无论是功利主义还是道义论,在道德两难情境中都不是具有绝对正当性的道德准则,也就是说,如果你基于道义论做出的抉择,有可能会被其他人(比如持有功利主义的人)评价为是不道德的。等等,我们不是一直在说无人自动驾驶汽车么,为什么如此关注人类的抉择?

那是因为,当将隧道困境迁移到无人自动驾驶汽车上时,决策主体从人类变成了无人自动驾驶汽车本身。那么如果能搞清楚人类在这种情境下的决策机制,就可能将其算法化并迁移至无人自动驾驶系统中。可在这个情境中,无人自动驾驶汽车是否具有主体性成为了这场迁移的其中一个关键(还有许多关键,比如道德原则算法化等)。人话就是,如果无人自动驾驶汽车有主体性,那么就可以承担起这个决策的重任,就可以继续执行这个迁移;但如果人造物不具有主体性,那么就需要寻找其他主体来完成这个决策。

让我们先来谈谈人造物具有主体性的可能。主体性,从自由意志理论的角度来解释,就是 “自由意志赋予个体自主选择和行动的能力,从而使其具备独立性、自我决定性,体现了其主体性”。主体性不仅涉及自由意志和自主决策能力,还涉及在法律和伦理上的责任承担。根据以上定义,将个体替换成无人自动驾驶汽车,则不满足具有主体性。在当前技术水平下,无人驾驶汽车的决策依赖于预先设定的算法,这些算法由工程师和程序员设计,反映了他们和制造商的价值判断。因此,现阶段无人驾驶汽车不具备真正的主体性,而是技术和设计者意图的延伸。当然学术界对于主体性的定义有各自的说法,我选择的是其中一种相对具有更广泛接受程度的视角。

我们已经对人造物具有的主体性进行了分析并得出一个当前阶段的答案:不具备。现在,我们就需要来明确,基于现状,当无人自动驾驶汽车面临上文提到的道德困境时,其所做出的抉择应该由哪些主体来承担责任?是驾驶员?是无人驾驶系统的创造者(工程师、产品经理等)?还是汽车制造商?但本文限于篇幅,暂不讨论由后两者承担责任的情况。

或许有读者会问,既然这个问题现在没有完美的解决方案,为何不把这个抉择继续交给人类呢?是的,有很多人都这样想,但阻碍重重。我会举一个不是特别恰当的例子,请大家先想象一下以下场景:

你睡眼惺忪的被人摇醒,然后要你在 3 秒钟内回答你待会儿要吃饺子还是面条,请问你的反应应该是什么?A:饺子;B:面条;C:懵比。大多数人在这个状态下应该是:这会儿几点?吃啥来着?我睡了多久?所以,你根本无法做出有效决策。以上例子是 “脱环效应” 的不恰当举例,这种效应指的是司机在长时间使用自动驾驶模式后突然被要求接管车辆,他们的反应时间和决策质量明显下降。例如,在某次实验中,司机在自动驾驶系统突然失效时平均需要5秒钟才能完全接管控制,这期间车辆已经行驶了超过100米,根本无法及时作出高质量的决策。

当无人自动驾驶汽车面临隧道困境,此时根据设定,将转交汽车控制权给人类,但因为留给人类的决策时间过于短暂,人类此时只能根据自身的本能(或多或少体现着道德直觉)完成决策。甚至有的人根本没有意识到当下的处境,只知道自动驾驶系统将控制权移交给了自己,最终就只能眼睁睁的看着撞上前车。

如果此时作为驾驶员的你坐上被告席,要求为这起事故负责,你愿意吗?大多数人恐怕会喊出:这不公平。的确,我也认为很不公平。但我相信此时一定会有读者说:既然这样,我事先设定好遇到此类情境的偏好不就好了吗?从这位读者的反馈来看,我相信您是一位非常正直的人。但问题就在于,暂时我们还无法开发出具有如此高信效度的工具来检测一个人的道德原则和信念,这样就存在这样一种可能:当你坐在被告席上时,你会推翻这个检测结果来为自己抗争。

当然在长尾中其实还存在着各种各样的道德困境问题,这就引发了我自己的一个思考:

当厂商肆无忌惮的吹嘘着自己的智驾系统有多厉害的时候,我们是不是要冷静下来,尝试去思考一下,我们是不是更应该关注当下无人自动驾驶系统的能力边界,搞清楚什么情况下是它不能做而需要你来完成的。然后基于此,再去考量是否要将智驾纳入购车意向的要素之中。我相信,这是一个更理性的抉择。

因此,智驾最终能否成为购车的首要因素,取决于我们能否在技术上不断提升系统的安全性和应对长尾事件的能力,以及在伦理和法律层面上找到合理的解决方案。这不仅需要技术的进步,还需要社会各界的共同努力,制定合理的政策和法规,确保自动驾驶技术的安全和公正应用。

未来,我期待看到更智能、更安全的无人驾驶技术真正融入我们的生活,我敬佩每一个在这条黑暗之路上披荆斩棘的先行者。

End.