惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
博客园_首页
雷峰网
雷峰网
Cyber Security Advisories - MS-ISAC
Cyber Security Advisories - MS-ISAC
WordPress大学
WordPress大学
腾讯CDC
T
Tailwind CSS Blog
A
About on SuperTechFans
H
Hackread – Cybersecurity News, Data Breaches, AI and More
The GitHub Blog
The GitHub Blog
T
The Blog of Author Tim Ferriss
G
Google Developers Blog
The Cloudflare Blog
D
DataBreaches.Net
Recent Announcements
Recent Announcements
Engineering at Meta
Engineering at Meta
B
Blog
博客园 - 聂微东
阮一峰的网络日志
阮一峰的网络日志
月光博客
月光博客
博客园 - 司徒正美
MongoDB | Blog
MongoDB | Blog
Google DeepMind News
Google DeepMind News
Apple Machine Learning Research
Apple Machine Learning Research

奇客Solidot–传递最新科技情报

NASA 关闭旅行者 1 号的 LECP 仪器以节省电力维持运行 奇客Solidot | 人形机器人打破人类半马世界纪录 奇客Solidot | 卫星无人机图像显示美国四成数据中心可能延期 奇客Solidot | 内存芯片短缺可能持续到 2030 年 奇客Solidot | 果糖不只是糖,它更像是激素 奇客Solidot | Grinex 交易所声称遭敌对国家黑客入侵 奇客Solidot | 大白鲨面临过热风险 奇客Solidot | 暗能量巡天绘制出迄今最大的高分辨率 3D 宇宙地图 微软正式将 FAT32 分区大小从 32GB 增加到 2TB 奇客Solidot | 拼多多美团等被罚 36 亿 奇客Solidot | 英伟达 CEO 反对进一步限制向中国出口芯片 奇客Solidot | 美国科技巨头成功在欧盟法律中将数据中心环境影响列为保密信息 奇客Solidot | 乌克兰军方开始大规模使用地面武装机器人 Firefox 加入了对 Web Serial API 的支持 奇客Solidot | 大自然仍然在铸造人类基因 奇客Solidot | 威尼斯如何应对海平面上升 SpaceX 将发射 ESA 的 Rosalind Franklin 火星漫游车 奇客Solidot | Discourse 强调会继续开源 奇客Solidot | 美国主流媒体封禁互联网档案馆的存档机器人 奇客Solidot | 新研究再次证实 AI 有害大脑 Mozilla 宣布开源可自托管 AI 客户端 Thunderbolt 奇客Solidot | Linux Mint 宣布采用更长的开发周期 奇客Solidot | 人类的噪音在伤害动物,我们会学会安静吗? 奇客Solidot | 帝企鹅因气候变化导致数量减少被列为濒危 奇客Solidot | 抹香鲸的发声沟通方式与人类相似 奇客Solidot | 中国手游如何征服世界 奇客Solidot | IPv6 普及度突破 50% 奇客Solidot | 挪威男子在移植其兄弟的干细胞后治愈 HIV 波士顿动力的机器狗集成了 Google 的 Gemini 模型 奇客Solidot | Cal.com 因 AI 从开源转为闭源
奇客Solidot | 几乎没有人认为阿西莫夫的‘机器人三定律’可以...
2019-10-03 · via 奇客Solidot–传递最新科技情报

匿名网友写道

多产的科幻小说作家阿西莫夫(Isaac Asimov)制定了《机器人三定律》,以期防范潜在的危险人工智能。它们首先出现在他1942年的短篇小说《逃生》中: 第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。 第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。 第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

1985年,在《机器人与帝国》一书中,阿西莫夫将三大法则扩张为四大法则(也称第零法则):机器人不得伤害人类整体,或坐视人类整体受到伤害。

中国武汉大学的哲学家Chris Stokes说:“许多计算机工程师使用这三个定律作为思考编程的工具。” 但是麻烦是,它们不起作用。他在开放式论文中解释说:
《第一定律》之所以失败,是因为语言模棱两可,而且由于复杂的道德问题太复杂,而无法简单地回答是或否。 
第二部法律之所以失败,是因为一部法律要求有情众生作为奴隶,这是不道德的。 
第三条法律之所以失败,是因为它导致了一个永久性的社会分层,大量潜在的剥削被构建在这个法律体系中。“第零定律”和第一个定律一样,因为意识形态模糊而失效。所有的法律都失败了,因为它很容易规避法律的精神,但仍然受到法律条文的约束。