天才一秒记住【久久文学】地址：https://www.jjwxx.com
当然，也存在质疑的观点，哪怕出现奇点的可能性微乎其微，但一旦它出现，对所有人类而言，不啻一场灭顶之灾，所以现在开始要对奇点进行预先思考和计划，是完全有必要的。
不管奇点是否会出现（很显然，我的观点是不会），但目前看来，确实有不少人很担忧人工智能的发展，认真考虑是否要对其进行监督。
我们是否需要法律——甚至国际公约来控制人工智能的发展，就像我们应用核能一样？不过，我认为引入一般的法律来管理人工智能的使用没有可行性，这就有点像试图通过立法来管理数学应用一样滑稽。
我们得谈谈阿西莫夫
每当我和一个普通观众讨论《终结者》的故事时，总有人建议，我们要在构建人工智能的时候就考虑约束问题，避免它成为无法控制的杀人机器。
在这之后不久，通常就有人建议我们考虑著名科幻作家艾萨克·阿西莫夫（IsaacAsimov）提出的机器人三定律。
机器人三定律是由阿西莫夫在机器人系列故事中提出的，在他的故事里，机器人装备了强大的人工智能——“正电子大脑”
。
阿西莫夫最早在1939年制定了三定律，在接下来的40年里，机器人三定律为他提供了巧妙的情节设计，最终成就了一系列著名短篇小说，以及一部令人失望的好莱坞电影[97]。
阿西莫夫故事中人工智能的“科学性”
，即正电子大脑毫无意义，当然，这丝毫不影响故事的趣味性。
对我们来说，最有趣的是机器人三定律本身：
第一定律：机器人不得伤害人类，也不得因为不作为而让人类受到伤害。
第二定律：机器人必须服从人给予它的命令，除非该命令与第一定律冲突。
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保证自己的生存。
真是完美的设定，乍一看巧妙又稳妥地解决了问题。
那么，我们可以在构建人工智能的时候内置这些定律吗？
关于阿西莫夫的机器人三定律，首先要说的是，它们设计得虽然精巧，但阿西莫夫的故事很多时候都是发生在定律有缺陷或者互相矛盾的情况下。
例如，在故事《环舞》中，一个名叫SPD-13的机器人要无休止地围着一池熔融的硒绕圈，因为要遵守人类下达的采硒命令（第二定律）和保护自己（第三定律）之间存在冲突，所以它只能在离硒矿湖固定的距离处绕圈子，如果它再靠近一点硒矿湖，保护自己的定律开始起作用，让它远离；而它要是离得过远，采硒矿的命令又起作用，它必须服从。
在阿西莫夫的故事中还有许多其他例子（我强烈推荐你去读一下）。
因此，三定律本身虽然很巧妙，但绝不是无懈可击的。
但机器人三定律更大的问题是，它在人工智能系统中根本无法实施。
想想实施第一定律意味着什么，当人工智能在考虑每一个动作时，都需要考虑这个行为可能产生的影响，大概需要考虑全人类（或者能够涉及的部分人类）以及未来可能出现的影响（总不能只关心现在吧）。
这是不可行的。
另外，“不得因为不作为而让人类受到伤害”
这一条也存在同样的问题：系统能够做到不断地思考它涉及的每个人所有可能的行为，并且思考自己是否有相关行为能够阻止他们受到伤害吗？这也是不可行的。
即使单单捕捉“伤害”
这个概念也很困难，试想一下：当你坐飞机从伦敦飞往洛杉矶时，你消耗了大量的自然资源，并在途中产生大量污染和排放大量二氧化碳。
毫无疑问，这肯定会对某些人产生伤害，但这种伤害的程度不可能精确量化。
如果你不相信的话，我可以告诉你，我认识一些不愿意坐飞机旅行的人，他们的理由就是如此。
所以，我想，一个遵守阿西莫夫三定律的机器人是不会坐飞机的。
事实上，我怀疑它不能做任何事情，它可能只会蜷缩在某个角落，躲在世界的一隅，因为优柔寡断而如同废铁。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！