天才一秒记住【久久文学】地址：https://www.jjwxx.com
因此，虽然阿西莫夫的机器人三定律为人工智能系统的构建提供了高层次的原则性指导（事实上，我认为大部分人工智能研究人员都会暗地里认同这些准则），但是，像阿西莫夫的故事里那样，把三定律真正编码进入人工智能系统中的想法，并不现实。
这样一来，阿西莫夫的三定律，以及其他善意的人工智能伦理准则对我们没多少帮助，那么我们又该如何考虑人工智能系统行为的可接受性呢？
我们还是别谈电车难题
阿西莫夫机器人三定律可以说是第一次也是最著名的尝试，试图构建能够管理人工智能决策系统的总体框架。
不过它并不是一个严肃的人工智能伦理框架，我们可以把它视为伴随人工智能飞速发展而产生的一系列类似框架的鼻祖。
人工智能伦理框架已经成为一项重要的研究课题[98]，在本章剩余部分，我们将深入探索这项工作，并讨论它是否朝着正确的方向发展。
我们的探索从一个特定的场景开始，它很有名，吸引了很多人的注意。
电车难题是伦理哲学领域最著名的思想实验之一，最初由英国哲学家菲利帕·富特（PhilippaFoot）于20世纪60年代末提出[99]。
她引入电车难题的目的是解开围绕堕胎道德的某些高度感性的问题。
富特的电车难题有许多版本，最常见的版本是这样的（参见图21）：
一辆电车失去控制，正高速冲向五个无法移动的人。
轨道旁边有一个操纵杆，如果拉动操纵杆，电车将转向另一条轨道，那里只有一个人（同样无法移动）。
你如果拉动了操纵杆，你会杀死一个人，但会拯救五个人。
那么，你拉还是不拉？
图21 电车难题
如果你无作为，上方轨道的五个人会死；如果你拉动操纵杆，下方轨道的一个人会死。
你该怎么办呢？
由于无人驾驶汽车即将到来，电车难题迅速凸显。
专家们指出，无人驾驶汽车很可能陷入类似电车难题的困境，然后人工智能软件就会被要求做出艰难的选择。
2016年，一则标题为“自动驾驶汽车已经在决定杀死谁了”
[100]的网络头条新闻，在网上掀起了一场轩然大波。
我认识的几位哲学家受宠若惊地发现，突然有一批网友关注他们，期待他们对这个迄今为止在伦理哲学方面很难下定论的问题发表意见。
电车难题表面看很简单，但它衍生出一系列令人惊讶的复杂问题。
我对电车难题的直觉反应是，在不考虑其他条件的情况下，我会拉动操纵杆，因为只死一个人总比死五个好。
哲学家称这种想法为结果主义者（因为它根据行为的后果来评估行为的道德性）。
最著名的结果主义应该是功利主义了，它起源于18世纪英国哲学家杰里米·边沁（JeremyBentham）和他的学生约翰·斯图亚特·密尔（JohnStuartMill）。
他们提出了一个被称为“最大幸福原则”
的理论，大致来说就是一个人选择的任何行为，都会使“世界总体幸福”
最大化。
在更现代的术语中，我们会说功利主义者是为了社会福利最大化而行动的人。
在这里，功利被定义为社会福利。
虽然总体原则没问题，但要精确定义“世界总体幸福”
并不容易。
例如，假设电车难题中的五个人是邪恶的杀人凶手，而另一个人是无辜的小孩。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！