天才一秒记住【久久文学】地址：https://www.jjwxx.com
·汽车必须记录下任何时间在驾驶汽车的对象。
其中一些指导原则与道德机器实验中所得出的数据相悖：例如，禁止任何基于个人特征的歧视的规定与道德机器所揭示的拯救年轻人的国际偏好形成鲜明对比。
试想一下，如果一辆无人驾驶汽车遵循德国的指导方针，不对事故对象做区分，结果导致一名儿童而不是一名老年晚期癌症患者被撞死，那会引起多大的公愤。
我举的例子很极端，在此深表歉意，但你应该能明白我的意思。
虽然道德机器实验挺有意思，但我认为它本身和它所涉及的电车难题都无法给我们太多有关无人驾驶汽车人工智能软件的启示。
我不相信未来几十年内我们的无人驾驶汽车会遇见这种道德困境。
那么，当遇上电车难题的时候，一辆真正的无人驾驶汽车在实际操作中会怎么做呢？那些致力于研究无人驾驶汽车技术的人对细节也不太清楚，但以我过去几十年在人工智能领域积累的经验来看，最基本的工程原理是最大限度提高预期安全性（换言之，就是最小化预期风险）。
这不涉及深层次道德推断的问题——如果真的需要推断，也可能不会比你面对多个障碍物时避开较大的那些需要做的推断更复杂。
坦率地说，即使是这种层面的推断也并不是一定会发生的。
事实上最有可能的结果是汽车会紧急刹车。
也许，在实践中，在同样的情况下，我们也应该尽全力去做到这一点。
人工智能伦理研究的兴起
别作恶。
——谷歌公司座右铭，2000—2015年
还有更多更广泛的问题涉及人工智能和伦理学，这些问题比电车难题更具紧迫性，也更相关。
在撰写本书的时候，人们正为这些问题进行激烈争辩。
似乎每一家科技公司都想证明他们的人工智能比其他公司的更具有道德性，几乎每星期各家都有新闻稿宣布一项新的人工智能伦理倡议。
我们需要回顾一下这些问题，以及思考它们在人工智能未来发展中可能扮演的角色。
最早也是最有影响力的人工智能道德框架之一是阿西洛玛人工智能准则，它是由一群人工智能科学家和评论员于2015年和2017年在加州的阿西洛玛度假胜地确定的。
阿西洛玛人工智能准则一共有23条，全世界人工智能科学家和开发者都被要求签署这些准则[103]。
大多数准则都是没有什么争议的，比如：第一条，人工智能研究的目标应该是创造有益的智能；第六条，人工智能系统应该是安全可靠的；第十二条，人们应该有权访问、管理和控制与人工智能系统相关的数据。
另外一些准则志存高远。
例如：第十五条要求“人工智能创造的经济繁荣应该被广泛分享、造福全人类”
。
我个人对签署这一条倒是没什么异议，但这一条对那些大型企业而言，恐怕只是嘴上说说罢了，指望他们落实这一条那恐怕是天真过了头。
大企业投资人工智能的主要原因是希望获取竞争上的优势，为股东带来利益，而不是他们想造福全人类[104]。
最后的五条原则涉及人工智能长远的未来，以及对人工智能可能会以某种方式失控的担忧——《终结者》场景再现：
·能力警惕：我们应该避免关于未来人工智能能力上限的过高假设，但这一点还没有达成共识。
·重要性：高级人工智能能够代表地球生命历史的深远变化，人类应该报以高度关注，以及用合适的资源来进行规划和管理。
·风险性：必须投入与人工智能系统预期影响力相对应的努力来应对和缓解它们带来的风险，尤其是毁灭性风险或者涉及人类存亡的风险。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！