为了救人，未来自动驾驶汽车可以合法的撞死你

五羊

为了救人，未来自动驾驶汽车可以合法的撞死你2015-04-06 16:19 GeekView

喜欢看哈佛公开课、读趣味经济学的人，一定知道一个有名的伦理学思想实验：电车难题。
假设你驾驶一辆有轨电车，眼看要撞上前方轨道上的 5 个检修工人，你自己无法控制电车停下，工人们也根本来不及逃跑。但你可以把电车切换到备用轨道，只是，备用轨道上也有 1 个人逃不开。你会不会这么干，牺牲这一个人的生命来拯救另外五个人的生命？

大多数人即使考虑多多，也大致同意五个人的生命总体上要比一个人重要。但毕竟要杀死一个人这件事不太体面，得有个说法。于是，为了让人们心里隐秘的权衡更加清晰可见，思想家们不断推演这个实验，把让人“考虑多多”的因素都摆到前台。
于是有了电车难题的第一个推演：你在轨道外，看着电车驶来，即将杀死五个毫无知觉的人。你身边有个大胖子，推他一把就能把电车挡住，救下五条性命。可这个胖子是死在你推了一把的手里，亲手推，你肯么？
这个推演的本质是：为了拯救他人的生命，可不可以伤害一个无辜的人，一群人的生命是否比一个人的生命更有价值？
在涉及他人命运时、特别是要把别人的血染到自己手上时，我们情愿不要动用自己的判断力。因为自己的判断力太容易受影响了：哪怕你仍然觉得五个人的生命总体上要比一个胖子的生命重要，但如果这个胖子是你挚爱的家人，而那个五个人只是路人，你还愿意下手吗？

有了自动驾驶汽车以后，这个连上帝、马克思和弗洛伊德都解决不了的难题，恐怕要交给机器人来解决了。
机器人没有感情，是不是亲人都可以勇敢下手。于是有了第二个推演：想象你在驾驶一辆超巨型的电车，无数人在此搭乘且各怀心事，当轨道上出现一个无辜的人，你只需停下电车就可救他性命，但乘客们需要一直前进，否则损失无数。他们不允许这辆车中途停下。
这个推演的本质是：为了一群人的福利和好处，可不可以伤害一个无辜的人，一群人享有的社会进步是否比一个人的生命更有价值？

美国人平均每年驾车 2.5 亿次，造成车祸并致使 3 万人丧生。按照推演一，美国人每出行 800 万次，牺牲一个胖子就够了；按照推演二，每 800 万个美国人乘坐一辆巨型电车，半路杀死一个路人。
目前有关自动驾驶这一新科技的证据和逻辑都宣称，自动驾驶可以帮助我们大大压缩被杀死的胖子或路人的数字，它至少比人类司机要安全得多，尽管它目前还处于“婴儿”期，不成熟，不完美，存在 99% 的问题。
就连跟自动驾驶有直接利益勾连的人也乐于承认它还远不完美这一点，包括某些被游说成功的政客、被谷歌工程师征服的汽车制造商以及自动驾驶的低调布道者谷歌等等。
他们之所以不着急把完美的自动驾驶汽车推向市场，最明显的暗示便是，他们不希望自动驾驶汽车轻易地替人类做出那个艰难的道德决定：为了拯救五个人，杀死一个胖子或者路人。经过之前的推演我们逐渐明白，这已经是我们目前所处的功利社会环境下，大家不用经过太多纠结、普遍接受的一种结果。
谷歌之流宁愿让大家就静静欣赏着他们迟迟不能上市、还处于“婴儿”状态的自动驾驶汽车。人们猜想它们可能在何种状况下引起麻烦、制造车祸、杀死路人，却已经对之前那年均 3 万人的死亡视而不见。国家有关部门、传统汽车厂商、已麻木的马路杀手等理应为此负责，却趁着新技术集中承受压力的时机成功金蝉脱壳。

（“电车难题”在谷歌搜索中出现的频率在 2015 年达到高峰）
自动驾驶这个新事物到底承受着什么样的压力呢？这显然不是什么技术难题，恰恰就是我们之前推演的那种伦理难题。在需要汽车帮人做决定是切换轨道（电车难题）、压死胖子（推演一）还是压死路人（推演二）的时候，汽车到底需要遵循何种伦理标准呢？
人类根据自己对世界的理解来建立模型，设定机器人的参数和程序，执行问题并求解。但人类还没有学会如何衡量生命的价值，就要为机器人驾驶的汽车建立一套制度，让生命价值成为类似通用货币的东西，可以在植入程序中权重、判别。我们甚至不确定五个人的命是否就比一个人重要，假如要在大人和孩子、年轻人和老人、男人和女人之间做选择呢？没有一个统一的价值基石，自动驾驶的伦理逻辑便无法建立，也就根本没办法做出到底要压死谁的决定。

（《十二怒汉》剧照）
甚至是自杀的决定。电车难题推演三：危急时刻，要么撞死一个孕妇，要么汽车改道、司机死亡，这个时候自动驾驶汽车会做出跟主人一起牺牲的决定吗？
科幻片里服役机器人为不辱使命自毁的情节我们已经看了太多（甚至迪斯尼的大白也要如此），但如果这时候需要捎带上主人呢？主人会不会干预自动驾驶汽车的自毁决定，他有没有权利干预？不是每辆车都愿意成为“泰坦尼克号”。

（《机械公敌》剧照）
当年艾萨克·阿西莫夫设下的机器人三定律已经足够复杂了：1. 机器人不得伤害人类，或因不作为使人类受到伤害；2. 除非违背第一法则，机器人必须服从人类的命令；3. 在不违背第一及第二法则下，机器人必须保护自己。
——它没办法解决“孕妇还是司机”的难题，我们现在也不行

老汉

人活着，就是在承受煎熬啊。
胡老先生说：人生就是一种生物学的事实，与一只狗、一只猫没有区别。
人类社会却是极为复杂，这是人在给自己找麻烦吗？！
很多事情想想就头疼......

不上班身材不好

这个  这个   太那什么了

lei400

道德问题一直是无人驾驶汽车这么多年来没法解决的问题。看看美国怎么走吧。。。