当妈妈和女友同时落水先救谁？无人车告诉你答案

母亲女友先救谁这种亘古难题可不只是困扰着广大男同胞，无人驾驶技术也深受其害。但据专家称，现在无人车已经能在 “谁的生命更有价值” 做出抉择了。MIT认知科学家Lyad Rahwan在一封电子邮件中写道：“每当无人车进行避让时，它就已经决定了不同人群的风险程度，并根据不同情况选择该撞谁。”

无人驾驶卷进伦理风波

其实，这个争议很早就有了，甚至可以追溯到电车悖论（The Trolley Problem）时代。那什么是电车悖论呢？就是一个疯子把5个无辜的人绑在铁轨上。一辆失控的电车朝他们驶来，并且马上就要碾压到他们。这时候，驾驶员可以选择拉拉杆，让电车开到另一条轨道上。但是那个疯子在那另一条轨道上也绑了一个人。所以你认为列车员应该拉拉杆吗？

从功利主义角度看，也许电车难题根本不算难题，因为很明显牺牲 1 个人比牺牲 5 个人付出的数量上的代价要低。但结果上看，驾驶员拉拉杆的行为确实导致了另一条车道上那个无辜的人的死亡。而有了人为参与，就会有责任归属。

无人驾驶汽车系统的开发者，正是握有这个“拉杆”的人。在无人驾驶汽车面临交通事故时，它的避让举动很可能决定乘客和行人的生死。而究竟让谁的伤害最小化？无人车肯定是经过事先编程的。

很简单的一个例子，如果一个人突然出现在疾驰的无人车面前，汽车可以瞬间撞上路障，车内乘客死亡；或不避让，直接撞死行人，这种时候到底该杀谁？

Rahwan和他的同事研究了在必须牺牲一方的情况下，要考虑的道德问题。根据Rahwan的说法，虽然这个问题在现在看来只是一个假设，但如果有一天街上的无人车越来越多，这将是无人驾驶汽车面临的逃不掉的问题。

各方专家争论不休

Cal Poly的哲学教授Ryan Jenkins告诉我们：“当无人驾驶汽车在路上行驶的时候，它周围的每个人都处于危险之中。当我们开车经过一个骑自行车的或者慢跑的行人，我们喜欢给他们留出额外的空间，因为我们会下意识地调整方向盘离他们更远，以防有什么不测，比如骑自行车的人可能会突然摔下来，或慢跑的人可能突然滑倒在街上。”

Noah Goodall，一位弗吉尼亚交通研究理事会的科学家，通过电子邮件写到。“要想真正保证行人的安全，只要有行人在人行道上走路，无人车就必须非常缓慢的行驶，万一行人突然冲到车辆前面呢。”

当人类开车时，我们可以用反应、直觉、灵敏度来搪塞这个道德问题，这时候问题就会变得可大可小。但在人工智能里这可就说不通了。无人车的程序员必须为每种情况定义明确的规则，或者完全遵守交通规则，来解决这一问题。

“一方面，控制汽车的算法可能有一套明确的规则来做出道德权衡，”Rahwan写道。 “另一方面，汽车在不可避免造成危害的情况下做出的决定，可能会从各种算法软件的交互中产生，这里没有一个明确的程序来衡量无人车的伦理问题。

即使程序员努力让事情发生得不那么绝对，但在某些情况下或在整体统计中，行为模式还是可识别的。“用Harvey Cox的话来说，不做决定也是一种决定（not to decide is to decide）” 艾伦人工智能研究所CEO Oren Etzioni在一封电子邮件中写道。

无人驾驶试图逃避现实

无人车公司如何实际处理这些伦理问题？ 在许多情况下，他们试图回避这个问题。

当然，道德学家指出，一些风险是不可避免的，比如无人车刹车失灵，其他司机刹车失灵，自行车，行人和动物突然做出不可预测的举动等等都在考虑的范围之内，所以很难单纯地把这个艰难的道德问题抛给无人车公司。

其实，谷歌曾给出过很多关于如何处理危急时刻无人车决定的细节。2014年，Google X的创始人塞巴斯蒂安·苏恩（Sebastian Thrun）表示，谷歌无人车将在事故不可避免即将发生时做出选择，撞上两者中较小的一方。原话是：“如果车祸不可避免，无人车会撞上较小一方。” （If it happens that there is a situation where the car couldn’t escape, it would go for the smaller thing.）

在2014年谷歌就明确地遵循了这个逻辑，如果事故发生时无人车需要变道（不管要变的车道有没有车），无人车都会选择较小的物体来撞击。比如无人车眼看就要撞上卡车，而另一车道有一辆小轿车，这时候它就会紧急变道，宁可误撞上小车也要躲开卡车。

撞小的主体，本身就事关一个道德抉择：通过保护无人车内的乘客来最小减轻撞击造成的伤害。但同时这也是一个危险转嫁的工作，将危险转移到行人或者小型轿车上。此外，像Cal Poly的哲学教授 Patrick Lin在邮件中说的那样，“如果按照体积大小来算，那婴儿车和小孩子受伤的几率会更大。”

在2016年3月，谷歌当时的无人车首脑Chris Urmson，在接受洛杉矶时报采访的时候说，我们的车将尽最大努力避免伤害无保护的道路使用者，如骑自行车的人和行人。在这基础上，将会尽力避免撞上正在移动的东西。

跟直接去撞体积小的相比，这种方法显然让大众更容易接受，打破规则来保护在事故中最容易受伤的人。当然，如果是这样的话，无人车的车主可能就要好好替自己想一下了，购买无人车，到底是不是一件划得来的事情？是不是购买了无人车之后，车主所承担的责任会比雇用一个司机还要多？

不要陷入过度假设的旋涡

到底要如何处理无人车的道德问题呢？至少有一种新出现的共识是值得我们讨论一下的。

美国国家公路交通安全管理局在9月的报告中说，“无人车制造商，监管机构和其他利益相关者（例如司机，乘客和其他容易受到伤害的道路使用者）应该一起来处理细分这些情况，确保这些情况发生时，无人车的反应哪些是有意的，哪些是无意的。

来自非盈利机构的消费者监督（customer watchdog）的 Wayne Simpson，提出了一个质疑的声音。他说：“公众有权利知道，当自动驾驶汽车在街道上行驶时，它优先保护乘客、司机还是行人的安全，以及它考虑哪些因素。如果这些问题没有被解决，公司还是可以在私底下对汽车进行编程，来免掉一部分自己的责任，这样是不符合社会道德，风俗和法治的。

不过，福特汽车安全全球总监Wayne Bahr曾提到人们在对待无人车哲学中的过度假设，“我们要做的应该是从一个基于科学的道德角度来处理好这个问题，而不是陷入无限循环的不切实际的假设，这样对解决问题没有任何帮助 。而且，人们对HAV（车上测试和部署自动驾驶系统）的能力也太高估了，你怎么知道无人车就能在一瞬间准确区分一个人的三六九等呢？

话说回来，我们不能用无限的猜测来试图抹黑无人驾驶，毕竟，无人车已经比人类驾驶员安全得多。从数据来看，他们还能减少90%因交通事故而导致的死亡。如果人类真的想让无人车技术更进一步，完善对无人车的相关法律是必不可少的，只有这样，才能使无人车免于各种可怕而又说不清的争议和诉讼。

正如Rahwan以及他的同事Azim Shariff和Jean-François Bonnefon在纽约时报上提到的那样：“无人车越早被应用，更多的生命就得以被拯救。只有仔细解决无人车心理和技术方面的挑战，才能将人们从繁琐，浪费，危险的现有驾驶系统中解救出来。而我们，已经在危险的驾驶系统中度过了一个世纪。”

转载请保留当前帖子的链接：https://www.beimeilife.com/thread-41152-1-1.html 谢谢