自动驾驶伦理困境：我们能接受AI“错到什么程度”？

　　1925年8月，一辆名为“美国奇迹”的无线遥控汽车诞生，它能够通过无线电遥控的方式，来实现车辆方向盘、离合器、制动器等部件的远程操控。《纽约时报》用“就好像一只幽灵的手在方向盘上”形容它，这辆车也因此被认为是人类历史上第一辆有证可查的“自动驾驶汽车”。 　　近百年后，这项技术正在切实走进千家万户。数据显示，L2级(部分自动驾驶，基本操作由车辆完成，但驾驶员手部不能离开方向盘，负责周边监控和随时接管)车辆今年上半年的市场渗透率已经达到30%以上。而这并非简单的驾驶技术的改变，整个社会的出行模态、基础设施、商业模式，甚至整个城市的形态都在因此发生改变。 　　这时，整个社会对这种改变或这项技术的接受度就显得尤为重要。8月3日，第九届智能网联汽车技术年会(CICV2022)的“智能网联汽车社会接受度”论坛正式召开。 　　会上，清华大学教授、麻省理工学院未来交通研究中心主任、教育部长江学者特聘教授吴建平则描绘了他畅想中的无人驾驶所能到达的终极场景：“社会的通行能力提升3到5倍，驾驶事故率降低70%”，而这一切到来的时间“不会超过30年”。 　　不可能100%安全，应考虑“错到什么程度”可接受 　　智能网联汽车是指车联网与智能车的有机联合，通过搭载先进的车载传感器、控制器、执行器等装置并融合现代通信与网络技术，以代替人操作为终极目标的一种概念。 　　而其核心的自动驾驶技术，在让汽车不断“进化”之时，也带来了不少伦理风险。 　　在会议上，瑞典查尔姆斯理工大学终身教授、华为高级专家顾问陈芳便就此提出了“自动驾驶的伦理风险分析”这一议题。 　　陈芳解释道，伦理本质上是一种研究行为的科学，对于一辆自动驾驶车辆来说，不会有“某一块装置”直接与伦理相关，但是在自动驾驶系统进行综合决策的时候，一定会涉及到。 　　她举了一个例子：“比如面对一些要么撞上自己，要么撞上行人的极端情况，这种时候自动驾驶系统要如何做决定？驾驶员、车辆、自动驾驶系统开发者又该如何划分责任？” 　　因此，在陈芳看来，自动驾驶的伦理问题本质是“决策”，即外界的条件通过各种传感器传到了计算系统中去，再根据其他的外部环境、内部环境各方面来做一个决策，做完决策车辆再实行一定的控制过程，在这种情况下就需要考虑到很多伦理问题。 　　陈芳指出，这种伦理决策的倾向会受多个因素的影响： 　　后果影响大小及社会共识。比如导致一个人或造成很多人轻伤两个后果之间的抉择 　　可能性。对一名乘客有10%的概率造成严重伤害和100%造成很多乘客的轻伤两个后果之间的抉择 　　即时性。事故发生一刹那的本能反应 　　亲密感。对行人和车上家庭成员的亲密程度造成的决策不同 　　效果的浓度。造成10个人死亡的影响远远超过造成5个人思维的影响 　　除此之外，陈芳也提到，也有很多人试图从AI算法的角度解决问题。比如对于特斯拉的一些事故，很多人就想要通过AI的深度自学习来提高其决策的合理性。“但事实上自动驾驶要100%的安全是不可能的，因此我们要针对这种技术局限性，来讨论它‘错到什么程度’是我们可以接受的。” 　　她提到L3级汽车(有条件自动驾驶，驾驶员可以解放手脚，不必监控环境，但要能够在短时间内接管)的驾驶员接管问题时表示，这里有两个需要思考的问题：一个是驾驶员接管的时长问题，另一个是接管之后的责任问题。 　　中国汽车工程学会国汽战略院副院长战静静进一步提出，或许可以在标准法规上尽可能对预留接管时间、在什么样状态下有哪些选择都界定好责任，以这种责任划分的形式，把生产厂家的责任和驾驶员的责任放在一起。 　　“无人驾驶全面普及不会超过30年” 　　在吴建平看来，在L3或者L3以下的无人驾驶中，扮演主要角色的本来就是驾驶员，所以更多时候决策权还是落在驾驶员身上，谈不上机器做决定，所以“探讨伦理层面的问题”应该针对更高级别的无人驾驶。 　　因此，吴建平从“无人驾驶与未来交通”的角度，分享了在他设想中的无人驾驶最终到达之际，我们的社会将产生什么样的变化。 　　首先是社会的通行能力可能会有3到5倍的提升。吴建平解释道，人类反应速度的基数大概在0.5秒左右，这也就是为什么人类驾驶员需要在高速路上要保持几十米，在城市道路要保持一二十米的距离。但无人驾驶车辆的感知能力和反应能力都更强，能够把距离缩短到几米，那么路面上就不会那么堵，路上就能多跑3倍到5倍的车。 　　其次是能够减少70%以上的驾驶事故。因为机器不会自己打电话、酒驾或疲劳驾驶。 　　最后一点，则是这种无人驾驶的交通方式将会彻底改变人类的生活习惯。吴建平认为，到了无人驾驶时代，共享模式的出行会成为主流，而车则会成为家庭和办公室的延伸，汽车厂商在未来甚至有可能会变为一种社会服务、交通服务的提供商，而非汽车的销售商。 　　吴建平提到，目前无人驾驶研究分为两条路线：第一条是基于车端的开发，目的是把车做得像人一样智慧，让车自己看自己开自己做决定，这条线路上有不少传统车厂；第二条则基于5G、通讯和车联网。吴建平解释，第二条路线“就像人下象棋一样”，车就是一个棋子，由系统来根据车的位置，获取车辆的速度和前后侧的状况，然后再告诉汽车应该做多大的加速度或换道。 　　不过，在他看来，最终两条路线会合并为一条车路协同的方向：车尽可能地智慧，而系统在部分信息缺失或有误的时候提供一些补充。 　　吴建平还对无人驾驶时代的到来做出了预测：“就像30年以前大家在北京路上看到的都是自行车，而经历了30年，今天路上都是人类驾驶的汽车，那么到路上都是无人驾驶汽车的那一天呢？应该不会超过30年。”