只剩10%技术但还有90%伦理

郭娇

斯坦福自动驾驶研究中心（Center for Automotive Research at Stanford，简称CARS）十年前在斯坦福大学校园诞生，它的孕育可以追溯到2002年由美国国防高级研究计划局（Defense Advanced Research Projects Agency，简称DARPA）组织的一次挑战赛。

CARS

DARPA是一个神奇的机构，它在互联网、人工智能、无人车等领域都诞生了颠覆性技术。比赛于2004年举行，地点设在美国西部的沙漠，路线总长240公里，奖金高达100万美元。结果大跌眼镜——没有团队获奖，甚至没有一辆车跑完全程，成绩最好的卡内基梅隆大学无人车只行驶了11公里，不到全程的5%。DARPA没有放弃，于2005年继续举办比赛，奖金翻了一番。卷土重来的团队水平全面提升，有5輛车跑完全程。整个比赛焦点是由特龙（Sebastian Thrun）带队的斯坦福大学和由惠特克（Red Whittaker）带队的卡内基梅隆大学的双雄对决。斯坦福胜出。

两年之后的DARPA挑战赛，行驶路线中包括96公里的城市道路。无人车不仅要遵守交规，还要根据路面情况实时判断，包括雨雪天气、停车场、其他车辆行驶状况等。卡内基梅隆大学反败为胜。比赛吸引了科技巨头，这次比赛也成了DARPA挑战赛的绝唱，不少团队领军人物纷纷加盟谷歌、通用等科技巨头，或自己创业。特龙于惜败的第二年在斯坦福大学联合创建了CARS。特龙是一位神奇人物，大学期间主攻计算机科学，通过深度学习与计算机视觉实现自动化驾驶，是谷歌的“无人车之父”，后来还创办了三大慕课平台之一的Udacity。CARS初创团队的另两位成员，一位是机械工程专业的格德斯（Chris Gerdes），他通过动态设计实验室（dynamic design lab）研究驾驶员辅助系统；另一位是擅长传播的纳斯（Cliff Nass）。计算机科学、机械工程、传播学，三位创始人的不同专业背景，奠定了CARS的跨学科DNA。

CARS打通了斯坦福大学法学院、商学院等七大学院，开设的课程及开展的科研项目涉及模拟、能源、人机交互、法律、伦理和商业等各个专业。

与CARS战略合作的企业共41家，比如汽车大鳄福特、大众、通用、奔驰、丰田、宏达，高科技企业3M、intel，保险公司Allstate、Statefarm，电器公司Bosch、松下。每个战略合作企业赞助CARS年费3.2万美元，应邀参加年会，更新每月动态，获得打包的简历。预计到2030年，无人车全球商机将高达7500亿美元，它们收集用户行为数据，用于广告、保险等业务。无人车不仅吸引了大鳄们，初创企业也跃跃欲试。

斯坦福大学开设了课程《自动驾驶的商业》，同学们在课上完成商业计划书，交由评委评价。这门课还邀请Voyage创始人喀麦隆（Oliver Cameron），他结合无人车技术与养老市场，提供专门针对老年人的自动驾驶服务。一位老年盲人曾使用他的App，呼叫无人出租车，在4000多人的校园里行驶了15公里，平安到达目的地。老年痴呆、行动不便的老年乘客都是Voyage的目标用户。

不论专业，只要对无人车感兴趣，就可以在CARS选修课程或参与教授的相关课题。2017～2018年CARS开设的课程包括视觉计算系统、了解能源、可持续的城市及地区交通规划、与企业伙伴开发软件、控制设计技术导论、减少温室气体排放、反馈控制设计、能源储存整合（车辆、可回收物及电网）、能量资源（燃料与工具）、电动汽车与飞机、极端能量效率、计算机视觉（从3D重构到辨识）以及高级反馈控制设计等。

CARS的课程以理工科的“干货”为主，研究的课题则根据教授的不同兴趣，目前进行的研究正是为了“冲刺”，CARS执行主任如普夫（Stephen Zoepf）说：“我们已经完成了自动化商业车辆80%到90%的开发工作，但最后的10%非常困难”。

伦理最后一公里

最后10%在技术上和伦理上仍有巨大问题。

技术上，既困难又刺激的一大挑战，是计算机与心理交叉的人机交互。

在CARS大众汽车创新实验室VR（虚拟现实）仿真剧场的中心地带，停放着一辆黑色丰田亚洲龙（Avalon），车身环绕着多个巨型屏幕。由计算机程序控制，屏幕让车上的人员进入虚拟路面场景，包括对面来车、高架、交通灯、路旁等情况。与此同时，各种传感器实时监控车辆与人员的下意识反应。采集、分析监控到的行为数据，CARS发现了不少值得研究的课题：为什么无人驾驶中车上的人会昏昏欲睡？在何种情况下车上的人想抢过方向盘……这些问题属于人机交互领域的前沿。

在人机交互“最后一公里”的挑战中，最重要的莫过于让消费者准备好（consumer-ready），即让人们接受无人车时代。这个目标并不容易实现。在硅谷，曾开展了著名的“幽灵车手（ghost driver）”课题研究。由于驾驶员穿上了特制服装，有人会误以为这是一辆无人车。车在十字路口停下，用摄像头记录行人的反应，再通过问卷进一步采集他们的想法。当车依交规停车，行人反应正常；一旦车出现起步再停的情况，行人的反应五花八门，有绕到车后穿行的，有手舞足蹈的……对无人车工程师而言，他们得训练这辆车不仅能“看见”反常的动作，还得“理解”并采取适当策略。

“最后一公里”的挑战也涉及无人车伦理。

很多需要人判断的场景至今难以被编入无人车的程序。比如左边是行人，右边是骑自行车的人，事故难以避免，保全哪一方？再比如乘客与行人间，牺牲哪一方？2016年《科学》杂志曾发布了一系列这种伦理调查。调查团队由来自法国与美国的科学家组成，包括麻省理工学院媒体实验室（Media）的研究者。调查问题的设计相当有水平——假如由你来设计无人车的算法，车上乘客与路上行人只能一人存活，你的选择是什么？假如能拯救的行人是十人，你是否会改变主意？假如不用牺牲乘客，而是另一个行人，你又会如何选择？如果车上乘客不是本人，而是朋友或家人，那么结果是否不同？假如你是无人车的潜在用户，不同算法是否会影响你的购买意愿？假如你是政府决策者，是否要对这些算法进行管制？如果决定进行管制，依据的伦理准则是什么……调查结果表明，“减少死亡人数”这一伦理准则获得高度认同，大多数人选择“牺牲乘客”，只有23%的人选择以一命（车上乘客）换一命（路上行人），76%的人选择“以一换十”。大多数人不愿意购买或乘坐无人车。2017年的皮尤调查支持这种疑虑——60%的美国人不愿意乘坐无人车。87%的受访者认为，无人车乘客应该有在紧急情况下驾驶车辆的能力。

如何让无人车学会人类的道德判断？如何让公众相信无人车的安全？如何制定相关的法律规定？如何在事故发生后裁定责任……这些都是要突破的伦理“最后一公里”。

责任编辑：尹颖尧