致力可信赖的人工智能，提出创新的“加速测试”方法，让自动驾驶汽车更安全

卡耐基梅隆大学助理教授 34岁

作为“人文关怀者”入选的赵鼎，提出了创新的“加速测试”方法，让自动驾驶汽车评测更快速、更安全、更可信赖。他参与撰写的基于“加速测试”的报告收录进了世界上首个智能网联汽车测试中心MCity的首本技术白皮书，如今已成为业界公认的标准测试方法之一。他领导的实验室与谷歌大脑、亚马逊、IBM、福特、优步、Adobe、丰田、博世、劳斯莱斯等全球知名企业合作，致力于推动可信赖智能的基础理论研究和技术落地。

获奖时年龄：34岁

获奖时职位：卡耐基梅隆大学助理教授

获奖理由：他提出了创新的“加速测试”方法，让自动驾驶汽车评测更快速、更安全、更可信赖。

近年来，人工智能技术的普及加速了自动化系统在社会生活中的应用，其中以自动驾驶最为典型，几乎所有汽车厂商都在加速布局这一领域。不过，日趋复杂的人工智能技术和算法对自动化系统的测试提出了更高要求，尤其是在安全測试中。

如何保障自动驾驶的安全性？

在自动驾驶如火如荼发展的同时，美国发生了全球首例自动驾驶汽车致行人死亡事件：当地时间2018年3月18日晚，亚利桑那州坦佩市一名女子被优步自动驾驶汽车撞伤，送医之后不幸身亡。坦佩市警方声明称，这辆车当时正朝北行驶，而遇难女子正在人行横道外从西往东走。事发后，优步立刻暂停了在美国坦佩、匹兹堡、旧金山，以及加拿大多伦多的无人驾驶新型出租车的路上测试。

相关媒体称，这是全球首例自动驾驶车辆致人死亡的事件，或对这项新技术的引入形成冲击。似乎整个行业遭遇“重创”，人们给自动驾驶的安全性打上了一个大大的问号。此后，自动驾驶事故偶有发生，这件事开启了自动驾驶的低谷期。

不过，在经历了201 9年低谷期之后，自动驾驶整体产业开始回暖。相关行业报告显示：截至2021年第三季度，自动驾驶项目投融资事件已达69次，总投融资金额达629亿元。根据公开的行业数据预测，2022年自动驾驶项目投融资金额有望达到新高峰。

但目前，自动驾驶汽车尚未大规模部署，自然驾驶数据稀少，许多传统测评方法难以胜任，学界和业界都在寻找更加有效的测试方法，卡内基梅隆大学助理教授赵鼎就是其中之一。

“加速测试”，业界公认的标准测试方法之一

赵鼎在博士论文“自动驾驶汽车的加速测试”中提出了基于重要性采样对自动驾驶长尾事件进行测评的方法，并在数学上给出了严格的证明。

什么是“加速测试”？

所谓“加速测试”，指的是如何更快地确认特定的自动驾驶汽车比普通人类驾驶员更安全。然而，目前自动驾驶汽车尚未普及，而且它引发事故是更是非常稀有的事件，所以即使用蒙特卡洛模拟，也需要很长时间且缺乏统计学上的显著性。

赵鼎提出的方法对于稀有事件一般可以加速几个数量级，从而可以极大地降低测试的成本。其核心思路是“人为”增加发生事故的可能性并用数学纠偏。以换道超车场景为例，如果可以从人类驾驶员那里收集大量的换道行为，构建该行为的随机概率模型，那么就可以改变概率分布函数来强调“重要”或“危险”行为并淡化“无用”或“正常”行为，从而加快测评。他提出的创新的“加速测试”方法，让自动驾驶汽车评测更快速、更安全、更可信赖。

谈及“加速测试”的优势，赵鼎告诉络绎科学：“十年前，我开始读博的时候，自动驾驶还没有受到业界重视，但是机器学习方兴未艾，当时我就想过，如果把人工智能应用在汽车上，必定会掀起浪潮，但车要想上路，需要经过必要的测试和法规的支持。我意识到，这不单是智能车的问题，还是人工智能这一复杂系统的测试问题。而系统测试最终可归纳为数学问题，面对复杂系统的测试，人们需要相对应的甚至更复杂的评测方法。”

“传统的自动驾驶测试，是简单的自动驾驶功能的测试，比如紧急制动，而加速测试的不同和最大优势是经过了多次算法迭代，能够测试特定自动驾驶在更复杂环境中的安全性。目前如何去学习和处理稀有的有安全隐患的数据和场景是‘加速测试所要解决的关键问题。我们最近开发的基于深度学习的重要性采样加速测试，融合了传统稀有事件统计学和人工智能这两个原本很少交流的领域，使得我们能够测试更为复杂的环境和直接处理高维传感器的原始信息，为加速测试开辟了新的方向。”赵鼎补充道。

科研历程

赵鼎主要的研究集中于人工智能的安全性方面，具体来说，对于有安全风险的自动化系统，如自动驾驶、智能医学诊断等，落地前必须对其进行严格的测评。这类应用之所以特别，是因为他们的失效可能引起灾难性后果，所以对测评的要求极高。

可是，人工智能的快速发展使自动化系统日趋复杂，传统的测评方法遇到了瓶颈。这是急需解决的问题。2B9A79DC-4EE1-4280-AF49-3ACD23512D94

美国交通部的报告指出“到2025年，美国一半的新车将拥有部分自动驾驶功能”。现在，几乎所有的国际汽车和IT公司里都在研发自动驾驶，但目前还没有一套严谨、有效、易用的自动驾驶安全的评测方法。《美国国家人工智能研究和发展战略规划》把“人工智能评测方法”列为需要优先发展的方向，否则将会付出生命的代价，并导致创新迟滞，经济受损。

赵鼎的博士论文《自动驾驶汽车的加速测试》是第一个对自动驾驶汽车测评进行研究的博士论文。他提出了基于重要性采样对自动驾驶长尾事件进行测评的方法，并在数学上给出了严格的证明。

在密西根大学交通研究所做博士后期间，赵鼎与团队成员合作，提出了“交通基元”概念。这一概念是指，人类在自动驾驶研究中，首次用非监督式学习，从当时世界上最大的车联网数据库“Safety Pilot”中，自主学习出交通场景的基本组成单元。

一年后，赵鼎博士后出站，成为密西根大学的研究员，并开始在Mcity开展研究，作为世界上第一个智能网联汽车测试中心，Mcity拥有60多个世界顶级的企业合作伙伴。

赵鼎参与撰写的基于“加速测试”的报告，成为Mcity第一本科技白皮书。这项工作成为了当年密西根大学工学院向校友宣传的两项突出成果之一（另一项是新的癌症治疗技术）。如今“加速测试”已经成为Mcity对业界推荐的标准测试方法之一。

应用落地

2018年，全球第一起自动驾驶汽车撞人致死的交通事故发生后，优步公司安全测试部门邀请赵鼎到总部，就自动驾驶安全性问题做学术报告。

之后，优步还邀请赵鼎和斯坦福大学的Mykel Kochenderfer教授分别带领两个科研团队对如何提高自动驾驶的安全性开展独立研究。之后，赵鼎加入了卡耐基梅隆大学，任人工智能安全实验室主任（CMU Safe AILab）。

CMU是自动驾驶的发源地，在过去30年里，它的人工智能和机器人研究常常排名全美第一。在CMU工作的三年多，赵鼎与全球企业进行合作，包括美国的谷歌大脑、亚马逊、IBM、福特、优步、Adobe，亚洲的丰田、电装，欧洲的博世、劳斯莱斯等。在此期间，赵鼎主持了20余项与自动驾驶相关的项目，与团队共同进行基础理论的研究并解决社会关注的问题。因为在业内的突出贡献，他于2018年获得了美国自然科学基金对青年科学家的最高奖项CAREER Award。同时也获得了Bosch Carnegie Research Award、Struminger Teaching Award等其他科研和教学奖项。

智能汽车安全驾驶推行方案，提供了两种方案：“第一种，例如特斯拉，在小范围地域实行自动驾驶，为人们提供几条路线，利用传感器搜集数据，以优化自动驾驶软件;第二种，做单一路线的自动驾驶，例如大卡车、摆渡车、或者配送小车的行驶路线，通常较单一。只要基础设施和配套政策跟上，可以在这样的路线上先试行自动驾驶。从而进入快速的产品迭代期。”

谈及技术的商业化，赵鼎告诉络绎科学：“自动驾驶的落地，离不开大学的人才培养、企业和资方的努力、以及政策法规和基础设施上的支持。作为大学教授，我很幸运能有机会成为连接三方的桥梁。”

目前，赵鼎领导的实验室与福特、丰田、劳斯莱斯等全球知名车企均有合作，致力于推动可信赖智能的基础理论研究和技术落地。

赋能自动驾驶安全，为行业培养更多人才

在过去4年的任教期间，赵鼎指导了4名博士后、11名博士（在研）、30余名硕士、6名本科生和一名高中生，以期在各个学生的各个阶段推动人工智能安全的教学、研究和落地。这些学生有的去了哈佛、麻省理工、卡耐基梅隆、密西根、加州大学洛杉矶分校等大学继续深造，有的去了谷歌、苹果、英伟达、脸书、Mathworks、Lyft、大众汽车、沃尔沃、丰田、戴姆勒、亚马逊等高科技公司去推动技术的研发和落地，还有两名博士后成为了大学教授。

也是在过去几年里，受大众、百度、福特、丰田、伯克利、斯坦福、清华大学等邀请，赵鼎做了20余场学术报告;他参与的工作被TIME、Vox、New York Times、Futurism和Automotive News等媒体报道;同时他也受到Wired、Telegraph等媒体采访。

2021年，赵鼎在卡耐基梅隆大学开设了新课程“可信赖的智能体”，为人工智能安全方面的人才培养进行探索。作为世界上最早讲授可信赖人工智能的课程之一，被卡耐基梅隆大学e-newsletter The Piper報道。明年这门课程会成为新成立的人工智能研究生项目的必修课程。

谈及其教育理想，赵鼎表示：“我希望，在未来10年内，培养10名教授，在领导的项目中带出100名有实战经验的博士、硕士和本科工程师，并在课堂上总计为1000名学生授课，作为一名高校教师，我希望做一名连接起学界和业界的桥梁，用安全的人工智能来挽救生命，服务社会。” （综合整理报道） （编辑/克珂）2B9A79DC-4EE1-4280-AF49-3ACD23512D94