邬贺铨：人工智能的双刃剑

随着人工智能崛起，诸多领域迎来了加速变革，人们的生活变得更为便利。但是，人工智能的普及也带来了一些隐患，而化解这些问题的主动权掌握在人类自己手中。

2018年10月31日下午，中共中央政治局就人工智能发展现状和趋势举行第九次集体学习。习近平总书记在主持学习时发表了讲话。他强调，人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。

11月7日至9日，第五届世界互联网大会在浙江乌镇举行，在“人工智能：融合发展新机遇”分论坛上，中国工程院院士、中国互联网协会理事长邬贺铨发表了以《人工智能的双刃剑》为主题的演讲。

邬贺铨认为，人工智能的发展是一把双刃剑。当前，大数据和强算力促进了概率计算取得巨大的进步，AI在分析相关性上也取得了显著进展，并且在很多领域产生了深远影响。目前，人工智能的发展应包含两方面的内容，一是培育AI的应用创新，二是重视AI的风险管控。

要培育AI的应用创新

人工智能有三大支柱：大数据、计算力、分析算法。我们如何教计算机学习？我们无法通过文字描述告诉计算机什么是猫和狗，但通过大数据学习与训练，概率论的进步使不确定性的数据也可以计算，深度神经网络能够很好地完成分类器的作用。三者相辅相成、相互依赖、相互促进，使得人工智能有机会从专业的技术成为通用的技术，融入到各行各业之中。

计算机视觉是模拟人类视觉的人工智能技术，用机器来“看”图像，“理解”图像。目前，人工智能在医学领域得到广泛应用，比如我们到医院做一个肺部CT检查，可以做出几百甚至上千张的CT照片，一张张让医生来看照片是比较麻烦的，但是可以通过人工智能的技术把所有的CT照片还原为一个肺。我们可以看到，将人工智能用于医疗影像分析，可以帮助医生定位病症分析病情，从而帮助医生提高影响诊断的精准度。

交通领域也很好地运用了人工智能技术，未来的无人驾驶汽车能给人类带来更安全和有序的交通环境，能节省人类在驾驶上大量消耗的时间。随着技术的发展，人工智能在出行领域的落地形式日益成为行业关注的焦点，自动驾驶技术的成熟，将对以往的出行业态产生重大影响，未来的交通生活充满了无限可能。

过去机器人是要预先编程，机器手臂如果没有预先编程，它只能通过训练达到目的。人工智能技术融入机器人后，程序指令不再由人下达，而是机器人系统自主完成编程并执行。沈阳新松开发的智能焊接系统，首先感知工件并对其进行测量，自主生成程序，根据不同的焊接工艺调取不同的焊接技术。未来的智能工厂，可能只有机器而没有人，将大量的机器人大脑集中到云端，机器人仅作为执行机构，可显著降低成本。

网络安全也是人工智能很重要的应用，它所发挥的也是双重效应。一方面人工智能降低了黑客的门槛。现在很多人学会做黑客，以后病毒的变种会越来越多，周期也会越来越短。但是从另一个角度，人工智能有助于帮助网络安全的工作。人工智能的典型作用是代替人类做大量重复的劳动，利用人工智能技术一分钟就能完成一个信息安全分析师一年分析数据和代码的工作。这对于一些重复性分析的工作是有用的。通过人工智能可以识别很多伪装过的文件，例如2016年美国国防部与某AI公司签署合同，利用人工智能技术发现美军操作系统和定制程序中存在的编码漏洞。

同样，人工智能可对网络流量内外所包含的无数元数据所存在的成千上万个关联进行分析，实现对网络流量异常检测，获得黑客入侵的位置、攻击的路径和薄弱的环节等。

用户在网络上生成的內容，如果不审查可能会造成不良传播，靠人工审查会比较麻烦。现在，我们可以通过人工智能技术，自动过滤色情、暴力的图片和视频，对不适宜在网上发布的信息进行文字截取，以此降低人工审核的工作量，代替人类做大量重复性的劳动。

重视人工智能的风险管控

我们通过建模，进行数据分析，那么数据的准确性就决定了人工智能分析的准确性。

AI的正确性取决于数据的噪声与干扰。神经网络导入的数据有一个很小的改动，分类就会有很大的变化。多伦多大学研究人员通过动态干扰人脸识别工具，可将原本可检测到的人脸比例从接近100%降低到0.5%。网络攻击者将对抗样本输入机器学习模型，机器产生幻觉也会出现误判。

同时，他还提到AI有可能让未来出现“眼见不一定为实”。Twitter上的机器人数量占员工人数的9%-15%，政治僵尸程序会编造假新闻或放大谣言。2016年美国总统大选期间，Twitter上垃圾新闻占到50%。全球机器人占2016年所有在线流量的50%以上。网络有专门的“洗稿”软件出售，甚至AI也被用于“洗稿”。这些都值得我们警惕。

人工智能的应用才刚刚开始。当前大数据促进概率计算取得了巨大的进步，人工智能已经在很多领域产生了深刻的影响。但是目前人工智能的发展还处于起步阶段，深度学习目前的实质是通过将曲线弥合的数据，通过离合数据实现分类。虽然在相关性上有进步，但是在因果关系上目前还是无能为力的，更多的希望要寄托在人工智能的进步上，而人工智能的双刃剑特征会愈来愈明显，需要从法律、技术各方面扬长避短。

（本文根据邬贺铨院士在“第五届世界互联网大会人工智能分论坛”现场演讲整理而成，未经本人审阅）