WAIC2021：AI发展必须向善

川江

人工智能是把双刃剑，AI发展必须向善，以趋利避害。这是2021世界人工智能大会（英文名简称“WAIC2021”）上权威专家、学者、企业家共同关心的话题。

AI向善是人工智能发展的前提

“AI科技并非都‘向善。”美国麻省理工学院物理学终身教授、未来生命研究院创始人马克思·泰格马克说。他表示，人工智能AI正在变得越来越强大，可以走路的机器人刚刚出现不久，就出现了可以做前后空翻的机器人；10年前我们没有自动驾驶汽车，但现在有了自动驾驶、自动回收的火箭，还有人脸识别、语音分析、简单编程，这样的例子不胜枚举。除了象棋和围棋，AI实际上在其他领域也取得了更大的进展，过去几十年的一些传统算法都被机器学习替代了。由于技术进步，AI可以解决非常多的问题，甚至可以拯救人类的生命。

马克思·泰格马克还表示，每年道路交通都要发生上百万例死亡个案，这种境况可以通过AI来进行优化改善，AI可以大幅降低人为错误。医疗系统中同样如此，现在有很多数据证明，在前列腺癌、肺癌以及眼疾当中，AI做得比人类更好，不光是软件层面，还有硬件层面，AI可以接入云端，达成更高质量的诊断效果。

中国信通院院长余晓晖指出，当前世界各国都高度重视可信人工智能的发展，发展可信人工智能是我们真正能够释放出人工智能的前景，能够造福于世界人民，这是一个关键的基础。

余晓晖所说的发展可信人工智能其实就是AI向善。人工智能是第四次工业革命的核心技术，有着巨大的发展潜力。然而，随着人工智能应用的广度和深度不断拓展，慢慢显露出一些风险与隐患，如算法的安全、数据歧视、数据滥用等诸多问题引发人们思考。当人工智能应用越来越普及的时候，如何建立起人与系统之间的信任成为了新课题。面对人工智能革命第四次浪潮，可信AI这一理念应运而生。自学术界首次提出到各界积极研究，再到产业界开始落地实践，可信AI内涵也在逐步地丰富和演进。

“人工智能作为新兴技术，在带来巨大经济潜力和社会影响的同时，也可能因为使用不当而带来更多的风险和隐患。技术的本质是为了更好地服务于社会，这要求人工智能的发展不可逾越道德伦理、法律规则的‘红线，需杜绝滥用等现象。”瑞莱智慧高级副总裁朱萌说。

如何保证AI“向善”

有的悲剧，因为不懂AI而发生，而另一些伤害，则是由于恶意应用AI而造成，比如说伪造与欺诈。这时，如何做才能保持AI的积极层面而杜绝它的负面效应呢？

“首先，必须划清界限，把技术分成可接受和不可接受的AI应用。”马克思·泰格马克说，“界限由何而定？文化、道德、法律、国际公约，这方面基因编辑技术的案例已经提供了很好借鉴。”

其次，马克思·泰格马克还认为，人类需要将AI调整到非常好的、积极而正面的方向。AI的管理和管控是全球性挑战，因为技术没有边界、没有国界，各个国家也不可能自己关门作战。

马克思·泰格马克表示，中国在这方面扮演了非常重要的角色。这不仅仅因为中国实力日益强大，更因为中国有着长期思维的战略部署，拥有久远的历史和文化积淀。要知道，中国是一个有着5000年文明的古老国家，在国外讲长期规划，大家都会笑，可如果说中国筹划高铁项目，大家就会关注长期的愿景和规划。

“这是一种全世界应该向中国学习或从中受益的智慧。所以，在发展AI人类命运共同体的时候，我们必须划清界限、锚定方向。”马克思·泰格马克说。

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅表示，可信人工智能绝对不仅仅是技术问题，还有社会的视角。如何利用技术赋能，做到跨文化的互信，是真正实现可信人工智能不得不做的事情，甚至是最后成功的关键。

清华大学国强教授、智能产业研究院研究员聂再清表示，AI经常会与中文的“爱”联系在一起，其实表达了大家对AI有期待，即让AI有爱。技术是中性的，只有爱才可以产生用户价值，使AI向善，技术才能真正地走到千家万户变成日常生活的一部分。

浙江大学计算机科学与技术学院教授宋明黎认为，可信AI应该至少包含三个方面：第一是数理模型可信可靠，第二是机理模型的可解释可信性，第三是推理结果的可预期性。

中国社会科学院哲学所研究员、中国社会科学院科学技术和社会研究中心主任段伟文从哲学上解读了AI向善。他提出，技术的发展应赋予每个人更多的发展权，AI向善不仅能给予更多群体跟上人工智能的机会，而且还可以让他们在这个过程中学会如何面对世界、如何开创未来以及如何寻找人生的意义。

“向善的AI就是求真的AI，AI向善首先模型得求真，求真后用人类价值体系看它是否向善。”上海交通大学约翰·霍普克罗夫特计算机科学中心副教授张拳石说。

中国科学技术大学电子工程与信息科学系副教授田新梅認为，科技企业在可信AI中起着非常重要的作用，首先不仅是很多关键技术的提出者，更重要的是要把科学技术转化成应用实践，一项技术只停留在实验室是没有用的，要转化落地并很好地服务人民才是有用的，科技企业肩负着这样的重任。

对于加速落地可信AI，锘崴科技CTO、华西医院特聘教授、同济大学特聘教授王爽提出，首先大众要有隐私保护的意识或者是对于可信AI关注的意识，另一方面企业也有义务去帮助、推广相关的教育科普隐私方面或者是可信AI方面潜在的问题。另一方面也要加强法律法规的建设，同时在相关标准制定方面也要跟上。

关于可信AI的企业实践，洞见科技CTO何浩表示，数据安全、算法可信、平台互信是可信AI的基石和重要组成部分，隐私计算提供的底层数据隐私保护能力，区块链提供的算法可信证明，不同机构间AI算法的互信互通将共同赋能数据和算法价值的安全释放。