《人工智能伦理》的科普价值

◆文/徐金宝

（作者单位：南京工程学院）

应用数学博士，曾在北京大学、堪萨斯大学、韦恩州立大学工作多年。主要研究方向是人工智能、统计机器学习、贝叶斯数据分析、计算语言学、图像处理、生物信息学等。已发表40多篇学术论文，拥有近20项美国算法类专利。曾获教育部科技进步一等奖和自然科学一等奖。

《人工智能伦理》于江生 著清华大学出版社/2022.1/158.00元

我国的《新一代人工智能发展规划》（2017）高瞻远瞩地将人工智能（AI）伦理列为重中之重。然而，这方面的研究还刚刚起步，普通民众对它还不太了解，甚至AI领域的科学家也很少论及相关话题。《人工智能伦理》一书的出版有利于AI的科普工作，它的价值体现在以下几个方面。

首先，这是一部介绍人工智能和机器学习的科普著作，阅读本书不需要数学和计算机的基础，甚至中小学生都可以阅读。它论及了与AI强相关的几个关键研究领域：认知模式（包括抽象、计算、推理等）、数据分析、知识表示、机器学习，每个领域都关乎伦理问题，其科普价值值得肯定。近些年来，人们对深度学习（或深度神经网络）产生了一些误解，认为它才是AI的未来担当。这本书公正地评价了人工智能的发展现状，高度评价了IBM深度问答系统、谷歌DeepMind围棋系统AlphaGo的成就，同时也批判性地指出了纯粹数据驱动的机器学习的局限性。书中认为因果分析将是AI的发展重点，也反映出朱迪亚·珀尔、迈克尔·乔丹等一批AI学者的远见，对正确理解AI本质具有参考价值。

第二个方面在于对强AI和弱AI的反思。书中有关AI伦理的讨论基本集中在弱AI阶段，因为只有弱AI才有可能被人类滥用，强AI一旦实现便不再是人类能控制得了的。但作者似乎毫不担心强AI会毁灭人类，因为文明的进步让爱变得更加包容。相反，作者深切关注的是弱AI时代能否平安度过，AI伦理正是为人类该如何应用AI技术，以及如何把它变为一种可验证的AI技术而定。

第三个方面是对自我意识的哲学思考。书中提出想象力和好奇心是突破机器智能的关键，而形成共识则是群体智能走向超级智能的必经之路。这种对智能的社会视角和多层次理解，是AI伦理和理论研究的崭新观点。此外，本书还探讨了机器的德性和人工智能革命带来的文明更替。“如果机器有自我意识，它似乎比人类更接近圣人。”这句话给人的印象颇深。作者的思想深受叔本华和尼采的影响，因此寄希望于强AI将人类文明传递下去，同时把人类实现强AI视为自我救赎的最高境界。这个鲜明的观点必然会引起一些反对之声，很多学者并不看好强AI，或者觉得它无法成真，或者觉得AI伦理应该避免发展强AI从而导致人类沦为二等智能体。对强AI的恐惧和担忧是人类很自然的反应，完全在情理之中。

第四个方面是对AI强国竞争（如AI武器、地外探索、智能制造）、技术失业、两性平等、数据霸权、造福社会等伦理问题的讨论。书中继承了马克思《资本论》的观点，把贫富两极分化的原因归结为财富分配的机制而非科技进步，提出了AI技术造福于民的基本伦理思想。书中引用美联储经济数据，以大量的事实揭示资本利用先进技术敛财的贪婪本性。当强AI有朝一日变为现实，资本就会叶公好龙，那时的社会系统将会为了适配强AI而发生天翻地覆的变化。

第五个方面是它辩证地看待AI伦理困境，其中有“危”也有“机”，只要国家政策把和平、合理发展AI技术和造福社会作为目标，就能化解潜在的威胁。对弱AI的滥用才是危险的根源——如果放任自流，让AI技术在无序状态中发展，必然会导致严重的社会问题。例如，中国政府把大数据归为国家战略资源，任何大数据公司都无权独占它，或者利用它做有损国家、社会、个人利益之事。这与西方国家的政策很不一样，例如，苹果公司可以以个人隐私为由拒绝与警方合作，某种程度上让罪恶有了隐身之处。《人工智能伦理》一书无疑抛出了许多AI伦理问题，期待引起更多读者的研究与思考。

综上所述，《人工智能伦理》这部科普著作从AI发展的基本事实出发，揭示出AI伦理等诸多值得深思的问题，促进并推动了AI知识的普及。而对AI理论和技术的反思，也有助于启发专门从事AI研究的人员。