人工智能时代的全球治理＊——基于构建人类命运共同体的视角

陈 鹏

提 要：人工智能技术的快速发展及其在全球治理中的深度应用，在丰富全球治理体系和提升全球治理能力的同时，也对全球治理秩序产生了较大的冲击。人工智能时代的全球治理面临拥有数据和算法技术优势的巨型企业主导全球治理秩序、拥有人工智能技术优势的发达国家对人工智能技术发展滞后国家实施技术霸权、强人工智能的出现及其异化可能带来的全球治理失序以及未来超级人工智能的出现可能颠覆由人类所主导的全球治理秩序等风险。对此，应以人类命运共同体思想为指导，从构建人类数据命运共同体、人类算法命运共同体、各国共同应对人工智能异化或失控所引发的全球治理秩序失序的风险、积极发挥中国在人工智能时代全球治理中的重要作用等方面来加快构建人工智能时代的人类命运共同体，以实现有效化解人工智能时代全球治理风险和共筑公平正义安全的全球治理秩序的目的。

人工智能技术的快速发展及其在全球治理中的深度应用，有利于丰富全球治理体系、精准研判全球治理风险和提升全球治理能力。同时，也对全球治理秩序和全球治理格局产生了较大的冲击，引发了人类对拥有人工智能技术优势的少数巨型企业可能实施数据霸权和算法独裁，以及人工智能技术发展到一定阶段后可能产生的危及全球治理秩序和人类命运的技术风险等问题的担忧。习近平总书记在党的十九大报告中强调：“我们生活的世界充满希望，也充满挑战。我们不能因现实复杂而放弃梦想，不能因理想遥远而放弃追求。没有哪个国家能够独自应对人类面临的各种挑战，也没有哪个国家能够退回到自我封闭的孤岛。”①习近平：《决胜全面建成小康社会，夺取新时代中国特色社会主义伟大胜利——在中国共产党第十九次全国代表大会上的报告》，北京：人民出版社，2017 年版，第58 页。面对人工智能时代全球治理存在的诸多不确定性风险，世界各国应该以人类命运共同体思想为指引，加强在数据治理和算法治理等方面的沟通与协作，积极推动人工智能时代人类命运共同体的构建，以实现有效化解人工智能时代全球治理风险和共筑公平正义安全的全球治理秩序的目的。

一、人工智能时代全球治理的主要机遇

（一）全球治理体系得以不断丰富和完善

伴随人工智能应用场景的不断拓展和应用程度的不断加深，拥有人工智能技术优势的少数巨型企业在全球治理中正发挥着越来越重要的作用，少数巨型企业逐渐成为全球治理体系中的重要治理主体，使得长期以来一直以民族国家为主体的全球治理体系得以不断丰富和完善。相比于国家治理而言，全球治理是一项更为复杂的系统性工程。如何构建有效的全球治理体系，来积极应对并成功化解全球治理难题，不断提升全球治理效能，是包括中国人民在内的世界各国人民的共同心愿。1648年欧洲《威斯特伐利亚和约》的签订，不仅结束了席卷整个欧洲的三十年战争，推动了威斯特伐利亚体系的形成，而且也标志着民族国家开始登上历史舞台，国家主权至上的国际法基本原则至此确立。此后，民族国家在国际社会中的影响力和控制力不断提升，民族国家逐渐成为国际社会中最主要的也是最重要的行为主体，以民族国家为主体的全球治理体系日渐形成并处于不断变革之中。21世纪以来，伴随互联网技术的日渐成熟、大数据时代的到来和人工智能深度学习算法技术取得的重大突破，人工智能技术在全球治理中的应用场景不断拓展，其应用程度也随之不断加深。人工智能在全球治理中的深度应用，在推动全球治理能力不断提升和全球治理绩效不断改善的同时，也使得数据和算法在全球治理中的重要性日渐凸显，跨国公司中那些拥有数据采集、数据存储、数据处理、数据分析和算法研发等技术优势的少数巨型企业在全球治理中的影响力和控制力日渐提升，拥有人工智能技术优势的少数巨型企业开始成为全球治理体系中的重要主体。

（二）全球治理能力得以不断提升

全球治理是一项复杂的系统性工程，面临诸多不确定的治理风险和众多难以有效化解的全球治理难题。人工智能技术在全球治理中的深度应用，可以有效降低全球治理的难度，使全球治理能力得以不断提升。首先，人工智能技术在全球治理中的深度应用，有助于更加精准地识别和研判全球治理中的风险。通过对大数据的采集、分类、处理和分析，特别是对跨境流动数据的采集、分类、处理和分析，有助于世界各国政府更好地对全球治理风险进行精准地识别，进而为全球治理风险及时有效的化解赢得有利的时机。其次，人工智能技术在全球治理中的深度应用，有助于制定更加科学合理的全球治理风险或难题化解方案。与国家治理不同，全球治理缺乏一个权威的全球性治理主体来供给全球治理方案，全球治理难题的化解需要各国政府之间通过对话与合作来制定相应的治理方案。借助于人工智能，各国政府可以对全球治理风险或难题产生的根源有更加清晰的认识，并为全球治理风险或难题的化解提供更加智能有效的治理方案，进而有助于有效化解全球治理风险和治理难题。最后，人工智能技术在全球治理中的深度应用，有助于更好地改善全球治理绩效。全球治理绩效的改善既要依赖于世界各国在全球治理难题的化解和公正的全球治理秩序塑造上展开积极的合作，也需要借助于先进的科技手段来提升治理绩效。人工智能在全球治理中的深度应用，使得很多原本需要依赖于人来完成的治理环节被智能机器所取代，而这不仅可以有效降低全球治理的难度，同时也可以使全球治理绩效得以不断改善。

二、人工智能时代全球治理的主要困境

人工智能技术是一把双刃剑。人工智能技术的快速发展及其在全球治理领域的深度应用，在提升全球治理能力和改善全球治理绩效的同时，也对全球治理体系和全球治理格局产生了较大的冲击。一方面，拥有人工智能技术优势的少数巨型企业在全球治理秩序塑造中的影响力和控制力日渐增强，拥有人工智能技术优势的少数发达国家对于人工智能技术发展较为滞后的国家可能会实施技术霸权和规则霸权，民族国家特别是广大发展中国家在全球治理体系中存在被边缘化的可能。另一方面，人工智能时代的全球治理秩序也面临人工智能的冲击，不受人类控制的强人工智能的出现会使得由人类主导的全球治理秩序面临失序的可能，而完全独立于人类的超级人工智能时代的到来将可能彻底颠覆由人类主导的全球治理秩序，未来人类的命运也许将面临诸多不确定性风险。

（一）拥有人工智能技术优势的少数巨型企业对全球治理体系的挑战

数据和算法是人工智能技术的两大基石。民族国家在国家治理中对于人工智能技术的依赖主要就体现在对于数据的依赖和对于算法的依赖两个方面。数据的采集、存储、处理和分析以及算法的研发与运行等方面的技术优势主要掌握在少数巨型企业手中。伴随民族国家对于数据和算法依赖程度的不断提升，少数掌握数据和算法技术优势的巨型企业对民族国家的影响力也不断增强，巨型企业通过对民族国家实施数据霸权和算法独裁，进而挑战当前由民族国家所主导的全球治理体系的风险也随之不断增加，一直以来由民族国家所主导的全球治理秩序也因此面临较大的冲击。

1.少数巨型企业对民族国家可能会实施数据霸权。互联网技术的出现，特别是移动互联网时代的到来，实现了人与人之间、人与组织之间以及组织与组织之间的互联。而物联网的出现及其技术的不断成熟，实现了人类与物体之间和物体与物体之间的互联，推动了万物互联时代的到来，而万物互联的过程和结果最终都以数据的形式得以保存下来，人类也由此进入到大数据时代。在大数据时代，人类依据一定的标准对海量的大数据进行分类和筛选，可以从中找出很多规律性的东西，进而对未来进行科学准确的预测，以实现特定的治理目标。伴随数据在公司治理、国家治理、全球治理等领域应用程度的不断加深，数据的战略资源属性日渐凸显，数据处理技术的重要性日渐提升，掌握了数据资源优势和数据处理技术优势的主体在全球治理中的影响力和话语权也将随之大幅增强。

移动互联网技术的日渐成熟及其应用场景的不断拓展，使得各种类型的应用软件开始出现并日渐成为人们工作、生活、学习和消费等活动开展的平台。在这些平台运行的过程中，平台客户的身份信息、工作信息、学习信息和消费信息等数据都被这些互联网平台企业所掌握。凭借这些海量的数据以及在数据存储和处理上的技术优势，这些互联网平台企业在国家治理中的影响力不断增强。“如‘剑桥分析’等一些大型互联网企业，由于掌握了海量数据，对民众的影响力甚至比普通国家机器还要大。公司、社会组织、非营利组织等非政府玩家，掌握过多数据，将会形成不对称权力，或将对国家和社会治理构成挑战。”①赵鸿宇：《数据即权力？巨型企业或成“超级政府”》，《半月谈内部版》，2018 年第10 期。同时，伴随人工智能技术在政府治理中应用场景的不断拓展，各种类型的智能治理平台和政务应用软件也开始大量出现，广大民众在享受智能治理平台和政务应用软件所带来的便捷政务服务的同时，政府所掌握的政务数据和公共数据也正在被研发智能治理平台和政务应用软件的企业所获取。目前，“不少国外企业已经搭建完成了人工智能底层模块，这个模块类似于智能手机的操作系统，任何应用和计算都基于底层模块而产生。这些企业会伴随使用底层模块应用的增多而获取大量数据，这些数据不仅限于一个国家或一个区域，而可能是全球性的，企业完全可以利用这些数据做利于企业自身甚至本国政府的事情，从而成为跨越国界的超级‘政府’”①赵鸿宇：《数据即权力？巨型企业或成“超级政府”》，《半月谈内部版》，2018 年第10 期。，而这会对一直以来由民族国家所主导的全球治理秩序产生深刻的影响和巨大的冲击。

2.少数巨型企业对民族国家可能会展开算法独裁。近些年来，人工智能技术的应用场景之所以能够不断拓展，与人工智能深度学习算法技术取得的重大突破密切相关。伴随人工智能在国家治理中应用程度的不断加深，传统的国家治理模式逐步转型，智能治理作为一种新型的治理形态开始出现②参见陈鹏：《智能治理时代的政府：风险防范和能力提升》，《宁夏社会科学》，2019 年第1 期。，世界各国政府在利用人工智能技术来提升国家治理精准性的同时，也逐渐产生了对于人工智能算法的技术依赖。目前，在人工智能深度学习算法的研发上，特别是在核心算法的研发上，少数几家巨型企业拥有绝对的技术优势。这些企业利用算法研发过程的不透明性和算法运行过程的不可解释性等特点，可以在技术外衣的掩饰之下展开针对民族国家的算法独裁。因此，在全球治理上，“我们不能不思考算法独裁出现的可能性与公平正义之间的关系。算法与代码的设计都要依靠编程人员的判断与选择。由于编程人员对社会科学的知识往往缺乏深刻与充足的认识，所以很难保证把已有的规则准确地写入程序”③高奇琦：《人工智能：驯服赛维坦》，上海：上海交通大学出版社，2018 年版，第8 页。，全球治理所深度依赖的算法代码中隐藏的不公平和不公正，极有可能会导致全球治理秩序的不公平和不公正。

（二）拥有人工智能技术优势的发达国家对人工智能技术发展滞后国家实施的技术霸权和规则霸权

人工智能时代的全球治理除了要面对少数拥有人工智能技术优势的巨型企业对全球治理体系和全球治理秩序的挑战外，还需要面对拥有人工智能技术优势的发达国家对人工智能技术发展滞后国家推行霸权的治理风险。具体来说，拥有人工智能技术优势的发达国家对人工智能技术发展滞后国家实施的霸权主要分为技术霸权和规则霸权两种类型。拥有人工智能技术优势的发达国家通过在技术和规则两个领域对人工智能技术发展滞后国家所实施的霸权，会使得原本就在国际竞争中处于弱势地位的发展中国家处于更为不利的境地，公平公正的全球治理秩序塑造的难度进一步加大。

1.技术霸权。人工智能是一个前沿科技。人工智能技术的发展不仅需要各国政府在战略和政策上予以高度的重视，而且也需要政府、企业和社会等主体投入相当数量的资金来推动。目前，世界各国在人工智能的技术研发、人才培养等方面的资金投入差距较大，加之各国在与人工智能技术相关的技术储备、人才储备等方面也存在较大的差异，致使各国在人工智能技术发展水平和应用场景等方面的差距较为明显，以美国等为代表的少数发达国家拥有较为显著的人工智能技术优势，而绝大多数发展中国家在人工智能技术的发展和应用等方面则处于劣势地位。

近年来，美国和英国等少数发达国家在人工智能技术研发和人才培养等方面不断加大资金投入力度，同时在人工智能领域积极开展合作，以维持他们在人工智能领域绝对的优势地位。美国、英国等少数发达国家在推动本国人工智能技术快速发展的同时，还试图通过技术出口管制等手段来压制发展中国家人工智能技术水平的提升。例如，自2019年以来，中国的旷视科技、商汤科技、依图科技等人工智能公司先后被美国列入实体清单。伴随人工智能技术在经济社会发展和国家治理中的重要性的不断提升，“掌握了数据就意味着掌握了资本和财富，掌握了算法就意味着掌握了话语权和规制权”①马长山：《智能互联网时代的法律变革》，《法学研究》，2018 年第4 期。。而“由于缺乏相应技术积累，发展中国家并没有充分有效的方式保护自己的数据安全，也没有足够的能力应对算法所带来的干涉。人工智能技术的进步将进一步凸显其在政治安全领域的脆弱性特征，传统的国家政治安全将面临严峻的考验”②封帅、鲁传颖：《人工智能时代的国家安全：风险与治理》，《信息安全与通信保密》，2018 年第10 期。。目前，少数掌握人工智能核心技术的发达国家针对在人工智能技术发展上较为滞后的发展中国家所实施的技术霸权问题正日渐凸显。

2.规则霸权。伴随着人工智能技术的快速发展，人工智能技术在深度应用过程中所引发的治理风险和治理难题也逐渐呈现，给人工智能技术的发展及其应用确立一定的技术标准和伦理准则，已经成为确保人工智能技术安全发展的内在要求和重要保障。在人工智能技术发展的技术标准和伦理准则的制定上，那些在人工智能技术发展和应用方面处于领先地位的发达国家拥有绝对的优势，而那些在人工智能技术发展和应用方面处于落后地位的广大发展中国家大多只能被动地接受由少数发达国家主导制定的技术标准和伦理准则。伴随由少数拥有人工智能技术优势的发达国家所主导的人工智能技术标准和伦理准则体系的确立，掌握人工智能技术优势的少数发达国家对于人工智能技术发展滞后国家的规则霸权也逐步确立。

首先，在数据保护标准和数据跨境流动规则的制定上西方发达国家较为强势。数据是人工智能技术的基石之一。数据特别是属于个人隐私范畴的数据的收集、存储、使用等方面的规则该如何制定，是人工智能技术在发展和应用过程中必须要认真加以回应的问题。在个人信息保护和数据治理方面，中国一直在积极推动个人信息保护方面的立法工作。例如，2020年10月21日，《中华人民共和国个人信息保护法（草案）》正式公布并公开征求社会公众意见。2021年8月20日，十三届全国人大常委会第三十次会议审议通过了《个人信息保护法》，将于2021年11月1日起施行。但与此同时，美国和欧盟已经在数据保护等数据治理方面确立了各自的模式和准则，并企图通过国际治理机制来扩大各自数据治理模式和相关准则的影响力和控制力。欧盟制定并实施了《通用数据保护条例》（GDPR），并以此为核心构建起一套较为健全的个人信息制度体系。伴随《通用数据保护条例》（GDPR）在全球范围内影响力的不断增强，欧盟正逐渐成为全球个人信息保护和执法的中心。而“美国则在跨境数据自由流动规则上逐渐形成了主导权。美国奉行‘长臂管辖’规则以获取境外数据及其执法能力，尤为典型的就是2018年通过的《澄清数据合法使用法案》（CLOUD 法案）为美国获取他国数据扫清了制度性障碍”③殷德生：《中国数字经济走向世界的隐忧，缺主导权和话语权》，《中国青年报》2020 年12 月17 日。。

其次，在算法研发标准和运行规则的制定等方面西方发达国家也比较强势。增强算法研发环节的透明性和算法运行过程的可解释性，是算法治理的核心议题，是确保算法运行安全的基本前提和重要保障。在算法治理上，“美国追求算法公平，消除算法歧视，要求算法使用机构对算法结果负责；欧盟注重推动人工智能伦理框架，注重算法的可信赖性，建立算法解释权和算法影响评估机制”①殷德生：《中国数字经济走向世界的隐忧，缺主导权和话语权》，《中国青年报》2020 年12 月17 日。。伴随美国、欧盟在数据使用、数据保护和数据跨境流动以及算法设计、算法运行和算法的可解释性等方面所制定的标准和规则体系的日渐完善及其影响力的不断扩大，西方发达国家对人工智能技术发展滞后的国家实施规则霸权的可能性日渐增大。

（三）强人工智能的出现及其异化可能会使得由人类主导的全球治理秩序存在失序的可能

进入21世纪以来，伴随大数据时代的到来和人工智能深度学习算法技术取得的重大突破，人工智能技术迎来了快速发展的时期，人工智能的人工色彩渐渐淡化，而智能化水平日渐凸显。不过，就目前人工智能的发展水平来说，虽然人工智能的智能化程度正在不断提升，但人工智能还处于由弱人工智能时代向强人工智能时代转变的时期，现阶段人工智能的发展方向和运行过程尚处于人类可以控制的状态，人工智能在发展和应用过程中已经或可能引发的风险基本可控。“但随着人工智能、计算机与机器人学等科学技术的快速发展，机器人拥有越来越强大的智能，机器人与人类的差别正在逐渐缩小，却是不争的事实。比如，有的科学家正在研究拥有生物大脑（biological brain）的机器人”②杜严勇：《论机器人权利》，《哲学动态》，2015 年第8 期。，强人工智能时代可能会加速到来。

与弱人工智能相比，人类对于强人工智能的决策逻辑及其运行过程难以进行有效的掌控，对于其在运行过程中可能会引发的风险也难以进行准确的预测和有效的防范。虽然强人工智能出现的时间尚不可知，但是面对可能会出现的能够自主完成复杂问题且能够自主支配自己情感的强人工智能，人类需要注意下述两个方面的风险：一是强人工智能一旦出现，其可能不会再依据由人类主导制定的全球治理准则来决策和行为，进而导致现有的由人类主导的全球治理秩序面临失序的可能。二是强人工智能本身存在异化的风险，进而会对由人类所主导的全球治理格局产生较大的冲击。强人工智能在具体的应用过程中，如果出现了功能的异化，在人类无法控制强人工智能的情况下，全球治理秩序将面临很多不确定性风险，而这也是人类在利用人工智能技术时必须要认真加以思考和预防的问题之一。

（四）未来出现的超级人工智能可能会彻底颠覆由人类主导的全球治理秩序

伴随人工智能技术的快速发展，超级人工智能在未来也许真的会出现。在不久的未来，“超人工智能可以代替人类作为地球上的主导生命形式，足够智能的机器可以比人类科学家更快地提高自己的能力，结果可能给人类的存在带来一场灾难。超人工智能对人类生存可能存在着严重的危险，令很多人担心和恐惧，它们能够为了实现自己的某些目的而将人类从地球上消灭”③詹可：《人工智能法律人格问题研究》，《信息安全研究》，2018 年第3 期。。超级人工智能出现后，世界也将由此进入到人类与人工智能并存的时代，而那时的全球治理秩序也很难再由人类来单独主导。面对智能和体能都要强于人类的超级人工智能，人类与人工智能并存时代的全球治理秩序可能会是人类与人工智能共同商讨的结果，也可能会是人工智能取代人类来单独制定全球治理规则，进而塑造出全新的全球治理秩序，现有的由人类主导的全球治理秩序面临被超级人工智能彻底颠覆的可能。

因此，在探讨人工智能时代全球治理体系和全球治理格局所面临的挑战和风险时，除了要分析掌握人工智能技术优势的少数巨型企业可能针对民族国家实施的数据霸权和算法独裁、拥有人工智能技术优势的少数发达国家可能会对人工智能技术发展较为滞后的广大发展中国家实施人工智能技术霸权与规则霸权，以及强人工智能在具体应用过程中一旦出现异化可能会导致全球治理秩序失序等问题外，还需要认真思考未来超级人工智能的出现可能会给人类命运带来的巨大冲击。现有的全球治理体系和全球治理秩序，不管是由少数巨型企业主导还是由发达国家主导，抑或是由少数巨型企业和发达国家联合主导，其核心的治理议题和治理议程还是由人类掌控的。但一旦比人类更加强大、反应速度更快、智能化水平更高的超级人工智能出现的话，人类在全球治理规则的制定和全球治理格局的塑造等方面的话语权和选择权将会受到很大的限制。因此，“智能治理时代的人类在国家治理体系中的地位面临被边缘化的可能，在不久的将来人工智能可能取代人类成为国家治理和全球治理的中心，而人类也将极有可能从原来的治理主体演变为治理的对象”①陈鹏：《治理的算法和算法的治理》，《观察与思考》，2020 年第1 期。。而到那时，人类的终极命运将会如何，也将充满很多变数。对此，人类必须要予以高度重视并设法尽早应对。

三、治理困境的化解：构建人工智能时代的人类命运共同体

2013年3月，习近平总书记在莫斯科国际关系学院的演讲中提出：“这个世界，各国相互联系、相互依存的程度空前加深……越来越成为你中有我、我中有你的命运共同体。”②习近平：《顺应时代前进潮流 促进世界和平发展——在莫斯科国际关系学院的演讲》，人民网，2013 年3 月24 日。党的十八大以来，习近平总书记在多种场合多次强调要构建人类命运共同体，并积极推动构建人类命运共同体的合作实践取得实效。目前，人类命运共同体思想正逐渐被国际社会所认同，已成为推动全球治理体系变革、构建新型国际关系和国际新秩序的共同价值规范。人工智能技术在全球治理中的深度应用，在提升全球治理能力和改善全球治理绩效的同时，也对全球治理体系和全球治理格局产生了较大的冲击，新的全球治理风险和难题不断集聚，需要世界各国人民紧密团结起来进行积极的应对，而人类命运共同体思想正好为人工智能时代的人类如何有效应对全球治理风险指明了方向。“以现实问题为导向的全球治理研究逐渐成为新趋势”③薛澜、俞晗之：《迈向公共管理范式的全球治理——基于“问题—主体—机制”框架的分析》，《中国社会科学》，2015 年第11 期。，面对人工智能时代全球治理中存在的诸多治理风险，需要从构建人类数据命运共同体、人类算法命运共同体、各国共同应对人工智能异化或失控所引发的全球治理秩序失序的风险、积极发挥中国在人工智能时代全球治理中的重要作用等方面来加快构建人工智能时代的人类命运共同体，以实现有效化解人工智能时代全球治理风险和共筑公平正义安全的全球治理秩序的目的。

（一）构建人类数据命运共同体

在人工智能时代，数据已经成为重要的战略资源，“无论是把大数据单纯作为一种技术，还是一种抽象理念，或者是一个时代背景，它都将对政府治理理念、治理范式、治理内容、治理手段等产生不同程度的影响”④刘叶婷、唐斯斯：《大数据对政府治理的影响及挑战》，《电子政务》，2016 年第6 期。。自人类进入到大数据时代之后，全世界的数据量呈现出爆发式的增长态势，“对这些数据进行系统地加工并且正确地阐释，使得人们可以通过这些数据对个人或者群体及其行为进行深入的推断”⑤［美］罗纳德·巴赫曼、吉多·肯珀等：《大数据时代下半场——数据治理、驱动与变现》，刘志则等译，北京：北京联合出版公司，2017 年版，第9 页。，进而有助于有效提升国家治理和全球治理的能力。但是，当前世界范围内的数据资源分配呈现出极不均衡的格局，各国政府掌握了一定数量的政务数据和公共数据，大量的消费数据和个人数据基本都被少数巨型企业特别是那些巨型互联网平台企业所掌握，而生产数据的个体却大多被排斥在享有个人数据的所有权、编辑权、使用权和收益权等权利的主体之外。同时，在数据采集和处理技术方面，数据的采集、存储、分类、处理和分析等技术也主要是由少数巨型企业所掌握。政府和民众在使用少数巨型企业所开发的智能治理系统和智能治理平台的过程中，不仅产生了对少数巨型企业的技术依赖，而且也导致了海量的政府数据和公共数据被少数科技巨头所获取，进一步强化了少数巨型企业在数据方面的数量和技术优势。而少数巨型企业也可以凭借着自身在数据数量和数据处理技术方面的优势，对各国政府和人民施加越来越强大的影响力和控制力，进而对世界各国的国家安全和各国人民的切身利益产生极大的危害，世界各国政府和人民共同面临着数据权力滥用的风险。面对少数巨型企业在数据上的强势地位及其可能滥用数据权力的风险，世界各国政府和人民在反对数据霸权上的立场是一致的。为此，各国政府需要在数据的采集、存储、使用等方面加强合作，强化对少数巨型企业在数据的采集和使用等方面的规制力度，推动数据有序共享，抵制数据霸权，共同构建人类数据命运共同体。

1.各国在数据立法方面要加强合作，构建较为合理的个人信息保护法律体系。随着物联网和移动互联网技术的日渐成熟，人们的工作、学习、生活、消费等日常活动正越来越强烈地呈现出数字化特征，少数互联网平台企业掌握了海量的包括个人隐私在内的数据。在人工智能时代，一方面要积极地鼓励对数据的采集、分类、处理和分析，以此来充分挖掘数据的价值，不断拓展人工智能的应用场景。另一方面，各国也要加强数据保护和数据跨境流动监管等方面的立法工作，严格规范互联网平台企业特别是少数巨型互联网平台企业的数据采集、处理、分析和使用等行为，防止这些企业利用手中的数据来从事不正当经营、侵害个人隐私和危害民族国家主权安全等行为。

目前，在数据保护和数据跨境流动监管等数据问题的立法上，欧盟的数据立法主要侧重于对数据基本权利的保护，美国的数据立法主要侧重于通过推动数据自由流动来加速发展数字经济，而我国的数据立法则试图在保障数据主体基本权利、防范化解数据安全风险和加快数字经济发展三者之间实现有效的平衡。当前人类已进入到大数据时代，数据的跨境流动规模不断扩大，流动速度不断加快，数据跨境流动监管问题越来越重要。如果各国在数据立法的目的和基本原则上存在较大分歧的话，势必会给少数巨型企业在数据采集、处理、分析和使用上滥用数据提供机会和空间。面对少数巨型企业可能实施的数据霸权，世界各国在数据立法上应改变各自为政的状态，要在数据立法的基本目的和基本原则等方面展开积极的对话与主动的合作，应将平衡好保障数据主体基本权利、防范化解数据安全风险和加快发展数字经济三者之间的关系作为数据立法的基本原则，切实保护好个人信息，以此来构建较为协调的全球数据立法体系。同时，各国还需要在数据跨境流动监管方面加强合作，加大对数据违法违规跨境流动行为的打击力度，最大限度地抑制少数巨型企业滥用数据霸权的机会和空间，进而有效地规制少数巨型企业的数据霸权。

2.各国在数据存储和处理技术方面要加强合作，减轻各国政府对于少数巨型企业的技术依赖。拥有人工智能技术优势的企业不仅拥有数据存储方面的优势，而且其在数据平台的研发和运行等方面也都拥有明显的技术优势，各国政府所使用的数据存储系统和政务服务平台基本上都是由少数巨型企业负责研发或保障运行。为了有效地规制少数巨型企业的数据霸权，世界各国除了在数据立法方面要加强合作外，还需要在数据存储和使用等技术方面加强合作。为此，各国要在数据存储、处理和分析系统等方面的技术研发以及人才培养上积极地展开合作，特别是在人工智能技术上拥有优势的少数发达国家要在数据存储与分析技术研发和人才培养等方面给发展中国家提供必要的帮助，尽可能弱化各国政府对少数巨型企业的技术依赖，确保各国所使用的数据存储、处理和分析系统的安全。

（二）构建人类算法命运共同体

组成算法的代码从表面上看是一些缺乏生命、没有价值导向的冰冷的符号，但研发这些算法代码的设计者赋予了这些符号以特定的价值判断和行为指向，以使其能够按照算法设计者的价值取向和主观意图来生成相应的决策指令或完成特定的任务。由于算法设计的过程是不透明的，算法运行的环节也是不可解释的，最后导致算法运行的结果存在一定的不公正，算法黑箱①参见［美］弗兰克·帕斯奎尔：《黑箱社会——控制金钱和信息的数据法则》，赵亚男译，北京：电子工业出版社，2015 年版，第262 页。、算法歧视、算法独裁、算法战争等就是典型的表现。目前，少数巨型企业在人工智能深度学习算法的设计和研发上拥有明显的技术优势，这些企业有利用算法进行技术独裁的可能性，各国政府和人民共同面临被算法权力侵害的风险。面对日渐强势的算法权力及其可能对世界各国政府和人民带来的巨大危害，世界各国应该要加强合作，从法律、技术和伦理三方面规制算法的研发与运行过程，推动算法正义的实现，构建人类算法命运共同体。

1.各国要加强在算法研发与运行等问题立法上的合作，在全球范围内构建起规范有效的算法研发与运行法律体系。算法的研发与运行过程存在不透明性，这是拥有人工智能技术优势的少数巨型企业可以在算法技术的外衣下较为轻易地实施算法独裁的主要原因。为此，各国需要在法律上强化对算法研发环节与运行过程进行规制的力度，明确算法研发与设计企业在算法运行过程中所要承担的法律责任，以此来最大限度地抑制少数巨型企业使用算法进行独裁的动机和空间。同时，各国在算法研发与运行方面的立法上要改变各自为政的状态，加强在立法目的和立法原则等方面的立法合作，力图在全球范围内构建起规范有效的算法研发与运行法律体系。

2.各国政府要加强在算法研发与运行技术标准制定方面的合作，在全球范围内构建起安全统一的算法研发与运行技术标准体系。算法的研发是一项对研发技术水平要求较高、所需资金投入较大的工作，少数巨型企业在算法的研发特别是核心算法的研发上拥有较为显著的优势，这也是少数巨型企业得以能够进行算法独裁的优势所在。为算法设计和运行制定一定的技术标准，确保算法规范有序安全的运行，是防范和化解算法运行风险的内在要求和重要保障。对此，各国政府在制定各自的算法研发与运行技术标准的同时，也需要加强合作，力争在全球范围内构建起安全统一的算法研发与运行技术标准体系。

3.各国政府要加强在算法研发与运行伦理规范制定方面的合作，在全球范围内构建起与人类伦理规范相兼容的算法研发与运行伦理规范体系。算法是人类设计和研发出来的，算法的运行只有处于人类的控制和监管之下，才能确保人类的安全。但是伴随深度学习算法技术的快速发展，人工智能算法的自主性愈发凸显，人类越来越难以控制人工智能算法的运行过程，算法在运行过程中所引发的伦理问题不断增多，强化对算法设计过程与运行环节的道德约束和伦理监管已非常迫切。为此，各国政府在制定各自的人工智能算法研发过程与运行环节需遵循的伦理规范的同时，也要加强合作，以与人类的道德和伦理规范兼容为基本原则，在全球范围内构建起统一的算法研发与运行伦理规范体系。

（三）各国共同应对人工智能异化或失控所引发的全球治理秩序失序的风险

与一般的先进技术不同，人工智能应用场景的不断拓展和应用程度的不断加深给全球治理带来的冲击不仅是巨大的，而且还可能是颠覆性的，由人类主导的全球治理体系和全球治理秩序在未来可能面临被超级人工智能颠覆的风险。人类在研发人工智能的同时，可能也正在制造危及人类未来的对手。强人工智能的异化是人类无法控制的。超级人工智能拥有比人类更强大的力量。超级人工智能一旦出现，它们将会是自然人之外另一类生命体，对于人类依据人类意志制定的治理规则，超级人工智能应该不会轻易接受并有提出重新制定治理规则要求的可能。可以设想，如果真的出现那种情况，人类中心时代可能会被人工智能中心时代所取代，现有的地球秩序和人类命运将会遭遇颠覆性甚至是毁灭性的打击。因此，对于人工智能技术发展到一定阶段后可能产生的危及全球治理体系和人类命运的技术风险，现代的人类必须要高度重视。

在人工智能在未来可能会引发人类主导的全球治理秩序失序甚至是被彻底颠覆的全球治理风险面前，拥有人工智能技术优势的发达国家和人工智能技术发展滞后的发展中国家之间的命运是紧密联系在一起的。在依然由人类来主导全球治理秩序的情况下，拥有人工智能技术优势的发达国家通过对发展中国家实施人工智能技术霸权和人工智能规则霸权，可以在一定程度上实现将其国家利益最大化的目标。但一旦人工智能取代人类成为未来全球治理秩序的主导者，发达国家与发展中国家都将面临巨大的风险考验。为此，面对可能会出现的强人工智能的异化风险和超级人工智能的出现及其所引发的全球治理秩序失序甚至被颠覆的可能，发达国家不仅应该停止其对广大发展中国家所实施的人工智能技术霸权和规则霸权，而且还需要在人工智能技术标准的制定和应用规则的确立等方面与广大发展中国家进行积极地对话与合作，共同应对人工智能异化或失控所引发的危及全球治理体系和人类命运的风险，推动建设相互尊重、公平正义、合作共赢的新型国际关系，构建人类命运共同体。

（四）积极发挥中国在人工智能时代全球治理中的重要作用

人工智能时代全球治理风险和治理难题的化解，离不开中国的参与。中国作为联合国安理会五大常任理事国之一，是一个负责任的大国，和平共处五项原则是我国外交的基本原则，倡导建立公平公正的国际政治经济新秩序也是我国参与全球治理的一贯主张。“有鉴于此，基于人工智能在中国国内全面和深度发展的客观现实，中国需要进一步推动人工智能优化并使其尽可能服务于国家发展和社会进步。而且，作为新兴大国率先垂范，还应当就人工智能的科学应用、合理推广为世界尤其是发展中国家提供良好范本，一是积极推动国家人工智能治理体系的建立和完善，二是搭建人工智能治理国际合作平台，确立在人工智能治理国际合作中的合理定位，为全球人工智能治理贡献中国智慧。”①陈伟光：《关于人工智能治理问题的若干思考》，《人民论坛·学术前沿》，2017 年第20 期。