去中心化与集中化：人工智能时代的权力悖论

叶 娟 丽， 徐 琴

(1.武汉大学 中国政治学基础理论研究中心， 武汉 430072；2.武汉大学 政治与公共管理学院，武汉 430072)

一、问题的提出

随着科技的不断进步与发展，人工智能成为近年来互联网领域的热门话题。在国内，以百度、阿里巴巴和腾讯为首的互联网巨头在近几年内纷纷将投资与研发触角深入到人工智能领域；在国外同样如此，如苹果、谷歌、脸书等科技公司也是人工智能领域的领导者，大规模展开人工智能战略布局，开设人工智能实验室。在各国企业、政府的战略推动之下，人工智能在自然语言处理、专家系统、视觉系统、语音识别和智能机器人等领域发展迅猛，对人们的生产生活、社会治理及政府运作产生了不可忽视的影响。

随着人工智能在现实生活中的应用与普及，学界也掀起了一股研究人工智能的热潮。我们通过对文献的梳理发现，社会科学领域对人工智能、互联网及大数据的研究主要集中在伦理学、教育学、法学等学科，聚焦于人工智能的伦理及法律困境、互联网教育、大数据治理等研究领域。在人工智能的伦理问题方面，学界的研究重心主要聚焦于道德困境、隐私权、人机关系等领域。随着人工智能在导航系统、无人驾驶等领域的应用，类似于传统“电车难题”的两难选择将成为不得不考虑的问题，在面临道德两难困境时，究竟是以结果论为导向，秉持效用主义原则从而可能导致多数人牺牲；还是坚持义务论的伦理取向，以牺牲少数为代价从而使多数获救；抑或是在设计算法时设计师不将伦理观念植入人工智能系统，而是由人工智能基于算法逻辑与规则自动作出选择。也就是说，在极端情境下，如何使选择符合大多数人的伦理观念是人工智能时代不得不面对的问题。[1]同时，在人工智能时代，若机器和算法出现偏差从而造成破坏性后果及危害，那么责任该由谁来承担，人工智能能否拥有道德主体地位从而作为责任主体而存在，[2]这也是在伦理学领域展开广泛讨论的一个话题。另外，随着互联网和大数据的普及，人们的隐私权受到前所未有的挑战，而人形机器人的诞生也对传统的家庭结构和伦理关系构成了挑战。[3]基于此，有学者认为，人工智能的发展离不开伦理支持，通过积极的伦理规制与协调人工智能时代出现的新型伦理关系是规范人工智能发展的必要途径。[4]在教育学领域，学者们主要探讨智能化时代教学模式、教师角色、学生能力等方面的改变。如邵小晗等人认为在“互联网+”背景下，高等教育呈现出新的特征，要求打造“互联网+学校+社会”的人才培养教学平台，以适应新形势下的教学变革。[5]在治理领域，学界一方面肯定了人工智能时代以大数据为依托的互联网技术对政府治理及政府能力的推进作用，具体体现在大数据推动政府治理观念的转型，提高政府科学决策水平，提升公共服务能力等方面；[6]另一方面，大数据背景下政府治理也面临着诸多挑战与困境，公众过度参与乃至无序参与、数据治理的瓶颈、可用数据匮乏、数据开放的权衡等等，[7]都制约着政府治理能力与治理水平的进一步提升与发展，从而向政府转变治理理念与治理方式提出了新的要求。

从现有文献来看，从政治学学科视角对人工智能影响进行研究的成果主要集中在治理领域且呈现出与公共管理学学科交叉的趋势，这意味着人工智能在政治学研究方面仍有较大的空间，从政治学最为核心的概念——权力的视角出发来解读人工智能在政治领域的影响显得尤为必要。在这方面，部分学者对人工智能的权力影响路径进行了解析。如陈鹏认为，以算法为核心的人工智能技术为政府感知公众意见、回应治理需求、精准设定政策议程等提供了技术便利，从而为社会规制国家机器的运行提供了可能；同时，技术与资本的结合极易造成独裁与数据霸权，给国家治理带来新的挑战与风险。[8]这些风险与挑战主要表现在国内和国际两个空间维度上：一方面，人工智能依托大数据和算法能够对个体行为产生潜移默化的影响，进而干扰国内政治行为，同时人工智能所推进的社会经济结构调整会加剧资本的扩张态势并进一步影响政治权力的分配。[9]另一方面，从国际格局的角度来看，人工智能革命可能改变国际力量对比关系，加剧国际关系领域权力分布的极端化趋势。[10]总体而言，学界普遍认为人工智能主要是通过技术、资本与权力的结合而作用于政治领域，且其政治效果具有两面性，但对于人工智能时代的权力究竟呈现何种样态与特征仍缺乏足够的研究。基于此，本文认为，人工智能时代的权力呈现出去中心化与集中化的双重维度：一方面，随着移动互联网的普及和数据的潜在价值不断被挖掘与激发，传统社会中被政府垄断的话语权渐渐在个体、企业和各种组织中弥散开来，使得权力呈现出去中心化的特点；另一方面，人工智能的开发与应用离不开资本的支撑，拥有雄厚资本的科技巨头在人工智能时代所掌握的话语权重愈加明显，而个体及小公司相对处于弱势地位，使得权力又在一定程度上呈现出集中化的趋势。人工智能时代权力走向的悖论要求我们重新思考资本与权力的关系，探求资本、技术与权力之间的平衡之道，从而规制人工智能的各种潜在风险。

权力作为政治学的核心概念之一，其内涵极其丰富，既有研究从不同的角度对之进行了各式各样的解读，力量说、关系说、强制说等等，不一而足。本文所指称的权力乃是福柯意义上的微观权力。与传统权力观不同，福柯扩大了权力的概念内涵，强调了知识、话语等要素在权力概念中的分量，认为权力存在于话语、制度及身份的创造之中。[11]因而，本文的权力指的是话语意义上的，即话语权力。当然，国家对某种技术的发展及其应用的态度从根本上决定着该技术对于社会发展及政府治理的影响限度与效度，换句话说，科技对国家权力的影响实则是国家主动选择的结果，如果政府对于某种技术采取了强烈的排斥态度，那么该技术甚至会失去发展的空间，遑论其对于国家治理的影响了。[12]自2016年人工智能被纳入我国国家战略规划以来，相关政策进入爆发期，关于人工智能的顶层设计陆续出台，所有这些表明了我国政府对于人工智能发展的支持态度，从而为人工智能影响国家治理乃至权力格局提供了空间与机会，但这种影响也是以国家权力的让渡为前提的。故而，人工智能时代权力所呈现出的去中心化与集中化特性并不是漫无边际的，在某种程度上而言，仍是在国家(政府)所限定的框架之内予以呈现和表征的。

二、去中心化：话语权从传统科层组织向社会弥散

自有记载的人类历史以来，权力在绝大多数情景下是按照中心化的模式来运行的，即人们的生产和生活是统一由某一个人或者某个机构来集中安排和管制的。但自从互联网产生后，这一模式被彻底打破，话语权的去中心化进程就开始了，只是这一进程的速度超过了人们的心理预期。今天，移动互联网的普及为个体和社会组织提供了表达诉求的渠道与机遇，互联网的多节点、无中心设计弱化了传统的单向度权力结构，使得权力呈现出多元和分化的特征。[13]权力图谱的去中心化意味着传统社会中被政府垄断的话语权日益弥散化，政府必须承认个体、社会组织等的话语权并重视其他主体的意见与需求，从而使得话语权在政府、组织及个体中分散开来。

(一)个体表达权与话语权的获得

根据网信办发布的报告显示，截至2018年底，我国网民数量达到8.29亿，互联网普及率达59.6%，互联网对人们的生产、生活产生了重大的影响，在重构人际关系模式、转变职业路径方面有着不可忽略的作用，同时也改变了公民参与政治和公共事务的方式。对于公民个体来说，互联网的便捷性、实时性和无门槛特点为其政治参与、发声维权提供了有利的渠道。通过互联网这一媒介及其所塑造的舆论力量，个体可以表达其对公共事件的看法与观点，可以使其诉求得到社会的关注从而引起政府部门的重视，个体的表达权和话语权通过互联网在一定程度上得以重塑。

互联网为个体的自我表达提供了媒介。互联网时代，新闻客户端、自媒体的飞速发展成就了“人人都有麦克风”的奇异景象，只要一根网线和一部手机，每个人都能够实时关注国内外热点事件并对之予以评论、讨论，个体的表达权借助于互联网得到了充分的实现与满足。以网易新闻客户端为例，有研究者通过分析发现，用户跟帖主要集中在社会民生和政治类等具有公共性质的新闻内容方面，占比达总量的七成左右，[14]这从侧面反映出个体对于自身话语资格的重视与实践。其实，不论是在新闻客户端还是诸如微博等自媒体中，普通个体对于公共事件的观点和看法在浩瀚的信息汪洋中很容易被淹没，但个体仍乐此不疲地评论与发声实则是对传统权威媒体话语权的解构。在传统时代，信息被主流媒体和官方媒体所垄断，传统媒体成为权威的信息传播者且传播模式是单一的线性结构，受众的反馈并不受重视也无处表达。而在当前，信息传播模式得以改变，网络的即时性与互动性为普通网民积极主动地表达自身观点与看法提供了有效的媒介，传统媒体的单一话语权渐渐消解，每个人通过互联网都可以自由发声，甚至可以质疑主流与官方媒体的信息，个人的表达权和话语权在此过程中得到了充分体现与实践。[15]

同时，互联网也为个体的政治诉求提供了表达载体。各级政府依托于互联网技术建立了电子政务服务系统和电子信箱，政务微博、政务微信也在近年逐渐普及，这些电子政务平台既方便了民众办事，也为民众表达自身需求提供了快捷的渠道。在传统社会，民众需要通过面谈、面访及信件等形式才能向有关部门表达意见与建议，既费时费力也难以得到政府部门的真正关注与重视。但是，借助于互联网，个体可以突破时空的限制，快速便捷地向政府部门表达自身诉求，相关部门的反馈和回应也更加及时。近年来，网民规模的不断扩大增强了网络舆论的力量，许多个体倾向于通过网络表达诉求，试图引起社会关注从而借助舆论的力量迫使政府部门作出回应，近段时间在网上备受关注的“柔道冠军举报村官”事件就是很好的例证。举报人马瑞斌于2019年3月多次在微博发布消息，称其所在村的书记与其弟贪腐上千万并勾结地痞殴打村民，马父就是受害者之一。微博发布后引来众多微博大V和网民的关注与转发，舆论就此发酵。其后，该县纪委表示将高度重视此事并成立专项调查组核实与调查。4月初，调查组通报举报属实，已停止被举报人的职务并已立案审查。可见，在互联网时代，每个人都可以成为信息的来源，信息垄断与信息封闭向信息的开放性与共享性转变，每个人都是独立的个体，拥有相对平等的信息权力，消息的即时性与舆论的力量又极大地推动了个体诉求表达与权益维护，这也是个体乐意借助互联网实现诉求的原因所在。

(二)企业经营权的重塑

人工智能时代，企业在产品研发、设计、销售、售后服务等领域都可以借助大数据分析获取顾客消费偏好，从而增强企业的市场适应能力。同时，互联网去中心化、零距离的特性也向传统的企业管理模式及组织结构提出了挑战。在传统科层制模式下，企业越大，其层级越多，员工的积极性和市场回应性都无法得到有效实现；而人工智能时代企业内部结构逐渐向扁平化方向发展，员工和顾客拥有更大的话语权，传统社会下企业及其领导者说了算的权力格局被打破，企业权力结构也日益呈现出分散化特征。

首先，企业权力向用户分散。在人工智能时代，用户的话语权极具分量，凭借网络的扩散效应，用户可以让企业成为“网红”，也具有让企业一夜之间贬值的力量。最近在网上闹得沸沸扬扬的奔驰女车主坐在车盖上维权事件发生后，不仅奔驰在中国的利润下滑，国内几大汽车经销商股票也暴跌，市值缩水近百亿人民币，由此可见人工智能时代消费者的话语权重。不少企业预见到这一时代用户的中心地位，纷纷提出“以用户为中心”“顾客需求至上”的经营理念，如阿里巴巴集团秉承客户第一的企业核心价值观，马云的“懒人理论”就是要求客服始终把顾客需求放在首位，用户需要什么就推荐什么，时刻满足顾客的懒惰需求。[16]

其次，企业权力向员工分散。人工智能时代必须时刻响应用户需求，这就要求企业必须将权力下放，将话语权和决定权赋予更懂得顾客需求的一线员工，企业的组织结构也将随之进行变革。海尔集团为适应互联网时代的生态环境，积极进行企业管理模式革新，其创始人张瑞敏首创“人单合一”模式，从企业、员工和用户三个角度对企业的组织结构和经营管理模式进行再造与重构。在互联网背景下，张瑞敏将海尔的发展方向定位为企业平台化、员工创客化和用户个性化，将企业的科层制管理模式转变为扁平网络型组织结构，企业成为互联网的一个节点，每个员工都没有上级，是自主的创业者，其任务就是满足用户的个性化需求。[17]总之，企业要想在互联网时代具有竞争力，就必须在组织结构上进行革新，使之更具灵活性与适应性，改变传统科层制管理模式下企业和领导者独揽话语权的权力格局。

(三)政府组织与权力结构的转变

人工智能时代，政府不仅面临着内部组织结构与权力结构重组的挑战，同时也面临着来自掌握人工智能核心技术与关键人才的大型企业的权力挑战，这既是政府权力被压缩的体现，也是政府权力去中心化的表征。

一是政府内部组织结构与权力呈现压缩化特点。人工智能的一个显著优势就是以其自动化、智能化特性取代部分人力工作，随着人工智能技术在政务活动中的应用与普及，政府部门的机构与人员都将得到精简。目前，人工智能系统在法院、检察院领域已经得到应用，“智慧法院”“智慧检察院”“智慧政务”等建设方案的提出与实行，表明了政府利用人工智能系统推进政务建设以提高治理能力与治理效率的决心。可以预见，随着人工智能系统在政务服务领域的进一步推进，越来越多的事务性工作将由智能机器人来承担，人工智能的经验记忆优势将在法院、检察院及政务窗口得到充分发挥，这同时也意味着政府部门不仅可以极大地提高工作效率，还能够精简政务人员，缩小政府规模，从而为“小政府”的建设与实现提供技术支撑。另一方面，随着人工智能不断应用到具体的政治过程与运作环节中，权力执行将更加规范，寻租空间也将被压缩。[18]人工智能的具体运作依靠事先设计好的算法和程序，机械化、自动化的特征使其在处理事件时能够做到客观公正，能够避免人情等主观因素对执法工作的负面影响。例如人工智能技术在交通执法领域的应用，可以有效遏止交警对自由裁量权的滥用，避免因贿赂而使违章司机逃脱惩罚。

二是政府权力的中心地位或将受到挑战。人工智能时代数据和算法逐渐取得主导地位，从某种意义上来说，在大数据时代，谁拥有了数据和算法，谁就拥有了话语权。然而，政府相对于某些巨头科技公司来说，在大数据研发、应用和人才方面都略逊一筹。随着大数据技术在政府治理方面嵌入程度的不断加深，政府将更加依赖这些巨头公司，政府在利用企业开发的智能平台处理政务时，后台产生的大量数据也会被企业所俘获，从而进一步加剧权力结构的不对称性。因此，在人工智能时代，表面上看政府依旧是权力的行使者，但实际上其权力地位正在遭受来自互联网巨头的严重挑战。

(四)国际关系领域的去中心化

权力的去中心化也反映在国际关系领域。网络的分散化和超国界连接，使得国家作为权力主体的地位被削弱，国家的统治力也减弱了；与此相反，各种非政治实体，包括非政府组织甚至反政府组织、大型企业等，借助于大量资本、海量信息和先进技术，经由网络，获得相当的动员能力和话语权力，进而在政治经济资源的分配与争夺中拥有足够的力量来对抗政府权力。尤其是那些涉及国计民生、具有重要战略意义的跨国商业集团，其庞大的触角延伸到全球的各个角落，在某种程度上，它们掌握着的资源甚至可以左右一些弱小国家的政治发展走向。因此，人工智能时代，这些跨国企业也将与主权国家一道，成为国际体系的重要参与者，[19]149国际关系的主体日益呈现出多元化的趋势。

总之，传统科层组织的话语权向社会分散，极大地改变了人工智能时代权力的结构与运行方式。在传统社会，公民获取与传递信息的渠道完全掌握在政府手中，在某种意义上，传统社会的政府是依靠对信息资源和信息通道的垄断来维持对权力的掌控的。而移动互联网的普及，使得权力祛魅成为常态，所谓的“去权威化““不再服从”“丧失崇高”“走向离散”都是对这种新的权力结构的网络表达。尽管我们远未达到“数字民主”的程度，还不能过高地估计人工智能时代话语权的弥散带来的政治影响。但是，网络社群或者离散化的话语权主体的大量涌现，改变了普通公民在国家权力面前孤军奋战的局面，为人工智能时代公民知情权、表达权和监督权的行使提供了可能的空间。

三、集中化：话语权向新兴资本、知识和权力中心聚合

互联网的去中心化、无中介特质促进了权力的弥散，但这种扩散只是相对的，甚至可能导致相反的情况，即催生出新的技术专制或资本独裁，由此造成人工智能时代的权力悖论。因为，人工智能的应用虽然打破了以往权力被政府垄断的单一线性格局，使得权力分散在个体与各种社会组织之间，但是这种权力的弥散依旧处于一种不均衡的状态，拥有更多资本、技术及人才的大企业往往拥有着更大的话语权，分享着以往由政府垄断的话语资格，而个体公民与小公司则处在更加弱势的位置上，其声音与偏好经常被淹没、忽视，甚至其行为也被资本和技术所操控。

(一)资本与权力的合谋

人工智能的研发，要求有较高的资本条件与其相匹配，这就意味着，人工智能研究中最新最快的成果可能更多地出自那些总能获得充足资金的研究平台，同时也意味着在人工智能领域真正能够通过技术而建立话语地位的企业必是如阿里巴巴、谷歌、脸书等那样的互联网巨头。这些互联网公司凭借自身雄厚的经济实力形成技术垄断，从而在市场经济中占据主导权。同时，这种技术垄断又受到资本扩张天性的驱使，通过市场经济将资本增值与技术结合，使资本获得巨大的能量，甚至能够左右国家权力格局。

首先，借助于资本的力量，科技巨头在一定程度上能够获得支配公众获取信息的权力，通过精准分析与定位，能够左右公众获取的信息内容。以腾讯为例，在其微信、QQ等社交媒体上，腾讯新闻的推送是其主要的功能之一，但通过对其推送的新闻类型进行分析便可以发现，其推送内容以明星八卦或奇闻轶事为主，用以满足用户猎奇心理，通过赚取用户流量以获得利益。[20]也就说，大部分互联网用户虽然拥有自由选择信息的权利，但是实际上，他们在日常生活中却往往沦为资本的木偶，处于信息生态链的底端，成为各种垃圾信息的接收者。在市场经济下，互联网企业在信息供给方面显示出的逐利本性甚至会给个体的生命健康带来危害。作为中国最大的医疗搜索引擎，在“魏则西事件”后，百度的竞价排名系统遭到各方诟病，在强大的舆论压力下，百度宣布对其医疗广告进行整改，但实际整改效果却并不令人满意。媒体暗访发现，其医疗广告的投放仍在继续，只不过是从PC端转到了移动端而已，究其缘由，无非在于百度的竞价排名占其营业收入的份额颇大，受资本逻辑主导的互联网巨头凭借其垄断地位而形成了话语权滥用的局面。同时，在竞价排名模式中，广告主只要支付服务商满意的价格，就能将自己的产品信息直接推送到消费者终端。[21]搜索引擎服务商凭借其在市场上的垄断地位而左右着用户的消息获取，而普通网民在此过程中则处于完全失语的被动接受状态。

其次，科技巨头凭借其所拥有的大数据及数据处理能力，甚至能够左右选民的投票，从而扭转政治权力格局。在欧美国家，其民主选举前往往要进行大规模的民意调查以形成所谓的政治共识，但民调并不是民意的真实反映，民调往往是在一套事先设计好的程序和控制舆论的技术支配下进行的，在此过程中，选民被调查员引导作出后者所期望的回答。因此，民调并不是民意的表达，而是施策者意愿的再生产而已，通过大数据和算法的作用再将民调转换成顺应民意的强大武器，从而左右选举的结果。[22]另一方面，脸书数据泄露丑闻背后涉及美国大选的案例表明，资本与技术的力量已经渗透到政治领域，而普通选民则成为大数据技术和权势者的傀儡，人工智能时代的到来则加剧了资本与权力结合所产生的风险。具有数字实力的政府与科技巨头一旦形成联盟，将拥有能够左右人类意志的超级权力，普通民众将无法反抗，从而对社会及国际治理格局构成巨大威胁。资本权力就是这样依托技术垄断地位得到持续扩张，从而使人工智能深深地打上互联网资本的烙印。

(二)知识与权力的聚合

不可否认，随着社会的发展和劳动分工体系的不断完善，社会事务的复杂性、专业化趋势日益明显，为提高决策的科学化水平，政府决策及公共事务的处理越发依赖于专家的意见。因此，在信息化时代，专家的话语权越来越得到重视，而人工智能的专家系统则顺应了此趋势并在多领域得到应用与推广。人工智能的专家系统是以某领域专家的知识与经验为基础，依托人工智能技术和计算机技术展开推理以模拟专家的决策过程并作出相应决策的计算机决策系统，它被广泛应用于医学、工程和军事等领域。然而，诚如贝尔所言，后工业社会也是一个全国性的社会，民众的参政意愿与参政需求不断增长，希望能够参与到政治过程中以发挥自身对于政治的影响力，但是政府决策对专家和专门性知识的依赖使得后工业社会同时又是一个能者统治的社会，技术权贵与普通民众之间存在着冲突与张力，民众的政治效能感也因此而下降。在人工智能时代，对于专家系统的依赖将使得专家治国与民众参政之间的冲突状态更加胶着化。

专家系统能够扩展和延伸专家的数量和能力。随着专家系统技术的成熟，各个领域将会出现越来越多的“虚拟专家”，政府决策也将更加依赖于这些专家的知识与经验，从而排斥乃至剥夺公民行使、参与政治的权力或权利。[23]专家系统在政府决策领域的过度应用，容易滑向将一切社会政治问题技术化的倾向，政治决策演变为计算机系统的运作，机器理性将取代民主政治的基本规则，不仅普通公民在政治运作过程中的话语权与表达权被剥夺，甚至连政治家也可能被技术理性所俘获从而失去对政治决策的控制权力。而公众对政治过程的疏离感将进一步加剧专家系统对政治过程的控制度，从而造成人工智能时代权力技术化、技术集中化的恶性循环。

一方面是人们对专家系统的日益依赖，另一方面，那些承担人工智能科技研发的少数知识精英也可能获得超乎于常人的影响力和话语权，“他们凭借自己的话语权与影响力将构成一个特殊的技术权力阶层，成为弱人工智能时代社会权力的另一个重要组成部分”。[19]147正如赫拉利指出的那样：“随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中，造成前所未有的社会及政治不平等。”[24]

(三)信息集权、技术专制和潜在的数字利维坦

随着大数据技术的成熟及其在政府与社会治理领域的深入应用，智能机器对于事件的分析将越来越完善，预测也越来越精准，人类决策也将越发依赖大数据技术，数据就此获得极大的权力与权威，或将引发数字独裁。同时，数据的匮乏、片面性和真实性等因素也制约着大数据治理效能的发挥，唯数据主义的思维容易导致“数字利维坦”。

根据肖滨的解释，数字利维坦常“被理解为国家信息技术的全面装备，将公民置于彻底而富有成效的监控体系之下，而公民却难以有效地运用信息技术来维护其公民权利，即无法通过数字民主来制衡国家的监控体系”，[25]其本质是一种技术手段与国家权力相结合产生巨大政治效应的过程。数字利维坦赋予数据至上的权力，会导致数字威权主义思潮的泛滥。而大数据权力毕竟只是一种虚拟的权力，在运作过程中存在着数据风险，而且极易形成数据宰制，信息被大数据所垄断，对于事件的评判与解释被大数据所操纵，由此建构起对于数据的“认同”，从而强化了大数据在社会中的权威。[26]有研究发现，随着数字社区规模的不断增大，由大数据所汇聚而成的权力也越来越集中化。[27]数字威权成为人工智能时代必须予以警惕的现象之一。在数字威权主义思维的控制之下，冰冷的数据淹没了民主的价值，人类社会与生俱来的公共性也将随着虚拟空间的扩大而逐渐消弭，人工智能时代对于数据的崇拜将进一步放大乃至激化现实社会的公共困境，人类将受到由数据权力引发的形形色色的灾害与风险的侵袭。此外，在数字威权主义之下，拥有大量数据的少数科技巨头与政府凭借自身所垄断的海量数据而获得掌控信息与决策议程的巨大权力，作为数据贡献者的普通民众却因数据的匮乏处于失语与被动地位，被掌握数据的寡头所操纵却毫无反抗的余地，甚至沦为数据的奴隶，民主的价值在数字威权主义之下可能荡然无存。

同时，数字利维坦也将导致新的社会排斥问题。基于大数据的分析与处理所做出的决策是以数据的收集为前提的，但当前的大数据技术在收集数据方面只是以局部对象作为研究样本，并未实现数据的全覆盖，因数字鸿沟而处于网络边缘地带的穷人及老人、儿童、少数族裔等弱势群体也往往处于数据的边缘地带，大数据决策并没有考虑到这些群体的偏好和需求，从而将其排斥在数据收集系统和数据决策系统之外，[28]在一定程度上剥夺了这些数据边缘群体享受公共服务及民主权利的机会，加剧了社会的不平等。同时，大数据决策还存在算法歧视现象，人工智能也具有种族和性别歧视的潜在隐患。例如，谷歌的广告系统在推送招聘信息时男性比女性收到更多的高薪资讯；在人工智能犯罪风险评估中，黑人更容易被标识为具有高犯罪风险；在AI选美大赛中，脱颖而出的绝大多数面孔都是白种人……人工智能时代的算法歧视更加隐蔽，也更加具有误导性和破坏性，人工智能技术在排斥弱势群体的同时，也可能剥夺了他们生存与发展的平等权利，从而导致新型不平等依附关系的产生。

(四)国际关系中新的力量极

人工智能一方面在消解着传统的国际关系格局，同时，另一方面它又利用其强大的科技力量，在造就着国际格局中新的力量极。比如在人工智能武器方面，不同国家间的差距已经远大于传统武器时代各国之间的差异。事实上，人工智能时代个别领先国家军事力量的超前，早已经超出了后进者追赶的程度，不同国家之间的力量鸿沟已经无法跨越。除此之外，“人工智能技术的进一步发展，还会倒逼那些更早应用人工智能技术的国家在相关领域推动组织形式的改革……而当适应新技术的新体制推广开来，国际关系行为体之间将呈现出技术和制度上的系统性差距，发展中国家将面临更加严酷的国际竞争压力”。[19]142

从全球范围来看，进入人工智能时代后，基于技术而形成的国家间的财富分化也进一步加剧。人工智能技术的研发需要大量的资金投入，但这种投入也必然会带来超额的回报，因此，目前那些在人工智能领域取得了技术垄断地位的国家，在可预见的未来，必然会在人工智能方面收获巨额财富，从而使本已十分严重的全球财富的两极分化进一步加剧。[29]

四、结论与讨论

就技术本身而言，人工智能蕴含三大悖论，即莫拉维克悖论、新知识悖论和启发式悖论，(1)莫拉维克悖论：莫拉维克等学者发现，实现人类独有的高阶智慧只要非常少的计算能力，但是实现无意识的技能和感知却需要极大的运算能力，也就是说，“困难的问题易解，简单的问题难解”。比如在考试或下棋时，让计算机具有成年人水平的表现是相对容易的，而让计算机具有一个一岁儿童的感知和行为能力是困难的，甚至是不可能的。新知识悖论：计算机是机械的，本质上没有创造性，那么我们就不能确定计算机学习到的新知识究竟是提前蕴含在其中的还是计算机创造出来的。启发式悖论：启发式搜索是人工智能最基本的技术，其特点是不能保证找到解或保证解的精确度，除非找到类似F=ma的精确公式；但一旦找到这个公式，这又将不是人工智能了。而其在社会政治生活领域的应用将会带来更多的治理难题与伦理、法律悖论。比如，当智能机器开始逐步替代人类进行生产与生活决策的时候，机器该如何承担风险，人类该如何给人工智能赋权。权力去中心化与集中化的悖论，只是人工智能应用于人类政治社会生活的悖论之一，是人工智能对于政治领域双重影响的微观缩影。这也充分证明，人工智能是一把双刃剑，在为人类社会发展带来机遇的同时，也隐藏着诸多隐患与忧虑。在传统社会里，政府是权力的唯一中心，权力格局以中心为基点向四周辐射，权力运行具有一元性、单向度的特点，在此权力格局之下，社会处于失语状态，只能被动地接受来自政府的服务、指令甚至是命令，社会的话语权缺失。政府与社会之间的话语失衡导致社会失去活力，政府对于话语权的垄断也容易助长其专断作风。在人工智能时代，互联网的普及与应用为个体公民提供了表达自身诉求的新型渠道，其便利性、即时性与网络舆论的强大力量促使政府不得不重视民众的声音与需求，民众的话语权得以重塑。对于企业和政府来说，互联网时代的来临也促使其内部组织结构与管理模式必须做出相应的革新，不论是企业还是政府，其传统科层制的组织结构向扁平化方向发展，内部权力格局也将随之发生变化。这意味着，人工智能时代不存在唯一的权力中心，每个人、每个组织和机构共同织就了互联网时代的一张巨大网络，这些主体同时是网络中的节点，相互分散的同时又相互联系，在网络中都拥有发声的机会，从而使得权力结构呈现出去中心化的特点。

同时，人工智能时代虽然赋予了社会主体以话语资格者身份，但每类主体在网络中的话语权重并不等同，那些握有雄厚资本并在人工智能领域掌握核心技术的科技巨头与某些国家的话语权重显然大于个体公民、弱小公司及在人工智能领域处于劣势地位的国家，前者凭借其所垄断的大数据及算法肆意将自己的意志加诸于他者甚至操控政治议程，从而使权力形成新的集中化倾向，并进一步强化了弱势群体在人工智能时代的悲惨境遇。因此，从这个意义上说，人工智能时代权力的集中化倾向是数字独裁、知识不平等、信息霸权等诸多负面影响的深层逻辑所在。

但去中心化与集中化的悖论，只是人工智能时代权力结构的一种表象。事实上，“所有已知的社会都是以信息和知识为基础并将其作为权力、财富和意图的源泉”。[30]根据马克思历史唯物主义的基本原理，经济基础决定上层建筑，作为上层建筑组成部分的权力结构总是与一个社会的生产力、生产关系相适应的。无论权力是分散的还是集中的，权力的基础永远都不会改变，它总是偏向那个社会最强大的资源或者代表社会历史走向的那种力量。如传统社会的权力建基于政治强力或者军事武力，现代社会的权力可能来自于资本的力量，而到了人工智能时代，能够产生巨大经济效益的数据或者信息，就成为了权力的可靠基础。因此，权力是分散还是集中，只是“规定权力与财富的游戏规则发生了改变而已，也许权力不再以诸如某个组织的权威这类传统标准为基础，财富的含义也正从诸如黄金、货币和土地之类有形的东西转移开去。而在人工智能时代，一个比黄金、货币和土地更灵活的无形的财富和权力基础正在形成，这个基础就是信息”，[31]或者说就是数据，就是深植于人工智能中的算法，就是为数据与算法奠基的资本。当然，历史唯物主义还告诉了我们另一个道理，那就是经济基础决定着上层建筑，上层建筑也会反作用于经济基础，有时这种反作用还可以非常巨大。在人工智能时代的权力走向上，去中心化与集中化的悖论，在不同的政治制度下又有不同的具体体现。传统上集权的政府，可能仍然用自己的方式在规定着这种去中心化的程度；而传统上分权的制度，也会以某种方式控制着集中化的方向。权力的去中心化与集中化趋势，至少在当前的弱人工智能阶段，并未超越现行制度限定的范围，并未造出一个能够与现有政府相抗衡的政治权力。但这丝毫也不能减轻我们对人工智能带给人类生活的隐忧，这就是未来可能出现的信息霸权、技术专制与数字利维坦。与传统的来自国家与政府的独裁与专制相比较，人们甚至无法判别算法专制更专制，还是历史上的君主独裁更独裁。这可能也是人工智能带给我们的另一个悖论，对此，我们无法做出选择，因为历史的已经过去，未来的还未发生，我们能够做的就是防患于未然，通过制度的、法治的、伦理的和更加科学的算法等方式，使人类在走出国家利维坦后，能够成功避开那个数字利维坦。