算法的权力和权力的算法

陈 鹏

(安徽师范大学 法学院,安徽 芜湖241002； 华东政法大学 政治学与公共管理学院,上海201620)

国家是人类社会发展到一定历史阶段的产物,实现国家和社会的有序治理是政治权力配置和运行的基本目标。长期以来,政府一直居于国家治理体系的中心地位。伴随移动互联技术的快速发展、大数据的兴起和人工智能技术的日渐成熟,人类的交往方式和生存形式发生着剧烈变革,我们正步入算法时代[1]214。算法时代的到来,使得深度学习算法在国家治理和社会治理中的应用场景不断拓展,正在对延续千年之久的由政府权力主导的国家治理格局产生重大影响,一种与政府权力并行的权力形式——算法权力正迅速崛起。算法的应用在很大程度上推动着国家治理体系的渐趋完善和治理能力的不断提升,但也给政府在国家治理体系中的中心地位带来强烈的冲击,拥有算法和数据优势的巨型企业有成为“超级政府”的可能[2]。如何利用好权力的算法来规制算法的权力,已经成为算法时代国家治理必须要面对的现实问题。

1 算法权力：一种新型的权力形态

有关权力问题的探究,通常会与政治联系起来,政治权力、国家权力、政府权力等都属于权力的范畴。伴随经济全球化浪潮的不断演进,资本权力作为一种新的权力形式开始在全球空间范围内不断地进行资源和要素的配置,完成了对全球空间的生产和再生产,民族国家的主权受到资本很大的冲击,全球治理秩序发生着深刻变革。在资本权力与民族国家主权的博弈过程中,资本权力虽日渐强盛,但仍面临民族国家法律和现有以联合国为中心的国际组织和国际法等构成的国际治理秩序的规制,尚不能构成对民族国家主权的颠覆性冲击。但是,伴随深度学习算法的突破、大数据时代的来临和计算机算力的飞跃,人类社会逐渐步入到以数据和算法为两大基石的人工智能时代。人工智能简称AI,是英文Artificial Intelligence 的缩写,具有类似于人类的独立思考与深度学习的能力是人工智能与其他科技最大的差异[3]。当前,作为人工智能两大基石之一的算法正日渐成为新的权力形式,算法的权力推动着传统政府治理模式发生着积极的变革,政府权力与资本权力博弈的格局也开始出现微妙的变化。

算法是一个计算机学科领域的概念,用来指代人类设计出的用于完成某项特定任务的计算机指令,是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法,是计算机科学的基础”[4]6。在人工智能时代,数据成为重要的蕴藏着巨大价值的战略资源,算法决定了人工智能技术平台应用的深度和功效,政府权力的运行已经在很大程度上依赖于算法的研发和运用,部分掌握了人工智能核心算法和海量数据的资本开始拥有了相对于政府的明显的技术优势,算法权力开始逐渐成型并在国家治理中发挥着愈发重要的功效。算法权力是一种人工智能技术平台的控制者,凭借自身拥有的算法技术优势而在人工智能应用过程中产生的对政府、社会组织和公民个人等对象的技术权力。通过此项权力,算法权力的拥有者可以以较为隐蔽的技术手段来比较轻易地实现其想要达到的目标。算法权力在实际应用过程中的具体表象是政府、社会组织和公民个人在决策和行为等方面对算法的深度依赖。目前,算法权力作为一种新型的权力形式,尚未完全被学界接纳,但这不妨碍我们对其内涵和特征进行探讨。

第一,算法权力是一种技术权力。权力与权利是相对应的,面对行政国家的兴起,如何规制政府日益扩张的权力,保障公民的权利成为国家治理的重要任务。政府权力之所以具有强制性,除了具备一定程度的合法性外,警察、法院、军队等对不服从政府权力的群体和个人构成了强大的威慑力。算法权力与政府权力不同,它本身不一定具备法律、法规等法律规范赋予的合法性,也缺乏警察、法院、军队等暴力机关作为后盾,不具备政府权力拥有的天然强制性。从权力属性来说,算法权力作为权力的新形态,是一种技术权力,这种权力虽不具备天然的强制性,但是随着政府、社会组织、企业和公民个体等对其应用的依赖程度不断加深,算法逐渐拥有了对政府、社会组织、企业和公民个体等对象的某种技术上的强制力,算法权力的拥有者可以凭借这种技术权力来完成对特定对象的控制。同时,随着人工智能技术应用领域的拓展和深化,算法拥有的这种技术上的强制力不但不会减弱,反而会不断增强,并且会呈现出权力向少数主体集聚的态势。如果核心算法技术仅仅被少数几家企业掌握,那么就可能会出现部分学者担心的算法独裁的问题[5]。

第二,算法权力包含算法本身的权力和数据的权力。其中算法是主权力,数据属于附属权力。算法、数据和算力是人工智能的基本构成要素。进入21 世纪后,深度学习算法的突破、大数据时代的到来和具备强大计算能力的计算机系统的出现,使得人工智能技术在经济社会发展和政府治理的各个领域的应用前景被打开,“人类正在进入一切皆可计算的时代”[6]323,算法权力随之日渐凸显。但是,离开了大数据和具备强大计算功能的计算机,算法权力也将难以体现。因此,算法权力从内容上来说应该包括两个部分：算法本身的权力和数据的权力。“大数据是指大量、多元、高速、复杂、多变的数据,需要用先进的计算方法和技术实现信息的采集、存储、分析和应用”[7]。大数据时代的到来改变着人类的交往方式,“在广大浩瀚的宇宙中,数字化生存能使每个人变得更容易接近,让弱小孤寂者也能发出他们的心声”[8]55。在现实生活中,我们每时每刻都在生产着数据,例如我们随身携带的穿戴设备会将我们身体的心跳、行动轨迹等数据实时地传递到各类应用平台,并存储在云端。在大数据时代,“大数据掌控者们借助越来越智能化的算法分析和利用着我们的数据,开发着靠数据化的人类经验喂养的人工智能产品,在为我们的生活提供越来越多便利的同时影响着我们的选择和决策,并在此过程中积累起日益膨胀的财富、技术和人力资源”[9]。但是,孤立的数据是杂乱的,本身并没有什么价值,只有经过算法的深度挖掘,数据的价值才会显现。因此,数据的权力是附属于算法权力的,掌握了大量数据的主体如果没有掌握核心算法,也是难以获得和利用算法权力的。

第三,算法权力的表面行使者和算法权力的真正拥有者大多是分离的。算法权力作为一种技术权力,它主要是通过对大数据的分析和整理来利用数据的价值进而实现特定的目的。但是算法权力的表面行使者和真正的拥有者之间并非完全重合,二者在绝大多数场合下是分离的,算法的使用者通常并非是算法的研制者。表面来看,算法权力是属于使用以特定算法作为技术支撑的人工智能技术平台的主体,通过使用该算法可以帮助主体完成特定的任务和实现既定的目标。但实际上,算法的设计过程是封闭的,算法设计的原理也是不可解释的。算法权力在帮助使用主体完成任务和实现目标的同时,算法的设计者和研发者已经渐渐完成了对使用者的技术占领,并且在不经意间帮助算法的设计者和研发者完成了其最初设计算法的目的和意图。因此,算法权力的真正拥有者通常不是算法的使用者,而是算法的研发者。如果算法的使用者和算法的研发者能合二为一,对使用者来说不存在安全风险,但是如果算法的使用者并不掌握算法的设计技术,那将会对使用者的隐私、数据安全甚至是人身、财产安全构成巨大隐患,而这正是我们需要认真设计政府权力算法的必要性和紧迫性所在,要用权力的算法来规制算法的算力。同时,我们需要的不仅仅是规制算法,而且还需要规制算法的设计者,要公开算法的设计目的、设计原理和设计过程,做到算法的编制及其运行过程是透明的。

第四,算法设计者的意图在很大程度上决定了算法权力运行的结果。算法权力运行的过程是人工智能技术平台在接入一定的数据平台后自动运行的过程,表面来看,其是在独立运行的,不受任何人为的干预和影响,比政府权力的运行过程更加客观公正,且不易受人的情感波动和价值取向的干扰。但这只是表象,“算法及其决策程序是由它们的研发者塑造的,在细节上渗透着研发者的主观特质”[10]。一个算法在投入到人工智能技术平台中应用之前,设计者已经完成了编制工作,设计者的利益意图、价值取向甚至是意识形态导向等已经被植入到算法之中,算法的运行过程不仅仅是智能技术运用的过程,在其技术的背后体现的是设计者的意志,在其工具的外表下暗藏的是权力的归属。因此,算法在经济和社会发展中运用的结果如何,主要取决于算法设计者的意图。一方面可以利用算法来为政府治理和法律执行提供很好的便利。比如,人工智能的深度学习算法可以通过对法院公布的失信人在网上的消费记录进行跟踪,来判定其所在的地理位置及相关账户交易信息,据此法院可以随时冻结失信人的银行账户并限制其在部分平台的交易行为,从而达到强制执行的目的。另一方面可以利用智能算法来从事一些不太正当或者不道德的营利行为,例如,现在社会中已经出现的“大数据杀熟”问题,实际上数据是没有生命力的,不会对熟客有什么不当行为,杀熟的正是操控算法的设计者或使用者,他们通过算法对特定消费群体消费数据的分析结果,可以准确地判定其消费偏好,然后对其进行有针对性的消费欺诈。

2 算法的权力：算法权力在政府治理中的扩张

随着算法研发技术的不断演进,算法在生产、生活中的应用空间不断拓展,算法已经成为人工智能机器的核心技术,人工智能机器自身具备的算法的先进程度决定了其功能发挥的程度。机器学习算法的过程被称为机器学习,按照其发展的阶段可以分为监督学习、半监督学习和深度学习等类型。其中,深度学习算法是一种基于多层神经网络技术的高级机器学习算法。深度学习算法的出现,推动了机器学习算法的巨大变革,加速了弱人工智能向强人工智能时代转变的进程。深度学习不同于一般的监督学习和半监督学习,机器可以依据一定的数据,通过多层神经网络技术来不断地尝试各种可以达到特定目标的参数设置,直到实现目标为止。同时,算法权力的发挥需要数据的支撑。虽然“人不是数据,更不是电子痕迹的汇总,但技术正在使数据得到处理和整合,形成各种各样的自动化区分、评分、排序和决策,这些活动反过来使我们的‘真实自我’在社会层面变得无关紧要。我们进入所谓‘微粒社会’,我们都成为数据,并最终成为被算法所定义的人。算法权力(algorithmic power)这种新兴的权力并不把我们当成‘主体’来对待,而是作为可计算、可预测、可控制的客体”[9]。目前,人类社会数据化的存在状态正给算法的权力以充分的发挥空间。

2.1 算法营造公众舆论的权力

由于新闻舆论在监督政府运行、塑造公共政策议程、推动政府行为变革和利益团体之间的利益博弈等方面的重要影响力,被习惯性称为“第四权力”。鉴于新闻舆论的重要性,各政党和利益团体都非常重视对新闻媒体发挥积极影响并希望对其施以有效控制,利用新闻舆论营造对自身有利的公众舆论已经成为政党赢得竞选和利益团体期望政府出台对其有利的公共政策的重要手段。在传统媒体时代,要掌握舆论的主动,要营造对自身有利的公共舆论,掌握必要的媒体资源是基本的前提。进入移动互联网时代后,自媒体愈加发达,每个人都成为信息发布的平台,QQ、微信、微博、客户端等媒介随时可以向外界推送信息,一个政党或利益团体越来越难以通过控制媒体来达到有利于自身的公共舆论营造的目的。但是,一些拥有人工智能技术优势的企业可以通过自身设计的算法来完成特定舆论的营造任务。为了达到营造公众舆论的目的,拥有先进深度学习算法的人工智能技术平台,可以从海量的大数据中有效提取特定的目标群体,然后将编制好的信息和带有鲜明导向的评论向这些目标群体进行定点定时的推送,这样就可以在较短时间内激发社会公众对于某个新闻事件的关注,进而达到营造公共舆论的目的。

同时,进入到移动互联网时代后,人类的阅读习惯已经发生了彻底的变化,各种微信公众号和新闻客户端等推送的文章、新闻成为人们阅读的主要内容。长期阅读相似的信息内容,会对一个人的价值观和思维认知产生很大影响。当前,人类在阅读内容的选择上看似是自由的,实际上只是在微信公众号和新闻客户端推送的信息中做出有限的选择而已。而向谁推送、何时推送、推送什么信息内容的背后都潜藏着算法的轨迹,算法已经在很大程度上拥有了改变和固化人们思维、营造新闻舆论的权力,“凭借垂直领域开放平台的接口或平台授权,算法在庞大的数据支持下精确迅捷地抓取、生成、发布和推送资讯,最终实现对新闻内容生产环节和分发环节的再造和变革”[11]。

2.2 算法主导政策议程的权力

制定公共政策是政府的权力和职责,也是政府管理和控制经济、社会等领域的重要手段。在传统的公共政策议程中,政府作为政策主体在社会问题的感知、社会问题向政策问题的转化和政策问题的界定等环节上具有完全的主导地位,政策方案通常也是由行政首长依据一定的价值判断和基于一定的利益考量做出选择的结果。随着移动互联时代的到来以及云存储和云计算技术的突破,人类的存在和交往形式正逐渐数据化,我们日常的行为和交往记录被以各种各样的图片、运行轨迹、数字、文字、音频、视频等数据形式存储下来,社会每天产生的数据量以惊人的速度增长,为深度学习算法的不断演进提供了强大的学习素材。通过“对这些数据进行系统地加工并且正确地阐释,使得人们可以通过这些数据对个人或者群体及其行为进行深入的推断”[12]9,算法主导公共政策议程的权力也随之不断增强,公共政策的制定权正逐渐“从人手中转移到算法手中”[13]197。

政策问题是公共政策议程的起点,“决定哪些问题成为政策问题,甚至比决定这些问题的解决办法更为重要”[14]28。政策制定以政策问题的有效识别和准确界定为前提,而与政策问题相关的数据和信息的获取程度对政策问题的界定非常关键。具备深度学习功能的人工智能技术平台,可以通过对数据的智能提取和分析,给政策主体提供其想要获取的信息,作为对社会问题感知和将哪些社会问题转变为政策问题的依据。在政策方案的设计和选择环节,人工智能技术平台提供了各种政策备选方案以及对各种方案的成本、收益的估算分析,给政策制定主体选择方案提供了重要的参考,人工智能算法在政策制定中的功能正愈发强大。目前,“不少国外企业已经搭建完成了人工智能底层模块,这个模块类似于智能手机的操作系统,任何应用和计算都基于底层模块而产生。这些企业会伴随使用底层模块应用的增多而获取大量数据,这些数据不仅限于一个国家或一个区域,而可能是全球性的,企业完全可以利用这些数据做利于企业自身甚至本国政府的事情,从而成为跨越国界的超级‘政府’”[2]。

随着人工智能算法在政策制定中的功效的日渐凸显,政策制定主体对人工智能的认知也由传统的运用人工智能辅助决策转变为依赖人工智能决策,决策主体与人工智能算法在公共政策议程中的角色正发生着深刻的变革。政策制定主体对人工智能技术的依赖程度越深,人工智能算法主导公共政策议程的权力就愈发凸显,只是算法权力在公共政策议程中的强势支配地位比较隐蔽罢了。表面上看,政策制定主体的领导和工作人员控制着公共政策制定的全过程,实际上他们的决策大多是依据人工智能算法的运行结果来作为依据的,而那些设计和掌握人工智能核心算法的企业正成为算法权力的拥有者和支配者,特别是那些算法优势明显的超级企业。因此,与传统权力不一样,算法权力的运行过程看似公开透明,但由于算法设计过程是封闭的且充分体现了算法设计者的利益意图和价值判定标准,因而人类对算法权力的规制和监管要比对政府权力的监督更加复杂而艰难。在算法时代,可以说谁“掌握了数据就意味着掌握了资本和财富,掌握了算法就意味着掌握了话语权和规制权”[15]。

2.3 算法控制政策执行的权力

由于受到政府行政编制、行政运行经费和工作时间有限以及政策执行环节较多等多种因素的限制,政策执行者在目标群体的筛选和精准识别、不同群体的具体特征和特殊情况的掌握等方面存在信息不完全的困境,政策执行效果随之受到很大影响。大数据时代的到来和深度学习算法的不断成熟,为人工智能在政策执行领域中的深度应用提供了可能。在政府治理实践中,各级政府可以“通过人工智能,可以有效识别行政流程中的冗余环节,并以远超人力的形式形成公文流转过程,从而提高整个政府内部的行政流程效率”[16]。

人工智能技术在政策执行环节中的深度应用,在有效提升政策执行绩效的同时也引发了政府部门及其工作人员对人工智能技术的依赖问题,很多政策执行环节已经部分或者完全交由人工智能技术平台来完成,越来越多的政策执行主体及其工作人员已经将人工智能技术平台作为政策执行的主要依靠工具。目前,越来越多的地方政府已经或正在联合人工智能技术供应商开发各种类型的智能政务平台,这些平台的核心技术就是算法,而支撑这些平台有效运行的算法绝大多数是由少数大企业掌握的。同时,在平台运行过程中大企业也获得了许多单位价值密度较高的政务数据,数据优势和算法优势的叠加更加强化了企业的技术优势,政府对算法的依赖程度更深。例如,浙江省杭州市联合阿里巴巴公司发布的城市大脑系统。该系统通过阿里云开发的视频识别算法,使城市大脑能够感知复杂道路下车辆的运行轨迹,准确率达99%以上,在此基础上城市大脑可在一个虚拟的数字城市中构建算法模型,通过机器学习不断迭代优化,计算出更“聪明”的方案[17]。

与传统的技术手段在政府治理中扮演的辅助决策和辅助执行角色不同,人工智能技术在政府治理中的深度应用已经使人与技术手段的关系发生反转,人是技术的主体变成了人成为技术指令的接受者,技术开始成为人类的主宰。算法是人工智能技术的基石之一,向人类下达指令的人工智能算法是由特定的技术主体研发的,因此,人工智能技术平台的研发者也是真正意义上的指令下达者,他们已经在一定程度上成为政府权力的实际拥有者。例如,城市大脑系统在投入使用后,实现了城市交通管理的智能化,但是交警也成为阿里云视频识别算法的指挥对象,政策执行主体变成了算法权力的执行者。

2.4 算法影响政策绩效评估的权力

政策绩效评估是公共政策议程的关键环节之一,是政策绩效评估主体依据一定的公共政策绩效评估标准和评估指标,运用一定的评估方法和手段,对特定的公共政策执行后的业绩和效果进行评估的过程和结果。政策绩效评估是衡量政策制定质量和政策执行水平的重要指标,执行绩效相关数据的收集和客观公正的评价是做好政策绩效评估的关键。传统的政策绩效评估,由于依据的是有限的数据和主观选择的样本,加之政策绩效评估主体的认知局限,使得评估主体难以做到对政策绩效进行精准的评估。而进入大数据和人工智能时代后,政策制定和政策执行的过程及其结果以数据化的状态呈现出来,深度学习算法可以有效地识别与绩效评估指标相关的数据,并据此作出较为准确的评估结果。人工智能技术在政策绩效评估环节的应用,大幅提高了政策绩效评估的效率和评估结果的准确性。目前,我国很多地方政府已经开始依靠人工智能技术平台来监控和评价政府部门及其工作人员的行为绩效。

算法作为计算机程序之一,也存在隐蔽性的特征。“多项研究均显示,软件产品具有隐蔽性的特征,特定的权力结构、价值观和意识形态已经事先被嵌入其中。”[11]在人工智能介入政策绩效评估的过程中,存在一定程度的黑箱操作的可能。由于算法的编制基本上是由企业在封闭的环境下独立完成的,大多数算法是不可解释的,政府及其相关部门无法掌握算法设计者的意图和设计原理,因此依据人工智能系统来进行政策绩效评估也就存在黑箱操作的可能性,看似公正的政策绩效评估结果的背后可能隐藏着特定的利益诉求和价值偏好。如果政府部门将政策绩效评估的工作完全交由人工智能系统来完成的话,研发算法的企业无疑将成为政策绩效评估权力的真正拥有者。

作为一种新型的权力形态,算法权力的出现及其发展,对于现代国家治理来说既是机遇也是挑战。从国家与社会的关系来看,算法权力给传统上由政府主导的国家治理秩序带来了冲击,使得人类找到了一种利用技术来防止国家权力被滥用、抑制国家公职人员利用权力进行腐败并控制国家机器的有效路径,有利于提升公权力运行的透明度。但同时,算法权力的背后也潜藏着资本的力量,资本对算法技术的垄断及其在数据处理和应用上的优势,正在助推资本对国家权力优势的形成,这也正是我们对于算法权力要保持高度警惕的原因所在。

3 权力的算法：用权力的算法来规制算法的权力

先进的技术是一把双刃剑,“技术上最伟大的胜利与最大的灾难几乎并列”[18]16。人工智能技术应用场景的不断拓展,“彻底改变了人际交往机制,社会政治力量之间的关系潜藏在数据、算法之后,新型关系模式冲击着权力结构边界、权利行动的范围以及原有的社会规范”[19]。算法权力作为一种新型的权力形态,其技术性的表象隐藏了权力的强制性特征,导致算法权力在国家政治生活和经济社会发展中的扩张不易被人察觉。而正是在这种背景下,算法权力正在逐步建构起技术权力对政治权力的优势,使得传统的由政府权力建构的治理秩序面临深刻的变革。“技术在政治的、军事的领域中与技术在经济生产领域中具有明显的相似之处,它像经济上的工具和机器一样具体和物质”[20]45,技术的拥有者和使用者有利用技术对既有的政治秩序发起冲击的能力和可能。目前,拥有算法和数据优势的人工智能企业“是否对国家治理构成挑战,关键不在于一个组织是否有意愿成为超国家组织,而在于其是否有能力成为超国家组织。如‘剑桥分析’等一些大型互联网企业,由于掌握了海量数据,对民众的影响力甚至比普通国家机器还要大。公司、社会组织、非营利组织等非政府玩家,掌握过多数据,将会形成不对称权力,或将对国家和社会治理构成挑战”[2]。面对算法的权力,一方面我们不能因其导致的现实和潜藏的风险就束缚其发展,另一方面也不能放松对算法权力给国家治理秩序可能带来的冲击的警惕,用权力的算法来规制算法的权力,是主权国家和政府面对算法权力不断扩张的必由之路。

权力的算法是指在算法时代决定权力运行方式和主导权力运行过程的算法。权力的算法包括权力算法的设计和权力算法的运行两个方面。伴随人工智能技术的日渐成熟和算法时代的到来,政府治理模式正发生着深刻的变革,智能治理作为一种新型的治理形态正日渐成熟[21]。在智能治理时代,政府权力运行的算法化趋势不断强化,政府治理实际上就是政府通过算法来实施治理。政府权力的算法不同于一般企业研发的商业用途的算法,政府权力算法的设计不仅要着眼于提高行政效率,也要注重多元价值的平衡,体现出公平公正性。因此,在权力算法的设计方面,面对由少数超级企业主导的算法权力及其可能给主权国家治理秩序带来的隐忧,政府要主导权力算法的设计标准和设计过程。同时,在权力算法的运行方面,针对政府治理日益由人工智能算法主导的趋势,政府要通过构建由其主导的智能政务系统、大数据系统、透明化的算法运行机制和人工智能自我终结机制等来确保其在智能治理时代国家治理体系中的主导地位,以有效地防范、控制和化解算法权力给政府权力运行带来的各种现实的和潜在的风险。

3.1 政府主导智能政务系统核心算法的标准制定和研发过程

人工智能时代的到来,权力技术化特征日渐明显,数据和算法成为不同主体之间竞争和博弈的核心筹码,谁掌握了海量精准并实时更新的数据、谁拥有强大的算法研发能力,谁就能在权力的角逐中赢得优势并取得胜利。从目前人工智能技术发展的现状来看,政府在数据和算法上都不占优势。相形之下,少数互联网巨头企业凭借其开发的用户量巨大的社交、消费、工作和学习等应用平台,可以很轻松且免费地获取海量的数据信息,然后再通过其自身研发的深度学习算法完成对数据价值的深度挖掘和最大程度的利用,进而树立起对政府权力的技术优势。目前,我国各级政府正在大力推动利用智能政务平台来处理政务,不见面审批等已成为现实。智能政务平台的利用在方便民众办事、降低行政运行成本和提高行政效率的同时,也使得政府与民众的面对面交流越来越少,政府对设计算法的企业的技术依赖程度越来越深。我国现有的智能政务平台基本上都是由少数几家大企业提供的,政府独立研发的很少。为此,我们需要抓紧推动政府信息主管部门与国有控股的信息技术企业等主体之间的技术合作,建立起由政府掌握的算法设计和研发机构,确保核心智能政务系统的算法由政府自身掌握,打破政府对少数企业的算法依赖,保证智能政务平台运行的安全。同时,“政府需加快发展包括算法和数据分析在内的多项技术,增强自身使用人工智能进行分析和决策的能力,使政府在人工智能领域处于领导地位”[2]。

3.2 建立由政府主导的国家大数据系统

算法权力作为技术性权力形态,其作用的发挥需要一定的数据作为支撑。在人工智能时代,“随着大数据技术的不断演进和应用持续深化,以数据为核心的大数据产业生态正在加速构建”[22]。近些年来,我国各级政府非常重视大数据的应用,并积极推动大数据产业的发展。为此,国务院于2015年8月专门出台了《国务院关于印发促进大数据发展行动纲要的通知》(国发〔2015〕50 号),为今后很长一段时期内我国大数据产业的发展指明了方向。与此同时,我国的很多地方政府也成立了专门的大数据管理机构,截至2018年1月底,全国至少已有10 多个省份成立了超20 家地市级以上的大数据管理机构[23]。数据权力是算法权力的附属权力,也是算法权力的重要支撑,离开了大数据的供给,再先进的人工智能算法也因没有训练素材而导致机器功能难以有效提升,算法的权力将无法表现出来。目前,从全社会数据的分配格局来看,政府虽然掌握了主要的数据,但是由于政府“不同部门的数据储存在不同地方,格式也不一样,这就使得数据整合起来出现困难”[24],政府掌握的数据的价值并没有充分发挥出来。在人工智能时代,面对已经拥有一定数据存储和处理技术优势的大企业,在大数据存储和处理技术上处于弱势地位的政府应该努力掌握大数据的主导权,以实现有效防范算法独裁风险和引导人工智能技术积极发展的目的。目前,“我们正走进包含着大数据的时代,大数据已经开始影响我们社会生产和生活的各个方面,然而,与这个时代相适应的真正的大数据思维尚未建立”[25]。为此,我们需要抓紧建立由政府统计部门和大数据管理机构共同主导的国家大数据系统,统一大数据的统计口径、传递方式和提取使用标准,各智能应用平台运行过程中产生的数据要与国家大数据系统进行有效对接,确保全社会数据的互联和共享。当前,“面对大数据对个人隐私潜在的威胁,我们必须重视智能革命时代隐私权的保护”[26],而国家大数据系统的建立,一方面可以有效推动数据价值得到最大程度的发挥,另一方面使得政府也可以有效监控各平台企业对数据的提取和利用情况,防止数据霸权的出现,从而实现有效抑制算法权力的目的。

3.3 建立透明化的算法运行机制来破除算法黑箱

算法权力与传统政府权力不同,政府权力从法理上来源于人民的赋权,人民的同意和认可是政府权力获得并使合法性得以维系的前提,其自身的运行存在内部自律和外部监督机制的规制,对权力运行有效性的考量以及官员连任和晋升的压力构成了政府权力运行的内在约束机制。政府权力的行使者必须要积极回应社会公众的关切,推动透明政府、回应性政府建设。而算法权力作为一种技术权力,是一种事实性的存在,本身不存在权力的合法性和有效性的问题。由于算法的设计过程是不透明的,算法设计充分体现了算法设计者的意图和目的,算法的研发过程中存在黑箱操作的空间和可能,人们在很大程度上只能被动接受算法运行的结果。例如,美国学者的研究结果表明,在对特定群体犯罪风险的评估上,算法倾向于认定黑人犯罪的风险要高于白人[27]。正是因为算法设计存在黑箱运作的风险,国家需要加强对算法研制方面的立法,加大有关推动算法可解释性的政策供给力度,增加算法的可解释性,确保算法设计回应社会的关切和民众的需求,建立透明化的算法运行机制,让“那些对结果抱有怀疑的人可以掀开‘引擎盖子’看个究竟”[28]262。同时,国家也需要大力推动拥有核心算法优势的算法研制企业开源自己的人工智能算法平台,尽可能降低算法领域的技术壁垒,推动算法技术的共享,有效抑制算法独裁的空间,让更多的主体可以分享到人工智能技术应用带来的福利。

3.4 建立人工智能自我终结机制来防范由算法运行带来的公共安全风险

伴随算法时代的到来,算法等“新技术重塑着‘国家—社会’关系,在新技术环境下,巨大的‘利维坦’与更多新人群、新组织、新社会力量的关系,将变得陌生起来,社会权力的无序运行对国家政治安全施加了严峻考验”[29]。特别是深度学习算法的出现和不断成熟,在推动人工智能应用场景不断扩大和应用程度不断加深的同时,也给公共安全带来很多不确定性的风险,甚至危及到整个人类的安全。部分学者认为算法的应用,有可能会在不久的将来引发“算法战争”[30]。虽然这种预测未必会成真,但是由于算法设计都具备一定的意图和目的,算法运行的风险不能忽视。为此,我们需要从法律规制、伦理教育和技术规范等方面来建立和完善算法监管机制。在法律规制上,要将不危害人类生命、公共安全和不侵害公共利益作为算法设计的准则。在伦理教育上,要将不侵犯个人隐私、不违反公序良俗等作为算法设计和运行的伦理规范。在技术规范上,要引入人工智能自我终结机制,一旦人工智能算法脱离了人类掌控,将启动人工智能自我终结程序,以确保算法运行始终处于人类可控范围之内,将维系人类生命安全作为人工智能算法研发和应用的底线,防范算法权力对人类生存构成的威胁。

4 推动算法权力与政府权力从博弈走向融合：迎接智能治理时代的到来

算法和数据是人工智能的两大基石。人工智能深度学习算法的突破,使得人工智能技术的发展取得了巨大变革,推动了人工智能技术从单纯执行人类设计指令的弱人工智能时代向具备自主行为能力的强人工智能时代的转变。同时,大数据时代的来临,进一步加速了弱人工智能向强人工智能转变的进程,使得人类社会的生产方式、生活方式和国家治理方式等发生了深刻的变革,引发了算法权力与政府权力之间的博弈。但是,我们也要看到,技术变革既可以带给政府治理手段的创新,也可能推动治理机制的创新,最终变革政府治理范式[31]。“国家治理是人类有史以来最为复杂的社会活动。这不仅因为国家是人类所形成的最大的正式组织结构,还因为国家治理覆盖了国家范围内几乎所有的社会行为。”[32]我们在利用权力的算法来规制算法的权力、防范和化解算法权力对政府权力带来的冲击的同时,也要积极适应人工智能算法发展的趋势,积极利用算法来为国家治理服务,推动算法权力与政府权力从博弈走向融合,做好技术理性和价值理性的平衡,迎接智能治理时代的到来。

第一,积极发挥算法在政府治理中的作用,推动政府治理从传统治理范式向智能治理范式转变。智能治理作为一种新型的治理模式,是以拥有先进算法和强大计算能力的人工智能技术平台为支撑,通过对大数据的提取和分析,由人工智能技术平台来自主完成特定治理任务的治理模式[21]。其中,数据是智能治理的依据,算法是智能治理的核心,算法权力是智能治理的支撑。算法权力是一种技术形态的权力,算法权力如何行使及其引发的后果如何,取决于设计算法和实际掌握算法的主体。在政府自主研发和保障智能政务平台算法安全的前提下,作为技术的算法本身并不会对政府权力构成冲击,反而会对政府治理体系的完善和治理能力的提升起到很大的推动作用。目前,处于复杂社会中的现代政府,面临的治理任务日渐增多,治理难度不断增大,治理风险高度集聚,必须要借助于拥有深度学习算法的人工智能等技术手段来实现政府治理成本降低和政府治理能力提升的目标。因此,政府需要在保障政府权力运行安全的前提下,积极发挥算法在政府治理中的作用,推动算法权力与政府权力从博弈走向融合,推动政府治理从传统治理范式向智能治理范式的转变。

第二,注重技术理性和价值理性的平衡,确立政府主导和算法辅助的政府治理格局。智能治理作为一种新型的治理形态,已经在很多地方政府的治理实践中初露端倪,智能治理时代的到来可能就在不久的未来。政府借助于先进的智能技术平台可以大大地减轻治理的负担,提高治理的精准性,实现精细化治理的目标。但是,伴随具有深度学习算法的人工智能技术平台在政府治理中应用场景的不断拓展,政府治理对于人工智能技术的依赖性越来越大,政府的工作人员逐渐丧失了在政府治理中的主动性,治理的主体在人工智能算法面前逐渐变成了听命于智能机器下达指令的执行者。对此,我们需要进行深刻的反思。政府治理面临的问题不仅繁杂,而且充满了不同主体之间价值的分歧和利益的分化,既需要先进的算法等技术手段的驱动,但更需要价值理性的指引,充分发挥政府工作人员在政府治理中的主动性和积极性。由于隐藏在算法权力的技术表象之下的是算法设计者和算法拥有者的特定的价值取向和利益诉求,将政府治理任务完全交由人工智能算法来完成不仅不现实,可能还会带来巨大的价值分歧和利益冲突。而且,“在实践过程中,技术治理存在着与科学技术有关的社会风险”[33]。因此,在可能会出现的智能治理时代,政府要充分发挥在智能治理中的主导权,拥有先进算法的智能机器只能是辅助政府及其工作人员进行有效治理的手段。同时,在注重技术理性的同时,也要做好价值理性的培育,做到技术理性和价值理性的平衡,确立政府主导和算法辅助的政府治理格局。

5 结语

国家治理技术的变革和创新,是国家治理能力不断提升和治理绩效持续改进的强大动力。算法时代的到来,推动着算法技术在国家治理中应用场景的不断拓展和应用程度的不断加深,为国家治理难度和治理成本的降低以及国家治理能力和治理水平的提升带来了难得的契机。同时,伴随算法技术在国家治理中嵌入程度的不断加深,政府权力运行的技术化趋势和治理技术运行的权力化特征相互强化,算法技术的权力特性开始凸显。作为一种新型的权力形态,算法权力是一把双刃剑。算法权力的出现,使得政府权力的运行更加透明,政府运行流程也更加优化,为社会提供了一个有效规制国家权力运行过程和防止国家公职人员滥用权力的技术路径,推动着国家与社会关系发生着积极的变化。但是,我们也要清醒地看到,算法权力的背后潜藏着控制算法设计目的和主导算法运行过程的资本的影子。伴随国家治理对算法技术依赖的日渐加深,拥有数据和算法技术优势的资本对国家和社会的影响力和控制力不断增强,推动着算法时代的资本与国家、资本与社会的关系发生着深刻地变革。面对日渐强势的由资本主导的算法权力,各主权国家在积极推动利用算法技术为国家治理的能力提升和绩效改进服务的同时,也要注意设计好权力的算法,从法律、技术、伦理等层面强化对算法权力及其背后的资本的规制,以确保算法嵌入下的国家治理秩序的稳定和全球治理格局的有序。