治理的算法和算法的治理＊

陈 鹏

提 要： 大数据的出现和人工智能深度学习算法的重大突破，推动着人工智能在国家治理中应用场景的不断拓展和应用程度的日渐加深，国家治理形态发生着深刻的变革，人类正逐步进入到以算法为核心的智能治理时代。算法在国家治理中的应用，有利于降低国家治理成本、提升国家治理能力和改善国家治理绩效。同时，由于算法自身的不完备性，算法在运行过程中也不同程度地存在算法黑箱、算法歧视、算法独裁、算法战争的隐忧，人工智能可能取代人类成为国家和全球治理的主体。面对算法在国家治理中的应用所产生的机遇和催生的风险，我们在积极推动算法技术发展以不断推进国家治理现代化进程的同时，也要加大对算法进行治理的力度。明确算法作为治理手段而非治理主体的定位、增强算法的可解释性和运行过程的透明性、设计算法伦理并将其嵌入算法设计和运行过程、构建全球算法治理机制是智能治理时代有效规制算法的基本进路。

大数据的出现、深度学习算法的重大突破和云计算技术的日渐成熟，使得人类的生产方式、生活方式和管理方式发生着深刻的变革，人类正步入到人工智能时代。人工智能技术的出现及其在国家治理中应用场景的不断拓展和应用程度的不断加深，推动着人类社会交往方式和现代国家治理格局发生着深刻的变革，国家治理正逐步向智能治理形态转变。作为一种新型的治理形态，智能治理“是以拥有先进算法和强大计算能力的智能技术平台为支撑，通过对大数据的提取和分析，来自主完成特定治理任务的治理模式。其中，数据是智能治理的依据，算法是智能治理的核心，算力是智能治理的支撑”①陈鹏：《智能治理时代的政府：风险防范和能力提升》，《宁夏社会科学》，2019年第1期。。算法作为智能治理的核心，在现代国家治理中应用场景不断拓展的同时，其应用深度也日渐加深。算法在现代国家治理中的应用，有利于降低国家治理的成本、提高国家治理的精准性和改善国家治理的绩效。同时，由于算法在设计、研发和运行过程中存在不可解释性、缺乏透明性问题和核心算法被少数发达国家和少数企业掌握等问题，使得算法在应用过程中存在算法黑箱、算法歧视、算法独裁、算法战争等隐忧，人工智能存在取代人类成为国家治理主体的可能。

目前，学术界对于算法的研究主要集中在技术和应用两个层面。在技术层面的研究上，理工科的学者主要侧重于对算法的内涵、特征和技术发展进行研究。如宋杰等人对MapReduce大数据处理平台与算法技术的研究历程进行了论述①宋杰、孙宗哲、毛克明等：《MapReduce大数据处理平台与算法研究进展》，《软件学报》，2017年第3期。。在应用层面的研究上，哲学和人文社科类的学者已经开始从某一个方面对算法的应用及其产生的风险进行论述。例如，刘培等人对算法的伦理问题及其解决进路进行了探讨②刘培、池忠军：《算法的伦理问题及其解决进路》，《东北大学学报》，2019年第2期。，张凌寒从法律层面对算法的规制进行了研究③张凌寒：《算法规制的迭代与革新》，《法学论坛》，2019年第2期。，贾开从公共政策层面对算法技术及其应用进行了论述④贾开：《人工智能与算法治理的研究》，《中国行政管理》，2019年第1期。。从现有的理论研究成果来看，既有研究主要侧重于算法的技术或者应用研究的某一方面，缺乏对算法在现代国家治理应用中产生的成效、存在的隐忧和应采取的算法治理措施的系统论述。在智能治理时代，我们需要在算法技术的发展应用与风险防范之间寻求有效的平衡，在推动算法在国家治理中应用场景持续拓展和应用程度不断加深的同时，人类也需要构建起有效的算法治理机制以应对算法应用可能带来的风险甚至是危机，确保国家治理秩序的稳定和全球治理秩序的有序。

一、国家治理中的算法

算法是人工智能的基石之一，是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法，是计算机科学的基础”⑤Robert Sedgewick、Kevin Wayne：《算法》（第四版），谢路云译，北京：人民邮电出版社，2012年版，第6页。。20世纪50年代初“图灵测试”的提出，标志着人工智能技术开始出现，人类通过设计特定的算法来驱动人工智能机器完成特定的行为和任务的愿景正逐渐变为现实。但是，由于这一时期的人工智能算法处于监督学习阶段，人工智能机器只能依据人类设计的程序和指令来完成特定的行为和任务，尚不具备自主学习并生成新的程序和指令的能力，这也在很大程度上制约了人工智能技术的发展。进入到21世纪之后，伴随具有自主学习能力的人工智能深度学习算法取得重大突破以及大数据时代的到来和云计算技术的日渐成熟，人工智能正由传统的弱人工智能向强人工智能时代转变，深度学习算法在现代国家治理中的应用场景不断拓展、应用程度不断加深，推动着国家治理成本的降低、国家治理能力的提升和国家治理绩效的改善。

（一）降低国家治理成本

伴随经济社会的快速发展，人类社会交往程度不断加深，现代国家治理面临的治理任务日渐增多，治理难度也随之不断增加，国家用于治理的人力、物力和财力的投入也随之不断增加。为了有效应对日渐繁重的治理任务，治理主体利用先进的治理技术手段来降低国家治理难度和成本成为现实的选择，技术治理成为现代国家治理的重要手段。在传统技术治理中，技术仅仅是治理主体利用来完成治理任务和维系治理秩序的工具，技术本身并不能自动实现治理任务完成和治理秩序维系的功能，人类依旧是国家治理的主体和中心。不同于一般的技术治理手段，深度学习算法的出现和快速发展，使得人工智能机器具有了自主学习的能力，进而改变了传统人类利用技术手段来实行治理的格局。通过不断地自我强化训练和学习，具备深度学习算法的人工智能机器可以根据具体的应用场景来生成相应的治理方案并自动执行治理方案，从而使得治理主体在很多原本需要投入巨大人力来保障的治理场域可以完全交给人工智能机器来完成，治理主体不仅实现了极大的解放，也在一定程度上降低了现代国家治理的成本。

（二）提升国家治理能力

国家治理是治理主体利用一定的治理手段来实现特定的治理任务和维系特定的治理秩序的活动和过程。面对日渐多元化的治理需求，不断提升国家治理的精准性是现代国家治理要解决的重大问题。由于国家用于治理的人力、物力和财力资源是有限的，特定的治理主体要想实现对治理对象的多元化、个性化的治理需求进行及时且有效的回应的目的，存在着治理资源、工作能力和工作时间等方面条件的约束。而大数据时代的到来和人工智能深度学习算法的突破，为国家治理精准度的提升提供了难得的契机。借助于海量的大数据，深度学习算法在国家治理中的应用可以在治理对象的治理需求识别、治理方案的设计和优化、治理方案的执行和监控等方面发挥非常重要的作用，大大提高国家治理的精准性。例如，在治理需求的精准识别上，传统的国家治理需要通过各种各样的正式或非正式的渠道来收集公民、企业和社会组织的治理需求，且公民、企业和社会组织在表达自身的治理需求和偏好时还不同程度地受到主客观条件的制约，使得治理主体获取的治理需求信息存在一定程度的瑕疵，进而影响到治理方案的设计和执行。而在生产、生活和行为的数据化成为常态的大数据时代，深度学习算法通过自动提取和分析海量的大数据，“对这些数据进行系统地加工并且正确地阐释，使得人们可以通过这些数据对个人或者群体及其行为进行深入的推断”①罗纳德·巴赫曼、吉多·肯珀等：《大数据时代下半场——数据治理、驱动与变现》，刘志则等译，北京：北京联合出版公司，2017年版，第9 页。，从而可以快速、准确地判断出公民、企业和社会组织真实的治理需求和偏好，然后有针对性地设计出个性化的治理方案，使得国家治理的精准性大大提高，治理对象的满意度也不断提升。

（三）改善国家治理绩效

现代社会是一个风险不断集聚的社会，国家治理面临的任务日渐繁重，治理难度也不断增大。同时，人民群众日益增长的美好生活需要，也对国家治理提出了更高的要求。面对风险不断集聚的社会环境和人民群众日渐提高的治理需求，加快国家治理体系和治理能力现代化的步伐，不断改善国家治理的绩效是现代国家治理的必然趋势和内在要求。国家治理绩效的改善，需要在国家治理体系的构建和完善、国家治理能力的提升和强化等方面着手。人工智能深度学习算法的出现及其在现代国家治理中的深度应用有利于不断丰富和完善现代国家治理体系，提升和强化国家治理能力。首先，在国家治理体系的构建和完善上，具有深度学习算法的人工智能系统正逐渐成为国家治理体系中的重要主体之一。例如，浙江省杭州市在城市交通治理中所使用的城市大脑系统，就是一款由阿里巴巴公司研发的拥有深度学习算法的人工智能系统，该系统通过对与其连接的交通信息系统提供的数据信息进行快速的处理和分析，可以适时地调整和优化杭州市各大路口的交通信号，使得城市交通通行状况得以大幅提升。其次，在国家治理能力的提升和强化方面，传统的国家主要依靠有限的决策信息和决策者的经验来制定和选择政策方案，政策问题界定的些许偏差往往会直接影响到整个政策议程的成败，受制于时间等因素的限制政策方案的试验难以有效执行。而深度学习算法在现代国家治理中的应用，可以在政策问题的准确界定、政策方案的科学设计和合理优化、模拟政策执行的过程与结果以有效规避政策执行风险等方面发挥重要的作用，使得国家治理能力得到切实有效的提升和强化，实现国家治理绩效改善的目标。

二、算法在国家治理中深度应用带来的隐忧

深度学习算法的出现和快速发展，不仅带来了人工智能技术从弱人工智能时代向强人工智能时代的跨越，推动了人工智能应用场景的不断拓展和应用程度的不断加深，更对现代国家治理格局和国家治理秩序产生了深刻的影响，“人类正在进入一切皆可计算的时代”①徐恪：《算法统治世界——智能经济的隐形秩序》，北京：清华大学出版社，2017年版，第323页。。先进的治理技术是一把双刃剑，“技术上最伟大的胜利与最大的灾难几乎并列”②［瑞士］汉斯·昆：《世界伦理构想》，周艺译，北京：生活·读书·新知三联书店，2002年版，第16页。。算法在国家治理中的深度应用，在降低国家治理成本、提高国家治理能力和改善国家治理绩效等方面呈现出积极成效的同时，也由于算法技术自身的不完备性③黄博文：《算法不完备性及其治理——以互联网金融消费者保护为中心》，《西南金融》，2018年第8期。，使得我们可能将会面对算法黑箱、算法歧视、算法独裁、算法战争等现实或潜在的隐忧，在未来的国家治理体系中人类也可能面临被人工智能取代而渐趋边缘化的风险。

（一）算法黑箱

算法属于计算机科学的概念范畴，作为人工智能的两大基石之一，人工智能算法是特定的设计者和研发者设计出来用于完成特定任务的程序和指令的集合。弱人工智能与强人工智能的划分标准，主要就取决于人工智能拥有的算法是否具备根据数据集自主生成作业指令的能力。人工智能技术在自20世纪50年代初出现之后的很长一段时期内没有太大的进展，主要原因在于人工智能的算法始终停留在监督学习算法阶段，人工智能机器不具备自主学习和强化训练并自主生成行动指令的能力。深度学习算法的出现，使得人工智能机器具备了根据数据集来自主学习和强化训练的能力，可以依据特定的应用场景的变化来自动生成作业指令。深度学习算法的出现，拓展了人工智能的应用场景，但也因为深度学习算法的设计和应用存在不可解释性，使得算法在应用过程中不同程度地存在算法黑箱的问题。算法黑箱的出现，主要源于算法设计的不可解释性和算法自主生成指令的不可解释性两个方面。

首先，由于算法设计和研发过程存在不可解释性，致使算法黑箱易于生成并引发诸多不确定性风险。“计算机系统隐含的偏见和利益取向多年前就已引起广泛关注。多项研究均显示，软件产品具有隐蔽性的特征，特定的权力结构、价值观和意识形态已经事先被嵌入其中。在软件的遮蔽下，‘有限性、许可、特权和障碍’等限制不易被人察觉。”④张淑玲：《破解黑箱：智媒时代的算法权力规制与透明实现机制》，《中国出版》，2018年第7期。人工智能算法从本质上来说是执行特定任务的程序和指令的集合，算法的设计者和研发在设计和研发算法时，不可避免地会将自己的偏好和意图植入到算法中去，使得算法在运行过程中能够按照设计者预设的价值和意图来不断地生成新的指令，以完成特定的治理目标。例如，在政治领域，“人工智能算法和大数据两者结合可形成一种强有力的政治武器，可用于影响甚至是操控选民的舆论，进而可能引发政治风险”①魏强、陆平：《人工智能算法面临伦理困境》，《互联网经济》，2018年第5期。。如果算法具有可解释性，其他主体可以很清晰地看出算法中植入的特定价值取向和利益企图，进而可以采取相应的措施来有效规制，打开算法黑箱。但是，由于现有的绝大部分人工智能深度学习算法的设计和研发过程是处于不公开的状态，没有开源的算法指令缺乏可解释性，从而导致算法在其技术外表之下潜藏着特定设计者和研发者的价值取向和利益企图，算法设计者和研发者可以很轻松地以技术的外衣来掩盖运作的黑箱，进而实现自己特定的利益企图。

其次，深度学习算法在具体的应用过程中自主生成的算法指令存在不可解释性，也会引发算法黑箱的生成。与人工智能的各种类型的监督学习算法不同，深度学习算法具备在脱离人类的情况下自主完成学习和强化训练的功能，进而形成根据具体的外部场景来自动生成新的算法指令来完成特定的行为或任务。如果说算法在设计和研发阶段的不可解释性所引发的算法黑箱问题，是因为算法的设计和研发环节的不透明导致的，通过引进必要的算法研发透明机制是可克服和避免的，那算法在具体的应用过程中产生的不可解释性和算法黑箱问题就是由人工智能系统自身生成的，是在脱离人类控制的状态下引发的，人类对其很难解释和控制，这也正是最值得人类担忧的算法黑箱类型。

（二）算法歧视

算法的设计和运行主要依据供算法训练的数据所表达的信息。数据是对既往发生的事件和行为等进行的客观记录，特定的数据会给特定的国家、地区、人群、种族、民族、职业等赋予特定的特征，这些特征就成为算法在应用过程中对这些国家、地区、人群、种族、民族、职业等进行自动识别的依据并作出相应的评判结果。因此，数据是算法进行治理的重要依据，而要确保人工智能机器自动生成的算法及其运行过程是公平公正的，那首要前提就是确保数据的收集是真实且全面的，虚假的数据和来源不全面的数据是很难保证算法在国家治理中应用的公平和公正的。同时，由于“算法及其决策程序是由它们的研发者塑造的，在细节上渗透着研发者的主观特质”②汝绪华：《算法政治:风险、发生逻辑与治理》，《厦门大学学报》(哲学社会科学版)，2018年第6期。，从而使得算法歧视和算法偏见也很难避免。具体来看，算法歧视的产生主要源于以下三个方面。

首先，算法设计者和研发者的偏好和意图会诱发算法歧视。算法是特定的设计者和研发者负责完成的，算法设计者和研发者的偏好和意图会被植入到算法指令中去，进而引发算法歧视的出现。例如，美国部分地区法院在利用犯罪风险评估算法COMPAS来进行犯罪风险的预测和评估时发现，该算法判定的黑人犯罪的概率是白人的两倍，从而造成对黑人的不公正的歧视。这一结果的出现，主要源于在美国既有的犯罪数据中黑人的犯罪率明显高于白人，如果用一个群体数据所揭示的特征来推定该群体中的成员必然具有该类特征，对于该个体来说肯定是不公正的。

其次，数据系统的歧视会导致算法歧视。“数据在本质上，是人类观察世界的表征形式”，由于“人类文化是存在偏见的，作为与人类社会同构的大数据，也必然包含着根深蒂固的偏见。而大数据算法仅仅是把这种歧视文化归纳出来而已”。③张玉宏、秦志光、肖乐：《大数据算法的歧视本质》，《自然辩证法研究》，2017年第5期。大数据时代的到来，改变了传统数据时代数据采集、存储和处理成本高、难度大的不足，海量的大数据使得人类在判断特定群体自身和与其相关联的特定行为和事件时，不再受制于因果关系的约束，接近全样本的大数据成为人类决策和行为的主要依据。“大数据掌控者们借助越来越智能化的算法分析和利用着我们的数据，开发着靠数据化的人类经验喂养的人工智能产品，在为我们的生活提供越来越多便利的同时影响着我们的选择和决策，并在此过程中积累起日益膨胀的财富、技术和人力资源。”①郑戈：《算法的法律与法律的算法》，《中国法律评论》，2018年第2期。但是，我们也要注意到大数据的数量虽然多但毕竟不是全样本，部分没有被采集到的数据可能是对人类的决策和行为有重大影响的关键数据。同时，供人工智能算法训练并自动生成新的算法指令的数据库的很多参数是受特定的主体控制的，这些控制数据的主体可以在数据的采集对象、采集范围、采集标准和采集时间等参数上依据特定的偏好和意图进行设置，进而影响算法运行的结果，体现特定主体意图和偏好的数据采集使得算法运行的结果存在针对特定国家、地区、种族、民族、群体和职业等歧视和偏见的可能。

最后，数据鸿沟导致的算法歧视。在大数据时代，个体已经成为被数据算法定义的数据人②马长山：《智能互联网时代的法律变革》，《法学研究》，2018年第4期。。但是，大数据时代的数据鸿沟问题也非常突出，还有少部分群体因为行为习惯的原因，其自身生产的数据非常有限，算法很难据此对其个体特征和行为偏好进行判定，也可能会导致算法歧视和算法偏见的出现。例如，金融系统在利用算法来评估客户的信用状况并据此来判定授予多少信贷额度时，如果该客户很少有金融交易行为产生，那么算法很有可能将该客户判定为信用等级偏低致使该客户失去贷款资格。据中国人民银行的数据显示，截止到2017年5月底，中国人民银行的征信系统共收录了9.26亿自然人的信息，还有约4.6亿自然人信息没有收录或者没有相应的交易信息。

（三）算法独裁

深度学习算法的技术突破，使得人工智能的应用场景大大拓展，智能时代的人类生产、生活、社会交往和国家治理都发生了深刻的变革，很多原本需要人类完成的繁重的劳动都可以交由人工智能机器来完成，人类离实现自由而全面发展的目标又更近了一步，人类的解放和理想社会的实现变得可期③高奇琦：《人工智能、人的解放与理想社会的实现》，《上海师范大学学报》（哲学社会科学版），2018年第1期。。但是，在人工智能时代，伴随算法应用场景的不断拓展和应用程度的不断加深，国家治理的主导权正逐步“从人手中转移到算法手中”④［美］克里斯托弗·斯坦纳：《算法帝国》，李筱莹译，北京：人民邮电出版社，2017年版，第197页。，算法的权力属性正逐渐呈现出来。“算法权力是一种人工智能技术平台的研发者和控制者在人工智能应用过程中，利用自身在数据处理和深度学习算法上的技术优势而生成的对政府、公民、社会组织等对象拥有的影响力和控制力。”⑤陈鹏：《算法的权力：应用与规制》，《浙江社会科学》，2019年第4期。因此，我们在为人工智能算法取得重大突破感到欣喜之余，也要正视掌握核心算法设计和研发技术的主体可能会利用算法来推行技术霸权甚至是实现算法独裁的可能。“算法权力从表象上看是一种技术权力，但其背后潜藏着控制算法设计和研发过程的资本的权力，而且在不远的将来，算法权力有可能会脱离人类的掌控并演化成人工智能对于人类的技术优势甚至是霸权。”⑥陈鹏：《算法的权力：应用与规制》，《浙江社会科学》，2019年第4期。

在人工智能时代，数据和算法在经济发展和国家治理的重要性日渐凸显，“掌握了数据就意味着掌握了资本和财富，掌握了算法就意味着掌握了话语权和规制权”⑦马长山：《智能互联网时代的法律变革》，《法学研究》，2018年第4期。。而从目前算法的设计和研发格局来看，主导算法特别是核心算法设计和研发的主体主要集中在少数发达国家的少数几家企业。相比之下，在国家治理中对深度学习算法智能平台利用较多和依赖较深的主权国家等主体，在算法的设计和研发上不仅缺乏主动的意识，也缺乏必要的投入，进而处于算法技术上的劣势。这些企业通过在人工智能算法及其相关技术的巨大投入，已经完成了人工智能底层模块的搭建工作，所有的人工智能应用系统和计算过程都需要依赖于这些底层模块。掌握了人工智能底层模块的企业，不仅建立起对公民、企业、社会组织和主权国家的技术优势，而且也很轻易地就能获取公民、企业、社会组织和主权国家在应用这些模块过程中产生的各种类型的数据，数据的优势和算法技术优势的叠加，更加催生了少数企业利用算法推行数据霸权和算法独裁的可能。

（四）算法战争

人工智能深度学习算法的重大突破，是科学技术发展历史上的重大突破。与其他类型的技术变革和技术创新主要是处在人类可以控制的状态下生成和发展不同，伴随人工智能深度学习算法的不断发展和日渐成熟，人类已经愈发难以控制这种技术在实践应用中的安全边界，算法战争便是算法在应用过程可能会引发的给传统安全和国家主权带来巨大冲击的隐忧之一。算法战争主要体现在算法使得很多不是武器的物理实体变成武器和算法成为发动战争的手段之一。

首先，算法对武器的内涵和外延进行了重新界定，许多原本不是武器的物理实体经过算法的驱动可能会成为攻击性的武器，战争的风险急剧增加。武器是战争双方进行较量并决定最后谁能取胜的重要因素，加强武器装备技术的研制是现代国家取得战争优势的重要保障。从冷兵器时代到热兵器时代再到现代的核武器时代，武器装备的性能和杀伤力虽不断增强，但是武器的类型并未发生多大的变革。可是，进入到人工智能时代之后，之前完全由人类来操作的武器开始变得智能化，这些“具有指挥高效化、打击精确化、操作自动化、行为智能化等特点的人工智能武器，可以‘有意识’地寻找、辨别需要打击的目标，它同时具有辨别自然语言的能力，是一种‘会思考’的武器系统”①郑戈：《算法的法律与法律的算法》，《中国法律评论》，2018年第2期。。同时，将普通的物理实体安装上带有深度学习算法的智能系统后，瞬间就可以将其变成攻击性的武器，使得战争发生的风险急剧增加。例如，汽车是交通工具，但是无人驾驶的汽车可以成为攻击对方的武器。

其次，算法会改变现有人类对战争内涵和外延的界定，算法战可能会成为继军事战、贸易战之外的一种战争形式。传统意义上的战争主要是指军事战，此后贸易战也逐渐成型。但是，人工智能时代的到来和深度学习算法的重大突破，使得技术战争正逐渐成为主权国家之间战争的重要类型之一。在不久的未来，“伴随着自主武器系统‘自主’性能的逐步提高，机器算法或将取代人本身而成为军事行动的实际决策者和执行者，从而开启‘致命决策的去人类化’进程，传统战争形态也或将由目前的‘人与人之间的相互伤害’模式演变为‘人机大战’或‘机器人之间的相互杀戮’”②董青岭：《新战争伦理:规范和约束致命性自主武器系统》，《国际观察》，2018年第4期。。而且，战争的双方也将由可能从传统的两个或多个主权国家或地区变成企业与主权国家。一方面，掌握核心算法技术优势的少数发达国家可以利用自身在算法和数据上的技术优势，对算法和数据上处于劣势的广大发展中国家发动技术战争，以实现特定的原本需要依靠发动军事战争或贸易战争才能获取的利益。另一方面，少数掌握核心算法技术优势的超级企业，可以利用自身在算法和数据上的技术优势发动对主权国家的技术战争，通过建构起资本对主权国家的技术优势来实现特定的利益意图。

（五）人工智能取代人类来主导国家治理

人工智能深度学习算法的重大突破和在国家治理中应用场景的不断拓展，在丰富现代国家治理体系的同时，更有效地降低了国家治理的成本和难度，有利于提高国家治理的精准性和改善国家治理的绩效。但同时，我们也要注意到，伴随深度学习算法在现代国家治理中应用程度的不断加深，人类对人工智能和深度学习算法的技术依赖正不断加深。一方面，面对日趋繁杂的治理任务，治理主体有依赖技术来提升治理效率和降低治理难度的内在需求，进而为技术在国家治理中的嵌入提供了强大的驱动力。另一方面，治理主体在责任承担上的“避责”心理，也驱动着技术在治理中应用范围的不断拓展和应用程度的不断加深。伴随人工智能时代的到来，算法在治理中应用不断加深，“智能治理会加剧‘动因漂移’现象，即将很多问题交给智能技术处理，出现问题的时候则可以将责任推给技术设备，此时责任问题变成了应该升级智能设备、程序和算法的问题”①刘永谋：《技术治理、反治理与再治理：以智能治理为例》，《云南社会科学》，2019年第2期。。

技术治理是国家治理的手段之一，人类对于技术手段的更新和技术治理的发展本无需担忧，但具备深度学习算法的人工智能在国家治理中的应用，不同于一般的治理技术手段的更新。在国家治理中的具备深度学习算法的人工智能，不仅仅是一种治理的技术和手段，它具有一定的自主意识且这种自主意识会伴随人工智能技术的不断发展而更趋成熟，人类对人工智能依赖的程度也随之不断加深，智能治理正逐渐成人类利用人工智能来治理变成人工智能来自主治理，智能治理时代的人类在国家治理体系中的地位面临被边缘化的可能，在不久的将来人工智能可能取代人类成为国家治理和全球治理的中心，而人类也将极有可能从原来的治理主体演变为治理的对象。

三、算法的治理

算法和数据是人工智能的两大基石，深度学习算法的重大突破和大数据时代的到来以及云计算技术的快速发展，使得人工智能算法在现代国家治理中应用程度不断深化，给国家治理体系的完善和治理能力的现代化带来了前所未有的机遇。但同时，由于控制算法研发和设计的资本凭借自身在算法和数据上的技术优势，会将自身特定的价值偏好和利益意图植入进算法，由此引发算法黑箱、算法歧视和算法独裁问题。此外，伴随算法自主决策能力和独立意识的不断增强，在不久的将来人类可能会逐渐失去对智能算法的控制进而引发算法战争的风险，人类在国家治理和全球治理体系中也面临被边缘化的可能。因此，以现实问题为导向的全球治理研究逐渐成为新趋势②薛澜、俞晗之：《迈向公共管理范式的全球治理——基于“问题—主体—机制”框架的分析》，《中国社会科学》，2015年第11期。。面对算法在国家治理中的深度应用所带来的机遇和可能会引发的隐忧，如何在推动算法技术不断发展和完善的同时加强对算法及其应用的规制，以实现技术发展与社会安全的平衡，是值得智能时代的人类深思的课题。而明确算法作为治理手段的定位、增强算法的可解释性和运行过程的透明性、在算法设计和运行全过程中嵌入算法伦理、明确算法应用的安全边界和构建全球算法治理机制等是实现对算法有效治理的基本进路。

（一）明确算法为技术手段而非治理主体的治理理念

科学技术是第一生产力，人类社会进步和发展的历史在一定程度上就是科学技术不断向前演进和发展的历史。治理技术手段的不断进步，是国家治理水平和治理能力提升的重要保障。深度学习算法等先进的技术治理手段在提升国家治理中的嵌入，在帮助降低国家治理难度、节约国家治理成本和改善国家治理绩效等方面的收效比较显著，但同时也易于使人类陷入技术依赖的困境。国家治理是技术治理与价值治理的有效结合，很多国家治理事务的处理涉及到多元治理主体和治理对象之间的价值取向的冲突和利益诉求的博弈，单纯依靠技术手段是不可能解决的，技术治理仅仅是价值治理的辅助，治理技术不能取代更不应该取代治理主体在国家治理中的主体地位。因此，伴随人工智能算法在现代国家治理中嵌入程度的不断加深，我们需要坚持工具理性和价值理性平衡的原则，明确人工智能算法是技术手段而非治理主体的定位，要清醒地认识到再先进再智能的算法只能是国家治理主体借助于降低治理难度和提升治理效率的工具而已，不能不加约束地任由其在国家治理中发挥作用，更不能产生对算法的技术依赖甚至是算法崇拜，将算法在国家治理中的应用范围和应用程度控制在人类可以掌控的范围之内。

（二）从法律层面强化算法的可解释性和透明性机制的构建

算法是一定的主体设计和研发出来用于完成特定任务或实现特定目标的程序和指令的集合。算法的运行就是依据特定的程序和指令来运作的过程，从技术角度来看算法本身是不会产生黑箱的。但由于算法的设计和研发过程是不公开的，算法语言大多处于不可解释的未开源状态，除了算法的设计者和研发者等特定主体，其他人是很难理解算法的设计和运行过程的，算法黑箱的问题也就难以有效破解。而且，伴随深度学习算法技术的日渐成熟，算法在应用过程中会不断地自主生成行动指令，算法的设计者和研发者对自主生成的算法指令也越来越难以解释，算法黑箱及由此引发的治理风险将随之不断增大。对此，需要出台相关的法律法规，对算法的设计和研发主体的设计和研发行为进行严格的规范和约束，要求相关研发主体在不涉及到核心商业机密的前提下尽可能公开算法设计的原理和目的，加大开源算法的研发比例，增强算法的可解释性，确保算法运行过程处于透明的可监控状态，最大限度地消除算法黑箱及其带来的不确定性治理风险，让“那些对结果抱有怀疑的人可以掀开‘引擎盖子’看个究竟”①［美］弗兰克·帕斯奎尔：《黑箱社会——控制金钱和信息的数据法则》，赵亚男译，北京：电子工业出版社，2015年版，第262页。。同时，为了有效应对人工智能算法最终脱离人类控制而诱发危及人类生存的风险，相关法律和法规需要明确人工智能算法需要加入人工智能自我终结机制，在危及到人类生存的风险产生时，人工智能会自行终结，以最大限度地保护全人类的安全。

（三）构建算法伦理并将其嵌入进算法设计和运行的全过程

从技术层面来看，作为程序指令集合的算法本身是不会有任何偏见和歧视的。但由于算法的设计和研发主体在设计和研发算法的过程中植入了特定的偏好和意图，致使绝大多数算法从诞生之日起就是存在特定的价值预设和利益倾向，应用这种算法在运行过程中所产生的判断和运行的结果必然是带有一定的针对特定地域、群体、种族、民族、职业的偏见和歧视的。而且，伴随深度学习算法在实际运行过程中不断自主生成新的算法指令，使得特定的算法偏见和算法歧视在应用实践中不断被强化。对此，必须要构建相对完备的算法伦理，将之嵌入到算法设计和算法运行的全过程中，以最大限度地避免算法偏见和算法歧视的产生。目前，美国和欧洲等国家和区域已经开始在算法伦理的编制上开始付诸行动并取得了一定的成果。例如，美国计算机协会于2017年1月发布了包含七个方面的算法伦理原则，分别是利益相关者责任、救济机制、算法使用机构责任、鼓励可解释算法研发、数据治理、算法审查要求、实时检查责任。相比之下，我国在算法伦理的构建和嵌入上还比较滞后。国务院在《新一代人工智能发展规划》中明确提出，要建立人工智能的伦理规范体系。为此，在算法应用的规制和治理上，我们在注重技术层面对算法的发展和规制进行有效平衡的同时，需要尽快成立国家层面的人工智能伦理委员会，出台相关的算法伦理标准规范，用于规范和约束算法的设计和运行过程，尽最大可能地消除算法偏见和算法歧视。

（四）构建全球算法治理机制来抑制算法独裁和算法战争的发生

伴随大数据和人工智能时代的到来，数据和算法的权力特性日渐凸显，算法技术对各主权国家之间的竞争态势和资本与国家之间关系格局的演变产生了深刻的影响。掌握数据和算法技术优势的少数发达国家对广大发展中国家的竞争优势更加明显，而“由于缺乏相应技术积累，发展中国家并没有充分有效的方式保护自己的数据安全，也没有足够的能力应对算法所带来的干涉。人工智能技术的进步将进一步凸显其在政治安全领域的脆弱性特征，传统的国家政治安全将面临严峻的考验”①封帅、鲁传颖：《人工智能时代的国家安全：风险与治理》，《信息安全与通信保密》，2018年第10期。。同时，拥有核心算法技术和数据存储处理优势的少数企业正逐步构建起对主权国家的权力优势，算法独裁和算法战争的风险正逐步临近。“针对人工智能技术的两大重要基础——大数据和算法，很难形成以国家为界的封闭式治理，其天然涉及到一系列跨境治理议题。”②俞晗之、王晗晔：《人工智能全球治理的现状：基于主体与实践的分析》，《电子政务》，2019年第3期。因此，面对算法在国家治理中应用场景的不断拓展及其可能出现的算法独裁和算法战争等隐忧，构建由主权国家、国际组织参与的全球算法治理机制非常必要。一方面，主权国家、国际组织要加大在算法研发、应用以及应对和防范算法独裁方面的技术合作力度，积极推动全球范围内的算法研发和运行透明机制的建立，将算法应用过程中可能出现的风险控制在人类可以预见并能有效应对的范围内。同时，各国应该本着为人类终极命运负责的原则，为算法的和平利用达成相应的国际协议，推动算法研发和算法应用等问题上的公正的国际秩序的建立。另一方面，推动能够为国际社会所接受的有关算法设计、研发和应用过程的法律规则、伦理准则和道德规范的制定，要以此来严格规范和约束资本在算法研发和使用上的行为空间，明确算法应用的边界，防止和抑制算法独裁现象的出现。