国家治理视野下的算法治理模式探析

王志勇，吕桐弢

（1.广西师范大学法学院，广西桂林 541006；2.西安交通大学法学院，陕西西安 710000）

目前，关于算法治理的问题，大家倾向于留给算法和人工智能系统。算法治理主要强调的是算法模型这一层面的治理，是将整个算法模型精准地应用落地，以避免产生偏见，危害社会各层次间的相互关系。通常来看，算法基于数据产生模型，具有一定的用户信息，甚至反映一定的意识形态。在机器学习中学得的模型适用于新样本的能力，称为“泛化能力”（generalization），具有强泛化能力的模型能很好的适用于整个样本空间，反映整个样本空间的特性，以此提高数据分析和数据预测的准确性［1］。基于机器学习的算法因数据的多元性和复杂性，不可避免地具有了“黑箱”（black box）的特征，机器无法回溯作出决定的具体机制。因此，国家治理视野之下，对算法治理的核心问题在于如何实现善治，即引导其健康发展。

1 国家治理视野下的算法治理的难点

宏观看来，不同于美国的央地关系和市场监管体制，也不同于欧洲分散的数据市场，我国的算法治理面对着与欧美不完全相同的处境，在治理模式上同样不能简单照搬或者全盘否决。

首先，认定标准的缺位导致公众难以有效的参与。算法、数据以及最终所形成的算法模型往往是一家企业的核心竞争力，部分可能涉及商业秘密。然而，在我国算法是否构成商业秘密尚未有明确的法律界定或相关的司法解释。我国当前对于侵犯商业秘密行为的认定标准主要依据现行《反不正当竞争法》第九条中的四项规定，总结来看分别是：秘密性、商业价值性、保密管理性。如果依照上述认定标准，那么任何算法、数据以及数据模型都大概率构成一个企业的商业秘密。如果一旦认定算法可能涉及商业秘密，依照《网络安全法》第四十五条规定：依法负有网络安全监督管理职责的部门及其工作人员，必须对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。同时，根据《电子商务法》第二十五条规定：有关主管部门应当采取必要措施保护电子商务经营者提供的数据信息的安全，并对其中的个人信息、隐私和商业秘密严格保守，不得泄露、出售或者非法向他人提供。通过以上两部法律的规定都会对算法治理的具体落实产生阻力。显然，认定标准的缺位导致现行法律规定在一定程度上将商业秘密变成了算法的保护伞［2］，公众将难以对算法进行实质性的监督。缺乏了公众的有效参与，算法治理的民主合法性就如同无本之木，政策的精准性也难以保证。

其次，算法极强的专业性导致政府在治理环节中难以起到引导作用。通常来看，政府治理是国家职权的运行一种形式，也是国家治理的具体实施和行政实现［3］。人工智能时代，公权力在横向维度正逐步被分散，在某些领域即便是公权力也难以改变技术性规则。缺乏专业性的政府职能部门亦是对在技术上复杂的算法难以规模化的审查和治理，在一定程度上弱化了政府在纠正市场失灵方面的作用。例如亚马逊的“A9 算法”通过数据分析并最终执行买家最大化收益（revenue per customer），以此影响着卖家的产品在亚马逊搜索结果中的排名。2019 年，伴随着对A9 算法公平性的质疑声中，日本政府试图要求亚马逊将A9 算法透明化。但考虑到不合理的公开方式可能会导致部分的不良商家利用A9 算法漏洞，调整策略，提升产品排名从而侵害消费者利益，这一决策至今悬而未决。

最后，各大互联网平台没有形成良好的行业自律。互联网模式下，站在食物链顶端的超级平台已经成为游戏规则的制定者［4］。如中国科学院曾毅［5］担忧，“虽然人工智能技术发展迅速，但目前其主要贡献于有明显商业利益的领域，如健康、产业创新等，而对商业利益相对不明显的议题，其关注度明显不足。”诸如阿里、腾讯、字节跳动、美团这样的国内超级互联网平台正逐步蚕食属于公权力领域的法律制定与适用权，将行业规范潜移默化地上升为法律规范，一定程度上出现了兼具公共性特征和私主体的特征的特性［6］。对于此类主体，应当对其有一定的公共属性要求，至少应对应地承担更多的社会应尽责任。例如有学者指出，对于算法的规制和治理可以提前到算法设计的阶段，在算法设计当中融入善的因素，使算法符合善的要求［7］。但算法中的程序几乎是算法控制者单方设定的，诸如此类的想法要得以落地实现需依靠算法设计者及其所在的互联网平台。此外，互联网平台掌握着大量用户的个人数据，以此形成的算法模型歧视和相关的数据保护同样需要互联网平台承担责任才能有效治理。现在，部分大型互联网平台没有形成良好的行业自律，非但没有承担到应尽的社会责任，反而通过算法黑箱和各种“一揽子”的用户协议大幅度降低平台的自身责任。

2 算法治理的模式建构

通过对当前我国算法治理的难点分析，不难发现算法并非一种相对孤立的规制对象。当前，对算法进行治理的方式主要集中在算法公开、个人数据赋权和反算法歧视上，事实上，机械地采用任一方式对其进行规制并不符合算法治理的原理［8］。针对算法的特性及规律，已有研究认识到基于传统“命令—控制”型监管模式的不适用。当前缺少统一的理论框架以指导算法治理［9］。因此，在算法治理的模式建构上需要消解现行治理模式的负面影响，走出路径依赖，从而符合国家治理的整体框架。

算法治理要符合现行国家治理框架。通常来看，国家治理主要是要处理好政府、市场和社会三方面的互动，将三者在资源配置中的作用相结合，以此推进治理方式的创新［10］。同时，政府、市场与社会多方参与、互动治理也是正当程序的必然要求，在算法的“黑箱”特性之下，基数大且分散的算法相对方容易丢失话语权，单一治理主体难以对其进行有效的干预。同时，算法作为一种动态且嵌入社会的人机交互决策，依据所适用的场景不同，算法所带来的社会现象亦会产生变化。正是因为算法技术的动态性和不确定性，在一定程度上造成了当下算法治理的理论与实践相脱节。为了让算法和人工智能高速且健康地发展，针对算法技术的动态性和不确定性，实务界亟待一套更为灵活且具有稳定性的算法治理模式。

2.1 算法治理的理论重构

在利用算法治理的政府、市场和社会三方面中，市场掌握着较强的话语权，平台能够将符合市场需求的算法设计出来，并由此制定与其利益相契合的行业的规制，乃至上升为法律制度。这虽然充分发挥了市场在资源配置中的决定性作用，但算法极强的专业性极可能导致算法在政府治理和社会治理层面很难有强有力的支撑点，市场成为牵引算法技术发展的唯一有效动力。历史的经验表明，让市场去决定资源的配置，这种模式效率最高，但公平性难以得到保障。过度市场化过于追求效率和利润增长，容易让算法的发展脱离法治的轨道，进而放弃社会效益，突破道德底线。

通常而言，打通算法治理层面市场、政府和社会三者间的阻隔，需要提升科研组织在算法治理环节之中的重要性。科研治理作为治理的重要内容，是以科学研究作为治理的对象,探讨如何通过有效治理，促进科研创新，使作为科技知识产品的科技成果更好地服务于人类社会［11］。通常看来，科研组织在治理之中的功能相当多样化，但集中在提供政策建议、进行科学分析、参与政策和决策过程，并非直接参与治理［12］。但伴随着应用科学在国家治理体系之中扮演的角色愈发重要，尤其是面对算法这一类技术性很强的治理对象，科研组织的需要在政府、市场和社会三者之间起到至少两个层面的作用。一方面科研有溢出带动性很强的头雁效应，能够引领算法和人工智能技术的健康发展。另一方面，科研组织能够在市场化中保证相对中立客观，在不偏袒市场的情况下协助政府和社会对算法进行治理。此外，让科研组织成为算法治理环节中的一部分，也能加强科研与实际需要之间的联系，为科技成果转化提供现实保障和动力支持，设计出合法且更符合市场和社会需要的算法。

事实上，算法在特定环境下的应用结果并不完全取决于算法设计者，在很大程度上也是市场的选择。例如，外卖骑手被算法催促着在更短的时间内完成订单的送达，正是市场对于缩短外卖送抵时间的需要所推动的，算法没有自己的好恶，只是提高效率的工具。在算法治理之中，市场依然应当在资源配置领域起到决定作用。一方面，市场扎根在现实的社会之中，算法技术的发展需要资本的注入，算法技术真正造福人类社会，同样需要走向市场。市场能最大程度地做到合理地配置有限的资源，敏锐地把握经济结构的转型和发展方式的转变，通过利益关系的调整，让市场主体在产业链的不同环节想方设法转换结构，通过推进人工智能领域的产业链升级来实现算法治理经济效益和社会效益的有机统一。另一方面，中国经济市场自重建以来，作为市场的主体，各大企业长期没有建立起同社会所协调的承担责任的方式。在算法治理之中，市场的主体，是各大互联网平台需要建立企业与社会的协调、互动关系，担负起必要的社会责任，化解一定的算法治理危机［13］。

同时，算法治理需要在政府通过构建科学的理论体系、制度体系和政策体系来发挥政策在算法治理之中的引导功能。对于算法缺陷所导致的社会问题不能简单地采取叫停、整治和处罚等临时性措施，应更多地通过产业结构和治理布局的调整来完善算法的法律监管和道德约束机制。此外，政府推进职能转变的同时，要合理地强化对于算法的规制和监管职能。算法所涉及的技术、理论纷繁复杂，由数据通过训练产生模型的过程之中，每个环节都无法脱离人类参与而自主进行，可以说，算法的每个环节无一不存在着伦理风险。面对算法治理，我们需要政府合理地强化监管，并通过监管来发现算法治理形势的发展变化和需求，进而提出更具指导性的意见和方案。

当然，社会治理是算法治理的基石。美国乔治敦大学教授查尔斯·库普钱（Charles A.Kupchan）［14］认为，目前西方世界出现了极为严重治理危机，其中一大原因就是社会公众情绪低落并且分裂严重，无法形成有效的公众参与、社会竞争以及制度制衡。进入到智慧互联的时代，“信息茧房”裹挟社会中的个体，使其失去自主性，从而间接地增加着社会治理的难度。在大量被曝光的“大数据杀熟”和“算法歧视”现象之下，算法治理问题目前已经引起了社会公众的广泛关注。根据《2018 中国大数据“杀熟”网民态度行为调查报告》，51.3%的受访者表示遇到过大数据“杀熟”的情况，59.1%的受访者希望互联网企业的价格歧视行为能得到法律的进一步规范［15］。此类数据表明，算法治理需要在社会层面，鼓励和引导公众积极、有序地参与到治理之中，实现多元化的社会共治。

2.2 算法治理的雁阵模型

“雁阵模型”是兼具灵活且稳定的一种形态。依据雁阵模型而诞生的雁行形态论 “（flying -geese paradigm）最早由日本学者赤松要(Kaname Akamatsu）所提出，是一种产业区域转移的理论，后被用于解释和理解东亚经济的发展模式。这一理论经过不断的完善，不但保存了各版块间比较优势的相对变化，互相转移的本意，更是很好的解释了比较优势动态变化的相关性以及相互继起的关键［16］。

雁阵模型对于算法治理有着较强的借鉴意义，是算法治理模式的一种可能性。应当意识到，对算法进行治理不是一方之力就能单独完成实现的，很大程度上需要科研、市场、政府和社会的通力合作。而科研、政府、市场和社会的协同与互动也将会是算法治理的核心问题。在算法治理的四个子系统之中，科研确保了算法技术的不断更新迭代，在整个治理环节之中保证了算法技术的升级与活力，是推动新一代人工智能及算法健康发展的最为关键的一环，具有雁阵模型之中头雁的溢出带动性作用。

然而，一个成熟的雁阵模型仅是具备头雁是远远不够的，算法治理同样需要市场负责承接科研的成果转化。市场能够最大程度地配置资源，在经济利益的驱动下，确保算法发展走向高回报的产业和领域之中。从这一视角看来，市场位于算法治理雁阵模型之中的雁身部分，雁身处于雁阵的中部位置，对整个算法治理起到承前启后的作用。不仅要将头部科研的成果进行市场化的转化，而且也要担起雁阵的主要结构，为雁尾提供更强的带动气流，减少阻力。

科学研究的效能性，决定其在雁阵模型中的重要地位性。一方面，以科学性的研究对算法进行科学、全面的监督和评估，以保证其在实际应用中的合理性和有效性。同时，也可以通过研究算法的内部机制，分析其对不同群体和个体的影响，评估算法的公平性和潜在风险，进而发现和纠正算法中的偏见、歧视等问题，提高算法的质量和公正性。另一方面，通过对算法的社会影响评估的科学性研究，了解算法应用对社会、经济和环境等方面的潜在影响。通过评估算法应用的社会效果，发现和解决可能带来的问题，确保算法对应用于国家治理的贡献最大化，并尽量减少负面影响。

相较头雁和雁身，雁尾虽然不具备带动整个雁阵飞行的能力，但是它能够起到稳定雁阵的效果，保障雁阵飞行的可持续性。这一突出特点则偏像于政府和社会在算法治理之中的作用。二者共同成为算法治理雁阵的兜底部分，平衡雁阵并对雁阵的整体起到稳定的作用。

雁阵模型是一种组织形式，即一群个体通过协作和合作来实现共同的目标。使得算法治理的科研、市场、政府和社会密切联系在一起，形成一个高效且具有稳定性的整体，如图1 所示。其中，市场在算法治理中的角色主要是推动市场竞争，科研在算法治理中的角色主要是为算法治理提供技术支持和科学方法，政府在算法治理中的角色主要是规范和监督算法的使用和实施，社会在算法治理中的角色主要是推动算法治理的公正和透明。当这四方面任一方出现了一定程度的治理危机时，可以通过另外三方的侧面修正对整个算法治理进行校正，例如算法的科研部分走入歧途时，不仅能通过政府来进行职能监管，同样可以通过市场化配置和社会公众监督来引导更健康的算法科研。

图1 算法治理的雁阵模型

雁阵模型在具体的实施上，可分为五大层次，即一是，社会导向的顶层设计层，该层是整个模型的最高层，主要负责设定整体的算法治理目标和政策框架。二是，社会发展的标准和法规层，这一层负责制定算法治理的标准和法规，以确保算法的合规性和道德性。标准和法规可以包括数据隐私保护、公平性、透明度和责任追究等方面。三是，科学研究的技术规范与算法开发层，这一层以立足科学研究的科学性，通过技术性规范和具体的开发实现治理的现代性。其中，技术规范层，主要关注技术规范和标准，确保算法的可解释性和可验证性，包括算法验证、模型解释、数据可追溯性等技术要求；算法开发层，涉及算法的开发和训练过程，包括数据收集、特征工程、模型选择、训练和评估等步骤，这要求算法开发人员要遵循社会标准、法规和技术的有效衔接。四是，社会实践的监控与评估层，这一层负责对算法进行持续的监控和评估，包括实时数据监控、模型性能评估、用户反馈等，监控与评估的结果可以用于改进算法和修正违规行为。五是，实践检验的权益保护层，这一层以实践的具体检验性来有效的检验算法治理的科学性，进而确保各权益得到保护，使得国家内部治理有效、决策科学、运行公正等。雁阵模型以国家治理为根本，以市场为导向，以科研为基础，以社会为指引，为算法治理的具体运行提供了方向性，使各层次间分工密切，相互嵌入，高效运行，如图2 所示。

图2 雁阵模型层次运行

3 雁阵模型下的算法治理体系创新

伴随着数字转型进程的深入，算法逐渐渗透在人类生活的各个领域，算法技术健康发展的具体表现也呈现出多维度的特性，管理者和社会公众对算法治理的期望目标总是在发生着动态的变化。简言之，算法治理并不是一味地简单追求和促成技术迭代和更新。例如在算法技术的具体应用时，用户期望它能够更合理地市场化，以便于将深奥的算法接地气地改善我们的日常生活。在算法可能冲击人类伦理道德时，社会公众期望能有足够的监管防止算法技术的盲目扩张，消解算法对人类伦理的破坏，使其退守回人类道德底线之内。

多维度的动态需求意味着传统的固定模式与算法治理的不相兼容，事实上，传统的固定模式在面对高速发展的科学技术性很强的事物治理上存在着极为显著的短板，对于某一重大技术迭代的治理往往具有一定的滞后性。例如，移动通信设备智能化所带来的电子商务产业的蓬勃发展，在相当长的一段时间是处于治理乏力甚至空白的阶段。而这一短板在算法治理之上同样被放大暴露了出来，根据OpenAI 在2020 年的分析报告显示，自2012 年以来，要训练一个人工智能模型在基准测试ImageNet 图像分类任务中达到同等的分类效果，所需的算力每16个月就会减少1/2，算法演进速度远超摩尔定律的速度［17-18］。这意味着人工智能算法效率呈指数级倍增，迭代速度将不断加快，带来新的监管挑战，局限于固定模式的治理方式将难以完全适应。

国家治理需要坚持顶层设计与摸着石头过河相结合，推进治理制度创新［19］。国家治理视野下的算法治理同样需要在制度上根据实际需求，结合客观情况来进行一定的制度创新，推进算法治理的可持续运行性，见图3［20］。阵模型下的算法治理体系创新，在市场方面，使不同的算法模型能够相互配合和交互，促进算法模型的技术进步和创新。在科研方面，推动算法模型的不断创新和改进，以提高模型的性能和效果。在政府作用方面，扮演着监管和规范的角色，制定相关法律法规和政策，确保算法模型的合规性和公平性，推动公共领域中的算法透明度、公正性和可解释性。在社会参方面，通过参与公众讨论、舆论监督、投诉机制等方式，对算法模型的决策进行监督和反馈。此外，社会还通过开展算法教育和提升算法素养，增强公众对算法模型的理解和参与能力，以更好地参与到算法治理中。

图3 多维的算法治理创新

这些创新可以促进算法治理的多元化和协同发展，平衡不同利益方的需求，提高算法模型的质量和社会效益。这一创新使治理理念不再局限于固定的模式，而是以效率、效能、公正、公平、回应性和责任性等为导向和选择准则［21］。大雁飞行的过程中，雁阵一直处于变动不居的形态。头雁消耗的体力庞大，会在合适的时间与后面的大雁交换位置，从而有效的提升了整个雁群的飞行效率和续航能力，雁阵模型下的算法治理体系需要从灵活的雁阵之中汲取灵感。对算法进行治理同样需要结合实际、动态演化，在结构上形成相应的变化以此应对各种多变的需求。质言之，在保证治理模式稳定的前提下，算法治理的雁阵模型并非一成不变的。例如，外卖App 的算法对骑手的剥削或许可以通过算法自我迭代使得算法设计在数理逻辑上做到精确和完美，但缺乏人性和社会环境的综合考虑，从“真空”环境中诞生的算法本身就带有一定的机械性［22］。对诸如此类的算法治理危机，仅依靠算法的迭代和更新难以有效的化解问题，此时再由科研领衔算法治理就不再那么合适了，应当依据实际需要在结构上形成相应的重新配置，从科研带动为主转向政府治理或者社会治理为主，以此消解算法技术在融入社会后的机械性。

结构上的灵活配置使得雁阵模型下的算法治理摆脱了传统算法治理模式“头疼医头脚疼医脚”的割裂感，促进了算法治理板块间的交融与互补。与此同时，在这一梯队和链条中，一个环节出现故障也会使整个增长梯队受到影响，这也在侧面提醒我们时刻注意算法治理的各方面均衡受力，形成科研、政府、市场和社会四方面的良性互动、协调协同，让相关制度成熟定型，组成系统、完备的制度体系。

4 结论

作为一种融入社会的自动化决策方式，算法给人类社会带来的风险不亚于其所带来的便捷。在舆论上，伴随着“滴滴出行”App 被依法进行网络安全审查，数据和算法的治理再次被推上风口浪尖，并且迅速上升到国家安全层面。不难看出，当前我国算法治理的各个主体之间并没有形成应有的合力，甚至在一些基本问题上没有达成共识。技术发展带来广阔的市场前景，但也必然会与之带来新的治理挑战。

制度化与法律化作为社会风险防控的主要方式，应当积极探索符合实际需要的算法治理制度。形成合理的算法治理模式，真正让国家治理和相关的配套法律为人工智能和算法技术的健康发展保驾护航。