算法权力的形成与风险治理

许晓东 邝 岩

(华中科技大学 公共管理学院， 湖北 武汉 430074)

随着大数据、人工智能等技术的不断发展，智能算法得以广泛应用于社会生活的各个领域，在助力经济发展、保障公共安全、改善公共服务等方面发挥着愈发重要的作用。当前，算法已经成为社会运行的重要规则[1]，并逐渐演进成一种新的权力形态，在无形中影响着公众的认知框架和价值选择[2]。这种新的权力形态在推动社会进步的同时，也不可避免地引入了新的风险，“算法歧视”“算法霸权”“算法黑箱”等问题层出不穷，给公民权利以及公共利益的实现带来了不同程度的损害，其治理问题也引起了学者们越来越多的关注。现有关于算法治理的研究主要集中在以下几个方面：一是针对算法权力的运行规律思考权力的规制方式，相关的研究主要聚焦于算法权力的资本化、垄断化以及黑箱化[3][4]，并从行政、法律、伦理规范等方面提出了相应的规制方式[5][6]。二是以算法风险的特征表现为着眼点进行治理路径的选择，如针对隐私泄露的加剧[7]、个人主体性的丧失、传统决策模式的失效[8]、意识形态的偏离[9]等问题进行的治理路径构建。三是在具体的应用领域对算法治理问题进行分析，研究的内容涵盖了电子商务[10]、新闻传播[11]、社会治理[12]等多个方向。算法风险的产生源自算法权力的扩散，其治理也应更多的着眼于对算法权力形成及运转过程的准确把握。然而，“算法即权力”虽然已成为了学者们的一种共识，现有的研究也在算法权力运行规律、算法风险表现形式及治理路径探索等方面积累了丰富的成果，但关于算法权力形态的形成和发展逻辑、运转的基本要素分析等方面的研究尚显不足，本文将着重从这些方面进行探讨，并在此基础上寻求算法权力风险治理的有效路径。

一、算法技术的发展及影响力扩张

现代意义上的算法指的是一个定义清晰、计算机可执行的有限计算步骤或次序，是一种用系统的方法描述解决问题的策略机制[13]。早期的算法受限于计算机算力的不足，其应用更多的偏向于科学计算、工程设计、数据处理等数值应用领域。此后，随着计算机硬件的高速发展以及算力的快速提升，算法逐渐深入应用到了工业、商业、文化教育、社会服务等各个领域，已成为当前社会运行的重要规则。算法技术的快速发展也推动着其影响范围由私人领域向公共领域不断扩张，进而为算法权力形态的产生奠定了基础，而人工智能的发展以及网络平台的普及在这个过程中起到了重要的推动作用：一方面，人工智能的发展成熟使得算法产生了针对不同场景进行感知和决策的能力，进而在各类事务的处理过程中拥有了不同程度的权力；另一方面，网络平台的普及应用推动着算法影响力完成了向公共领域的扩张，部分公共事务的执行从公共管理部门转由平台运营机构通过智能算法系统来完成(如图1)。

(一)人工智能的发展与算法决策能力的产生

人工智能技术诞生于上世纪50年代，但受限于早期的理论缺陷以及计算机发展水平的不足，其在很长一段时期内都未得到广泛应用。进入新世纪以来，随着计算机算力的提升和支持向量机、深度学习等理论技术的发展成熟，人工智能迎来了爆发式的发展阶段，当前已应用于社会生活的各个领域。在人工智能广泛应用之前，传统的算法只是通过执行在给定条件下的给定动作来完成设计者明确的工作流程[14]，其本质是一种严格执行相关指令的自动化工具。而人工智能技术的发展使得算法可以基于大数据完成自我训练、自我学习的过程，并在此基础上形成了针对不同场景进行感知和决策的能力。这种感知与决策能力的出现使算法的运行逻辑由机械的执行转变为了动态的规划，也在实质上完成了整个工作系统中部分权力由人向算法的转移。同时，由于算法的自主决策行为不再需要人为的干预，其原本透明的执行过程随之变得难以监测，而算法在行使权力的过程中并不能承担相应的责任，这也打破了原有工作体系中的权力运行监督机制，形成了一种新的权力运转模式。在此模式下，算法运行不透明以及权责不匹配的状况都会带来安全性、公正性等方面的风险，且随着人工智能算法的应用逐渐深入，这些风险的影响也在不断的变大。

(二)网络平台的普及与算法影响范围的扩张

从早期的信息沟通和资源共享，到当前包含即时通信、社交媒体、网络购物等内容的多行业、多领域应用，互联网的发展从根本上改变了我国的社会结构和运行方式[15]。在这个过程中，各类互联网应用平台逐渐发展壮大，在集成公众线上社会活动的同时，也实现了线上与线下的有机结合，成为了网络时代不可或缺的基础设施[16]。作为以互联网、人工智能等技术为基础的数字化组织，互联网平台的运转离不开各类算法的支撑，其应用的普及也使得算法嵌入到了社会生活的各个领域，推动着算法完成了影响范围的迅速扩张。算法通过网络平台与社会生活的深入嵌套，使得网络平台背后的经营者获得了强大的支配力和影响力[17]，能够以算法为媒介对社会产生实质性的影响，完成以企业私权利行使公共管理职能的过程，这在客观上已经改变了传统的社会权力结构。这种改变不可避免地会给整个社会引入新的风险：一方面，人工智能发展所产生的算法决策权力，将随着算法应用范围的扩大而产生更加广泛的影响，其所带来的风险也会随之由单一的工作空间扩散至相关的公共领域；另一方面，商业平台在承担公共职能的同时，也会导致公共权力运转的混乱，公私权利混淆、权利滥用等风险都将成为不可忽视的问题。总体来看，网络平台的兴起推动着算法成为了一种社会运行规则，而由于规则制定主体的权力正当性、规则运行的透明性等问题，使得这种规则不能如传统法律法规、社会规范一般具有权威性和稳定性，从而形成了一种不完善的新型社会事务运转体系，并在此体系中产生了新的权力运转模式。

二、算法权力形态的产生及运转要素

算法权力源自其由单纯的计算工具向事务运行规则转变过程中所产生的潜在约束作用，且随着算法逻辑由生产领域向公共领域的蔓延，这种约束作用逐渐成为了福柯所描述的社会规训权力[18]。社会规训权力的运转往往需要具备三个条件：一是具有特定的权力空间，使得相应的规则能在其中稳定运行；二是具有相应的权力资源，可以支撑权力拥有者完成规则的制定并进行规训行为；三是可以造成活动上的影响，将规则内化于主体行为之中并成为常态化的权力。在此基础上，算法影响范围不断扩张所赋予其的公共性又进一步推动了当前算法权力形态产生，因而相应的公共空间、公共资源和公共行为便成为了算法规训权力实现的基础要素，具体到算法权力体系中即为平台、数据和用户交互。

(一)平台：算法权力运行的公共空间

算法规则的运转需要一个特定的空间范围，而这个空间也成为了算法权力的容器。就当前的算法权力形态而言，以算法作为规则实施载体的各类平台构成了算法权力的主要运行空间，具体包含了两种类型：一是互联网发展所产生的各类网络平台，如社交网络平台、电子商务平台等；二是运用算法改善其运行效率后的传统公共领域，如智能化公共交通系统、治安防控系统等。对于各类网络平台，算法权力来源于平台所拥有的用户以及技术优势，其掌控者一般为平台背后的科技公司。由于权力的掌控主体并非公共组织，算法权力在网络平台中的运转一般由商业利益所驱动，体现的是一种政府监管下的市场逻辑。对于传统的公共领域，算法权力来源于相关公共权力部门的赋予，权力运转的范围在算法引入之时已经确定，其掌控者为本领域事务的主管单位。由于权力的归属在算法应用前后并未发生变化，算法权力在传统领域中的运转由公共利益所驱动，虽然其运转方式变得更为智能化，但本质上仍是一种公共管理行为。

(二)数据：算法权力依赖的基础资源

权力的运作与知识的生产积累之间存在着紧密联系：知识作为权力干预和控制社会的基本手段有着规范化的功能，可以为权力在空间上的运作提供合法性，与权力存在着共谋共生的关系[19][20]。而数据作为信息时代重要的战略资源，在算法权力运转过程中是知识生产的基础原料，也成为了算法权力得以实现的基础要素。算法权力所依托的数据资源主要有如下几个来源：一是各级政府部门在依法履行职责过程中制作或者获取的各类数据资源[21]，此类数据一般完全由政府部门掌握，但在我国推进公共信息资源开放的政策背景下，已经在保证国家安全和公民隐私的前提下部分向社会开放[22]。二是外部机构在与政府合作进行公共管理事务的过程中所产生的数据，此类数据由于与政府项目和服务相关，往往也具有重要的公共价值，不能进行随意的公开使用。三是网络平台在运行过程中收集的用户数据，此类数据一般由平台背后的科技公司所掌握，产生于平台中进行的各类商业性业务，虽然表面上属于商业数据，但随着平台规模的扩张已具备了一定的公共属性。对于前两类数据，由于管理部门为政府等公共组织，其使用及监管较为严格，一般不会产生数据利用的风险。而对于第三类数据，其商业属性和公共属性的混淆会导致在使用过程中产生数据滥用的风险，需要相关领域的管理部门完善相应的监管机制。

(三)用户交互：算法权力影响的公共行为

智能算法利用技术和数据所产生的知识在平台空间中进行着社会规则的塑造，并通过用户交互过程完成对相关主体行为的引导。与传统的社会规范相比，这种引导的过程往往更加隐蔽，并且其驱动因素也更为复杂。首先，不同平台的算法权力掌握者有着不同的价值准则，政府等公共部门会以公共利益的实现为目的来规范公众的行为，而企业则会以自身商业利益的获取为主要依据来引导用户的行为。其次，平台中各类算法的执行过程往往是不透明的，导致公众只能在定义模糊的规则下进行相关活动，这在实质上形成了一种平台与用户地位不对等的情况。再次，深度学习等算法可以基于海量的数据来对用户进行画像，并在此基础上预测用户的偏好，进而基于平台方的利益需求设计策略来引导用户的行为，而这种行为可能会违背用户原本的意愿。总体来看，算法作为一种规训权力，在运转过程中对公众行为的影响是其权力实现的主要方式，而这个过程并非全部是以公众的利益为驱动且往往难以被察觉。算法权力在潜移默化中重塑了公众的行为模式，使得平台空间中的各类主体打上了算法规范的烙印[23]，在不同程度上失去了自身行为的自主权，这在一定程度上反映了算法权力运转所带来的不利影响。

三、算法权力风险的表现形式

规训权力的实施通常有两方面的意义：一是通过给人以惩罚和强制行为的联想和威慑，使其服从于权力拥有者的意志；二是通过教人以某种的知识体系，使其可以顺利融入相应的生产生活系统[24]。这种权力的运行有其自身的“意向性”，旨在实现对特定空间系统的有效支配[25]，而这种意向性决定了权力运转结果的善与恶。就算法权力形态而言，各类平台空间在成为人们日常交往场所的过程中，权力已经强制性地渗入到了人们的工作生活之中，若算法权力的行使不以公共利益为导向且未受有效监管，平台空间则可能成为规训、监控人们行为的牢笼。同时，算法权力可以通过一系列技术和策略的有效运作，使得权力运转在损害部分人群利益的同时又不引起其不适或反抗[26]，进而导致“算法歧视”“算法霸权”等风险的产生。算法权力风险的产生与权力的分配和行使密切相关，这与传统官僚制体系的问题具有一定的相似之处，信息传达不畅导致的政策效果不佳、权力分配运转混乱导致的权责不匹配、工作不透明导致的运转黑幕以及价值导向偏离导致的权力主体履职不力等问题，在算法权力形态中具体表现为政策执行失真、权力结构失序、过程监管失效和主体行为失范四种形式。

(一)政策执行失真

政策执行失真是指算法由于设计缺陷或运行故障，导致实际执行的效果背离了算法使用者的真实初衷，进而引发难以预估的不良后果，其产生的原因主要是部分决策和执行权力由人向算法的转移。与传统官僚制体系中政策执行失真的问题不同，智能算法虽然在任务的执行过程中具有一定的决策权力，但其本身并不具有相应的利益诉求，因此不存在对任务的主观性抵制、截留和替换等行为。网络平台所属的科技公司一般具有完整的算法设计、测试、部署及评估体系，其对于算法执行过程的控制相对成熟，而政府等公共组织在进行算法应用时往往采用合作建设的模式，其使用者和设计者有时并不相同，因此算法执行失真的问题在公权领域更为突出。具体来说，算法执行失真主要有三种情况：一是由算法运行过程中软硬件故障导致的业务中断，如在疫情防控健康码系统的使用过程中，由于服务器难以处理激增访问量所产生的健康码系统失效等问题。二是由于算法设计或执行未能准确反映业务需求所导致的执行效果偏差，如在早期的政府网上办事大厅建设过程中，办事流程不明晰、信息处理不及时等问题都制约了网上政务服务的效率，使其背离了提升服务效率的初衷。三是由于部分用户群体不具备使用信息化服务所需的知识及设备保障，导致公共事务算法化运行不能覆盖所有的目标群体，如当前日益普遍的网络化公共服务模式就造成了老年人群体难以适应的情况，已经成为了一个难以忽视的社会问题。

以当前疫情防控工作中健康码的应用为例，算法执行失真的几种情况在其中都有典型的表现。首先，由于软硬件故障导致的健康码崩溃问题时有发生，且此问题往往发生在疫情防控形势较为严峻的时期，其造成的不良影响也较为严重，例如2021年12月的西安健康码崩溃直接影响了集中核酸检测等工作的顺利推进。其次，健康码、行程码在应用场景等方面的设计不足都影响了疫情防控、居民出行的效率，例如健康码异地互认、健康码与行程码整合等问题。最后，健康码系统在使用初期未能覆盖老年人等弱势群体，导致老年人出行困难的问题屡见不鲜，产生了事实上的算法歧视问题，直至后续配套措施的实行才得到妥善解决。总体而言，算法执行失真的问题主要是由于相关技术不成熟、建设模式不规范等原因导致，因此随着技术水平以及建设模式的不断发展会逐渐得到改善。

(二)权力结构失序

权力结构失序是指随着算法在公共领域的普及应用，一些非公共组织在获取相关公共权力的同时并不能切实履行相应的公共职能，这些组织以自身商业利益为导向行使权力的过程，打破了原有公共权力运转体系的秩序。算法权力结构失序的根源是算法制度化所带来的公共事务管理职能转移以及权力运转模式改变，主要体现在以下三个方面：首先，作为基础设施的各类平台已经嵌入到当前的社会体系之中，附着于其上的算法在成为社会规则的同时也赋予了平台公司一定的公共权力，而平台公司作为以营利为目的的机构，难以保证其权力实施过程中具有正确的公共价值导向，这会影响到社会公共利益的实现。其次，在社会规则算法化运转的过程中，对平台数据的操控形成为新的权力实现方式，而数据作为一种新型的战略资源是由平台参与者共同产生的，这使得现实中的利益群体可以通过雇佣“水军”、使用机器人等方式来操纵数据，以扰乱正常公共秩序的方式来实现自身的利益。再次，在基于数据和算法驱动的规则体系中，用户会不同程度的失去对自身行为及选择偏好的主导权，算法权力的掌握者将自身的利益隐藏于具有黑箱性质的算法之中，并以之为媒介实现对用户行为机制的重新塑造[27]，潜在破坏了正常的社会生活秩序。

当前，以微博、微信为代表的社交平台是算法权力结构失序的典型场所，这些平台在获取部分公共权力的同时却难以充分履行相应的公共职能，导致了各类社会问题的产生。有研究指出，不同的利益群体会利用社交平台作为策略工具来提升其在议程设置中的影响[28]，这个过程在以流量为价值导向的社交平台中会衍生诸如“网络水军”、群体对立、诱导用户等社会问题，且平台公司基于对自身商业利益的考虑往往会弱化对各类不良行为的监管，导致正常的社会秩序受到严重的影响。以微博为例，近些年由于不良信息泛滥、诱导粉丝打榜、干扰舆论秩序等问题多次被网信办等部门约谈并予以行政处罚，反映了其运转过程中存在着明显的权力失序问题。总的来看，权力结构失序的产生主要是由于相关利益主体在利用技术优势取得社会权力的同时又规避了所需承担的社会责任，这种现象并不会随着技术的发展而自然得到解决，有赖于政府以公共价值为基础主导构建多元协同的治理体系。

(三)过程监管失灵

过程监管失灵是指随着平台的普及与算法影响力的不断扩张，原有的权力监管体系在算法权力形态中难以发挥预期的作用，使得算法权力在运行过程中不能受到合理的规制。过程监管失灵的出现与算法固有的技术特性及法律的滞后性等因素有关，相应会表现为权力的黑箱化运作、责任的技术性规避与监管的制度性缺失等形式。一方面，以机器学习为代表的智能算法主要通过自我训练、自我学习的方式，通过对运行参数的动态调整来完成既定目标，其运行过程具有不可解释的“黑箱”特性，这也使得附着于其中的权力在运作过程中处于不透明的状态。同时，算法背后的操控主体也可能基于算法权力运行黑箱化的特征，进行权力的不当行使并将相应的不良后果以技术原因推脱于算法本身，从而实现责任的技术性规避。另一方面，智能算法在成为公共领域运行规则的同时往往又是科技公司的商业秘密，使得掌握算法的科技公司可以利用商业保护的便利来规避相应的监管[29]，给算法权力的规制带来了制度性的困境。在此背景下，算法技术的快速普及应用使得法律规范的滞后性在当前的环境中尤为凸显，程序繁复的立法程序难以匹配当前算法权力规制的现实需求，导致了算法权力监管的制度性缺失。过程监管失灵会在很大程度上阻碍对算法滥用、算法歧视等问题的治理，例如百度竞价排名算法所引发的“魏则西事件”、近些年备受关注的“大数据杀熟”现象以及外卖平台算法对骑手的压榨等问题，均与算法权力运作过程缺乏监管有所关联。总体来看，过程监管失灵是算法技术快速发展和监管制度滞后所产生的问题，需要主管部门从技术、法律规范等多个维度制定针对性的监管措施。

(四)主体行为失范

主体行为失范是指随着算法在公共领域的普及应用并引发权力结构的转变，公共权力的实施主体背离了其应有的价值导向和行为准则。主体行为失范与算法作为新型社会规则在设计运行过程中工具理性和价值理性之间的平衡有关，其中工具理性关注对效率、效益的提升, 注重算法的实践操作性与现实可行性, 却往往忽视算法自身的价值性、正义性等问题。而价值理性则强调对算法公共价值的把握，包含对伦理道德、公平正义等多方面的需求，主张通过善的手段来发展科学, 促进人与社会的全面和谐发展[30]。主体行为失范的情况不仅存在于公共部门人员群体之中，随着算法普及所导致部分公共权力的转移，其在平台企业的技术人员群体中也会有所体现。一方面，管理主义行为的盛行深刻地影响着公共领域的管理实践，造成了“价值中立、效率中心、技术至上”的倾向，这种倾向影响着公共领域中算法应用的价值导向，导致公平、公正等公共价值的弱化，进而对公共部门人员的价值导向产生不利影响。另一方面，算法设计相关专业的教育体系往往具有很强的工具理性特征，对算法可行性、运行效率、复杂度等技术指标的追求是强化专业能力过程中的重点方向，这就可能导致算法设计者具有技术至上的价值倾向，在进行算法设计的过程中缺少对公共价值的考虑。而随着部分公共权力向平台企业的转移，相关技术人员的工作也具有了一定的公共性，其原有的价值导向与当前的工作属性难以匹配，从而导致了行为失范的问题。例如，在当年“快播案”所引发的舆论中，以“技术无罪”为当事人辩护的观点得到了不少人的支持，在某种程度上体现了工具理性所产生的普遍影响。总体来看，主体行为失范的现象与公共领域实践中的价值导向、技术人员的教育培养体系等因素密切相关，需要从价值引领、教育改革等方面构建长效治理机制。

四、算法权力风险治理的路径

基于平台、数据和用户交互的算法权力形态给公共事务的管理提出了更高的要求，政府既需要主动使用各类智能技术来适应时代的发展需求，又要对社会事务算法化运行过程中产生的各类问题进行治理。算法权力风险治理的有效推进需要紧抓算法权力所依托的核心要素，针对算法权力风险的不同表现形式，制定相应的法律法规体系并构建合理的治理路径。

(一)构建算法权力风险治理的制度体系

社会发展问题的治理首先表现为制度规范体系的构建[31]，健全的制度规范体系是约束和监督算法权力运行，规范各类主体行为的有力保障。当前，我国在网络信息化领域已经出台了针对不同问题的法律、行政法规及部门规章，其中多项法律法规与算法治理紧密相关(见表1)，尤其是2022年3月施行的《互联网信息服务算法推荐管理规定》，更是成为了首部专门针对算法的法律文件。

表1 算法治理相关的主要法律法规

这些法律法规涵盖了算法权力运转过程中平台、数据及交互行为等各类要素的管理以及电子商务、信息服务等各项业务的规范，成为算法权力风险治理的重要保障。然而，当前我国的算法制度体系虽初具雏形，但仍然是碎片化的，相关的法律法规尚不够细化，难以针对性地解决算法权力风险治理中的各种困境。一方面，健全的算法制度体系应对算法权力形态中的参与主体、职责范围、业务要求及法律责任等内容进行明确，同时配套完善算法运转的相应措施、标准、指南等文件。当前，算法的应用已覆盖了社会生活的方方面面，但相关制度体系的构建仍处于起步阶段，需要针对各类细化问题进一步构建具有较强操作性的制度规范文件，如当前我国正着手建立的数据资源确权、开放、流通交易相关制度等。另一方面，算法制度体系的运行需要相应治理结构的完善，在明确政府、企业和公民等主体在算法权力风险治理中权利和义务的基础上，构建政府监管、企业履责、公众监督并行的多元治理模式。就政府部门而言，需要从中央到地方的统筹规划、分级布局，充分考虑组织架构、部门间职能分配等问题，建立运转流畅的权威性管理体系。就企业而言，应不断强调其在算法权力形态中的治理主体责任，并从制度规范层面加强对其履责过程和结果的监管。就公众而言，应鼓励其积极发挥好监督作用，同时加强公众与政府、企业间的信息交流和有效沟通，以保证算法的社会化运转具有良好的纠偏机制。

(二)算法权力风险治理的路径构建

针对政策执行失真、权力结构失序、过程监管失灵以及主体行为失范等几种算法权力风险的表现形式，相应的治理路径可以从以下四个方面进行构建。

1.加强数字基础设施建设及公共部门专业人员培养

权力的算法化运行需要完善的数字基础设施以及专业的管理队伍。在当前基于算法的新型社会事务运转体系中，这些现实基础保障尚不完备，存在着基础设施覆盖不足、业务人员工作脱节等问题。一方面，数字基础设施是算法权力形态运转的物理支撑，而互联网、智能终端等信息时代的新型生产生活要素尚未得到充分普及，社会中“数字鸿沟”的现象仍然存在，这会导致部分区域、部分人群被隔离于算法社会之外。在我国大力推进“新基建”的背景下，数字基础设施的建设既要注重建设速度，更要注重质量及稳定性，这样才能使算法规则不会因为各类软硬件故障而难以有效运转，以保障其作为新型社会规则的权威性和公正性。另一方面，算法规则运行的特点决定了管理部门至少需要具备基本的技术逻辑和识别判断力，然而当前我国公共管理部门在人才队伍的信息化能力方面相对薄弱[32]，“业务人员不懂技术、技术人员不懂业务”的现实困境仍普遍存在。通过培养具备良好信息技术素养的公共管理人才队伍，提升其在计算机编程、数据分析等方面的技能，可以有效提升业务部门与设计部门的沟通效率及准确度，保证算法规则设计的完备性，防止算法权力在运转过程中出现政策执行失真的情况。

2.探索算法权力运转过程中公共价值与商业利益的平衡

基于各类算法的平台作为一种重要基础设施正逐步嵌入到社会运转体系之中，并通过与用户的交互不断获取数据资源、重塑公众的公共行为，其运行过程具有了很强的公共性，社会公共价值的实现也随之成为其必须承担的责任[33]。然而，平台公司在履行公共职能的过程中虽然具有表面上的中立性，其本质仍是以营利为目的的企业主体，因而在实践中的价值取向未必与公共利益保持一致。在算法规则设计和运行的过程中，公权和资本存在着一种博弈关系，而双方博弈的态势及社会实践的具体要求决定了算法运行的价值导向[3]。资本通过投入大量资金和人力推动了算法技术的发展及普及应用，并实现了对平台资源和算法权力的掌控，这本质上是一种利益驱动的商业逻辑。而随着算法不断应用于公共领域，算法权力具有了公共权力的属性，这种商业逻辑就难以满足社会发展的价值需求，需要政府部门以公共价值为导向进行规制。对资本算法权力的规制不能简单的压制商业逻辑的运行，应结合各类平台的运行特征寻求公共价值与商业利益的平衡点，在保证公共价值不受损害的前提下实现二者的良性互动。

3.构建覆盖全过程的算法监督体制机制

如何对算法权力进行有效的监督，确保算法权力在公共领域的运转始终以公共价值的实现为导向，是算法权力风险治理的关键所在。然而，由于智能算法的技术特性以及平台企业的商业诉求等原因，当前的制度体系以及监管手段难以匹配现实的监管需求，对智能算法的监管面临着重重困境。尤其是智能算法不透明的“黑箱”特性给权力的有效监管带来极大的困难，使得权力滥用的情况难以得到及时控制。当前，我国对各类平台的监管更多的是针对算法执行的结果，在监管效果上难免具有一定的滞后性。我国《新一代人工智能发展规划》指出，要“建立健全公开透明的人工智能监管体系，实行设计问责和应用监督并重的双层监管结构，实现对人工智能算法设计、产品开发和成果应用等的全流程监管”，这为算法权力风险治理的监管体系构建指明了方向。一方面，要结合法律规范体系的不断完善，针对算法运行的复杂性、不确定性、可解释性等问题制定覆盖全流程的监督机制和评估指标体系；另一方面，政府也应加大技术研发投入，丰富自身监管工作的技术工具库，逐渐补齐监管技术能力的短板。

4.优化完善算法从业人员的教育培养体系

算法技术本身是中立的，但在算法设计和应用的过程中，算法设计者以及公共部门管理人员可能会有自身的偏见，这会直接导致算法的应用出现价值导向的偏差。当前，技术人员的教育培养体系往往更加注重技术能力的提升，而对技术实现过程中的价值导向问题有所忽视，使得“技术至上”等工具理性导向广泛存在于技术人员群体之中，进而导致算法实现过程中工具理性与价值理性的背离问题。同时，管理主义的盛行也影响着算法权力在公共领域运转的价值导向，引发公共管理部门算法权力实施主体的行为失范问题。在此背景下，应当树立“科技向善”的理念，强调公共价值在算法权力运转实践中的重要性，并对算法从业人员的教育培养体系进行优化，引导其正确运用科学技术为社会的健康发展创造福祉：一方面，要在注重技术能力提升的同时加强技术伦理等方面的学习，使技术人员在实践中可以从道德层面进行自我约束；另一方面，要在行业层面进行技术伦理的制度及标准体系构建，通过行业协会等组织对相关领域从业人员进行培训引导，实现工具理性向价值理性的转变。