数字法治政府建设中的算法行政：现实困境与纾解路径

［收稿日期］ 2024-07-09

［基金项目］四川省教育厅人文社会科学重点研究基地-四川基层公共文化服务研究中心2024年重点项目（JY2024A02）；中国政法大学2024年度“学习习近平新时代中国特色社会主义思想”博士创新实践项目（Z2024BSCX01）。

［作者简介］彭执一，北京市西城区人民法院行政审判庭法官助理，100054；梁亚伦，中国政法大学法学院博士研究生，100088。

［摘 要］数字时代的到来使得法治政府建设提升到“数字”维度的新阶段，而建设数字法治政府需要对算法行政这一核心命题进行“扬长避短”。通过对实施现状的梳理发现，算法行政在数字法治政府建设中对行政主体职权行使和行政相对人权利保障等存在负面影响，在革新传统治理模式的过程中问题频现，需要从针对性化解算法行政给行政主体所带来的风险、有效实现算法行政下行政相对人的困境纾解、算法行政在传统治理模式革新中的问题应对等方向入手，寻求解题之道。完善算法行政的努力将为数字法治政府建设提供宝贵的样本价值。

［关键词］算法行政；数字法治政府；数治；现实困境；纾解路径

［中图分类号］D912.1; D922.1［文献标识码］A［文章编号］1672-1071（2024）05-0063-09

引言

在大数据、人工智能、区块链、云计算、元宇宙等数字技术的驱动赋能下，数字时代正在以前所未有的速度向我们走来。在中国式现代化语境下，数字时代不仅意味着社会形态从工业社会传统模式走向一种由数字技术所建构的全新模式，更将带来政府治理模式的深刻变革，数字法治政府建设作为中国式法治现代化的核心子课题之一，伴随着数字时代的到来而成为行政法学研究中新的“显学”［1］。新时代新征程，法治政府建设正朝着数字化转型与改革方向迈进，数字法治政府建设已然成为国家治理体系和治理能力现代化的必然要求。

《法治政府建设实施纲要（2021—2025年）》指出，应“坚持运用互联网、大数据、人工智能等技术手段促进依法行政，着力实现政府治理信息化与法治化深度融合，优化革新政府治理流程和方式，大力提升法治政府建设数字化水平”。事实上，算法行政是数字法治政府建设中重要的一环，如何将算法更好运用于政府治理，有效规避算法行政的弊端与风险，发挥其在行政效能提升上的巨大功用，是我们推动数字法治政府建设走向更高水平的重要议题。当前阶段，数字法治政府建设中的算法行政在行政活动各环节适用上，以及适配传统政府治理模式并推动渐进式革新中，均有大量显见的现实困境，需要有针对性地加以纾解，厘清算法技术与行政法律制度之间的关系，促进算法更好地赋能政府行政活动，推动算法行政成为数字法治政府建设的关键动力源，发挥好算法行政中数字化与法治化双重引擎的作用，加快建设数字法治政府［2］。

一、 算法行政在数字法治政府建设中的实施现状

（一） 算法行政发展的时代背景

近年来，随着互联网、大数据以及人工智能等技术的日渐成熟与广泛应用，科技潮流奔涌而来并迅速向前［3］27，政府治理新需求的不断涌现，使得算法技术也逐渐进入行政规制领域，以美国为主要代表的域外国家［4］早已将算法行政纳入本国行政管理之中，悄然发挥其行为规训和福利配置的作用［5］。

在我国，算法嵌入行政活动也逐渐在国家顶层设计和相关政策规划之中体现出来。2019年，党的十九届四中全会通过的《中共中央关于坚持和完善中国特色社会主义制度 推进国家治理体系和治理能力现代化若干重大问题的决定》即明确提出，“要加强数字政府建设；要建立健全运用互联网、大数据、人工智能等技术手段进行行政管理的制度规则”，标志着算法行政的法治化要求进入党和国家的政策规划，细化执行的方案制定应当被提上日程。2021 年8月2日，中共中央、国务院印发的《法治政府建设实施纲要（2021－2025年）》明确提出“全面建设数字法治政府”的目标要求。在这个时代背景下，算法与行政的结合促成了“算法行政”的诞生。“算法行政”可以理解为国家运用算法技术执行和管理社会的一种活动，换言之是一种被数据所赋能的全新治理模式，充分体现了大数据时代下信息收集高效方便、算法处理快速准确、算法决策科学中立的特点，完美地实现了“人—机”的转换。

（二） 算法行政发展的实践样态

1. 算法行政地方立法：以京津冀地区为例证

地方立法是推动算法行政实践的重要环节。以区域协调发展立法的先行区域之一——京津冀地区为例，相关探索为算法行政的发展和实践运用提供了有效的政策文本和科学的土壤。例如天津2021年8月出台了《天津市加快数字化发展三年行动方案（2021—2023年）》，提出“发展普惠共享的数字公共服务”。北京2021年印发了《北京市关于加快建设全球数字经济标杆城市的实施方案》及打造智慧城市“样板”的“十四五”行动纲要，其中也涉及了公共服务数字化转型相关内容。而河北省则在“十四五”规划中提出“促进信息技术与公共服务深度融合”。京津冀地区以推动城市区域融合发展、创新发展、绿色发展和数字化发展为目标导向，在数字时代背景下迅速驱动社会管理理念和管理方式改革转型，借助大数据、人工智能等数字信息技术赋能社会治理，积极响应党中央提出的“推进数字政府建设”发展战略，不断提高政府履职能力。

2017年12月由北京市人民政府印发的《北京市政务信息资源管理办法》、2021年1月由北京市大数据工作推进小组印发的《北京市公共数据管理办法》等法规标准，形成了特色鲜明的“北京模式”。天津、河北也有相关法律法规出台。如2019年1月起正式实施的《天津市促进大数据发展应用条例》。尤其是2022年7月起正式实施的《河北省数字经济促进条例》，其第七章更是以“京津冀数字经济协同发展”为题，专门明确推进三地新型基础设施建设标准、布局和应用协同，推进与京津执行统一的数据技术规范，实现公共数据信息系统兼容。2023年5月，北京市大数据中心、原天津市大数据管理中心（现隶属于天津市数据局的天津数据发展中心）、原河北省大数据中心共同签署了《京津冀大数据发展战略合作协议》，旨在探索三地数据流通和数据协同的新模式，以疏通区域一体化协同发展，建设覆盖大中小微企业的数字信用体系、符合场景的数据交易市场以及安全稳定的数据流通平台等数字化基础设施。可以说，在国家部署“数字中国”战略以来，京津冀三地政务服务数字化转型及协同取得了较大的进展，数字化社会治理有了政策性支持与光明前景，算法行政在其中扮演着推动京津冀地区数字化社会治理的关键角色。

2. 算法行政应用场景：以多种算法系统为例证

近年来，人工智能算法更加广泛地运用于各类社会治理领域，充分发挥了其高效快捷的优势。2017年，“海燕”系统在全国范围内上线，主要应用于交通违章行政处罚领域。该智能算法系统对车辆信息及驾驶行为做出多次识别，对交通违法行为进行精准抓取，“智能识别抓拍”＋“录入系统算法分析”的运行模式为行政处罚的事实认定打下坚实基础①。2018年，上海市静安区在辖区内200多家食品经营场所安装“天鹰”智能分析系统，监管人员可以通过该系统内的监管平台即时查看联网餐饮单位的后厨画面，并进行24小时实时监控。在监控数据获取之后，“天鹰”系统还可以识别并分析出违规行为并生成报警信息，并将该信息向食品经营者和对应的市场监管人员推送②。2018年，杭州市城市大脑V2.0版本上线，其中杭州59个高架匝道交通信号灯由人工智能算法技术接管。根据相关工作人员介绍，它能通过2分钟、4分钟、6分钟的不断学习、反馈及自我评价，自动找出主线和匝道最均衡、最适合的时间及流量配比方案，实现了算法对公共交通领域的有效接管③。

2019年，北京市通州区环境监管部门正式上线运营的“城市大脑·生态环境”生态环境综合治理平台，包括监测大气颗粒物、交通流量和工地扬尘的全部视频监控探头，每10分钟完成一次污染源视频扫描；人工智能实时自动感知环境污染事件、实时上报派遣，其算法分析和识别出的违法信息将会在审核后直接作为行政处罚的依据④。2020年，河北省衡水市就曾在行政处罚裁量中运用了算法技术，其在《行政处罚决定书》中载明：“根据衡水市行政处罚自由裁量辅助决策系统各项裁量因子计算（焚烧面积：不足一亩；行为区域：二类功能区（工业区和农村地区）；焚烧时机：晴天昼间），裁量认定：情节轻微，处罚款人民币伍佰肆拾伍元整。”可以看出，行政机关工作人员直接采纳了算法得出的“情节轻微”的结果认定，是算法行政的典型运用。同年，广西壮族自治区积极探索食品安全监管的新模式，开发出市场销售食用农产品质量安全抽检监测系统，实现了对批发市场和农贸市场食品快检结果数据的及时录入、实时动态监测和质量安全可追溯。此外，还开发了食品安全抽检监测分析系统，通过该系统可以随时查询分析海量检测信息，在数据收集的同时展开随机抽查，根据其算法得出的风险级别来决定抽检频次，实现基于大数据的风险分析与管理⑤。随着生成式人工智能技术与大模型的结合不断从理论走进现实，多模态公共数据生成创造性、有价值的信息供政府决策者进行精准科学决策，以及政务服务流程自动化智能化的效率提升都将逐步落地实现，算法行政的运行与应用场景还将有突破式更新。

二、 算法行政在数字法治政府建设中的现实困境

算法行政在数字时代背景下展现出巨大优势，在推动行政决策优化、政府管理模式创新、行政监督方式完善等方面都具有不可替代的作用，为传统政府向智慧型政府和服务型政府的转型提供源源不竭的动力。然而，算法技术是一把“双刃剑”，随着算法行政的实践运用不断实现广度和深度的提升，其对于法治所带来的冲击也日趋明显。

（一） 算法行政对传统行政主体依法行政产生的影响

1. “人力”与“技术”主客体地位存在颠倒趋势

算法技术本身所具有的全天无差别检测、客观数据精准收集等特征，使得行政机关当然对其赋予极大的信任，因此在条件允许的情况下，所有行政行为的作出都会优先选用算法程序获取的数据为依据。而在裁量参考方面，算法技术把人的主观因素抽离出裁量过程，被行政机关视为公正执法的体现，因此在常规场景下，行政机关工作人员就会养成过度依赖算法技术进行行政裁量的弊病，照搬裁量结果，并将其作为处罚依据附在处罚决定书中，“人力”与“技术”的主客体地位存在颠倒的趋势。

2. “技术”决策无法通过“人力”实现监督

事实上，行政机关工作人员并不天然具备判别生成数据及机器分析结论正确与否的能力，在辨明决策是否存在谬误上存在很大的难度。即便其察觉出不妥，但由于决策是由算法作出的，对系统生成的数据佐证的结论进行修改的程序极其繁琐和严格，就导致绝大多数行政机关工作人员并不会贸然对其进行修改。例如：在何友庆行政处罚案中，交警大队无权修改平台根据裁量作出的处罚金额［6］，而在一些地方，只要违法事实记入系统之中，执法人员就无法撤销或修改，即便想要修改，也必须经过一系列繁琐和严格的附加程序［7］。而行政机关工作人员不懂技术造成的无法监督，以及规避修改造成的不予监督，导致了算法决策权的主体由行政机关转变为算法，出现“技术”决策无法通过“人力”实现监督的现实困境。

（二） 算法行政对行政相对人权益保障存在程序负效应

1. 算法行政存在侵蚀行政相对人程序性权利的风险

第一，行政公开制度和说明理由制度的失灵与行政相对人知情权的保障存在冲突。行政机关有义务将作出行政行为的依据、条件、标准面向公众公开，行政机关需要对为何做出该种行政行为的理由进行解释，两种制度共同保障了行政相对人在相关领域和具体事项中的知情权，意义不言自明。但算法技术本身具有的“黑箱”特性使其无法进行过程、标准以及依据的公开，或者以代码为对象的运算数据公开本身就不具有实质价值。算法行政系统进行计算的过程是“输入－匹配－输出”，在这一过程中输入前的事实和数据，输出后的结论性数据通过人力均可以掌握，但专业技术壁垒和算法加密性致使数据处理过程并不能被直观获取［8］6。

第二，听证制度失灵与行政相对人陈述、申辩权的依法保障之间存在冲突。在传统的行政活动中，行政机关现场执法并作出决策，整个过程与行政相对人保持了时间和空间上的关联性；而算法行政过程中，行政机关执法的非现场性使其与行政相对人之间产生了信息交流的非对称性［9］。也即是说，在算法系统作出决策时，行政相对人不能及时向行政机关申辩，其权利便无法得到有效保障。在传统的行政方式中，行政执法过程需要一定的时间成本，其具有“在现场”的空间性和“在当下”的时间性特点，调查取证、询问、决策、听证等每个环节都可以单独并且可视化进行。而算法机器在处理行政事项时，其强大的计算能力能够在输入数据的瞬间就得出决策结果，因而无法像传统行政活动一样实现各步骤的有效拆解，使得行政活动不再分阶段地单独呈现。算法行政通过将所有信息和内容输入既定的算法系统中得出结果，这就使得行政相对人原本分散在各个环节的陈述、申辩权利受到了冲击。

2. 算法决策增加了行政相对人在司法审查阶段的救济难度

在通常的行政执法场景下，行政机关因行政行为而被起诉时，可以通过与取证人员对质来了解证据采集过程、执法人员的主观想法等，并以此判断证据是否合法、真实和关联性几何。［10］而在算法行政范式下，行政机关只需证明执法拍摄设备的运转状态正常即可，其余均不予审查。例如，在何凯诉上海市公安局黄埔分局交通警察支队行政纠纷案件中，原告（行政相对人）质疑被告（行政机关）所使用的声呐定位系统电子监控设备，认为该设备所生成的照片中椭圆形印记系人为添加。而本案中，法院选择了审查该设备在投入使用后遭到投诉的频次，并据此判断能否对系统生成的结论予以采信。这种通过投诉率建构合理怀疑标准的审查方式显然是存在问题的，据此标准我们不难发现，即便运行设备和算法系统真的出现问题，也只能在多次失误出现后才能赋予下一位“幸运的”行政相对人一次证明其救济权合理性的机会。因此，这种审查方式给行政相对人实现权利救济增加了难度，并在某种程度上附加了限制条件。

（三） 算法行政的发展倒逼传统政府治理模式革新

1. 算法行政的发展致使政府治理中的公共性式微

政府治理中的公共性，是指政府进行一切公共管理活动都是以提供公共服务和维护公共利益为价值导向［11］15，公共性在政府治理中发挥着“轨道指引”的作用。而“公共性”的内涵和价值内核是“以人为基础”［12］42-45，这是因为人能够充分发挥其主观能动性，高度复杂的人脑系统加持，使得行政机关工作人员可以根据不同情况不同事实作出相应的行政决策行为。然而算法行政模式下，算法技术的嵌入挤压了人在公共行政领域中的生存空间，这使得公共行政实践中作为活动参与基本单元的人的参与性越来越弱［13］，公共性在此过程中明显弱化。算法系统的巨大优势让人陷入技术依赖和技术崇拜的陷阱中，从而引发自我表达和参与的迷失［14］。

2. 算法行政下的“数治”对传统“法治”存在冲击

在数字时代，公权力机关通过对公民、法人和其他组织的数据进行采集、处理及应用，不断增强其“数据权力”。这种“数据权力”与传统“行政权力”的深度融合，促成了“数治”［15］。这种数治一定程度上冲击了法治。首先，法治内涵之一的规则之治要求以稳定的成文法规则为基础，而数治的基础则是数据、代码和算法规则，从本质上不符合依据法律行使行政行为的要求。其次，法治内涵之二的理由之治强调要以公开、参与、竞争性的法律程序呈现事实和理由，而数治下的行政行为有着杂糅性、瞬时性、不可分离性的特征，存在着由程序压缩导致的行政相对人程序性权利消解，算法黑箱导致的行政决策“无法解释”和“不能解释”等弊端，使得理由之治中的说明理由义务被虚化。最后，法治内涵之三的价值之治中，时代背景下的价值共识首要是对权力的约束和对个人尊严、权利的保障。而数治强调的价值首要是工具有效性和行政高效性，两者在价值上并未能实现完全统一。

三、 现阶段算法行政现实困境的纾解路径

（一） 针对性化解算法行政给行政主体所带来的风险

1. 厘清定位：坚持行政主体地位与算法工具属性

一方面，应当用辩证思维看待算法行政。面对算法行政模式的兴起，我们既要顺应时代发展趋势，积极用技术赋能政府治理，也要警惕算法行政给传统行政主体所带来的危机和挑战。另一方面，行政机关应当在适用数字时代行政活动智能化趋势的同时，坚持树立主体性思维，始终以人为本推动数字法治政府建设。算法技术归根结底是人类所创造出来的生产力工具，工具属性始终是其第一性特征，算法系统即使拥有再高的自动化和智能化水平，也不具备超越人类的创造力，始终都只是辅助人类的工具［16］。生成式人工智能技术发展至今，即使有较为成熟的大模型可以基于海量数据和深度学习实现一定程度的“创新”，但这种“创新”本质上仍属于既有数据运算的结果，而并不能像人脑一样除了综合现实情况进行计算外，还能考量价值、道德、情感等主观因素，因此在算法行政的理想运作模式中，这些无法被编入算法系统却至关重要的考量因素只能由行政机关背后的人作出。正如有算法运用在司法裁判领域那样：对于一些交织着复杂社会价值和情理的案件，仅靠人工智能的数据分析和逻辑判断是无法完成的，只有结合审判者理性的思考和感性的价值判断才能够得到公正的结果［17］，在行政活动中亦然，行政决策和行政裁量的生成过程不能只依据算法，主导这一过程的主体只能是行政机关。立法不应赋予算法系统行政主体的资格，而应将其视为行政机关完成行政任务的具体机制和通道［18］。

2. 提升能力：加强对算法技术的监管与审核

要提高行政机关运用算法的能力，从技术层面尝试“解码”封闭的算法行政决策过程，确保决策环始终有行政机关的身影。一方面，对于算法机器所获取的证据必须批判对待，不能“照单全收”；而对于算法技术的分析过程，行政机关工作人员要积极进行“数据洗涤”，及时删除无意义的数据。另一方面，行政机关工作人员培育对算法技术的监管与审核能力也十分重要。客观来说，行政机关让渡决策权的重要原因之一，就是基于人力参与的过程无法像算法系统那般进行计算分析。这并不代表行政机关必须退场，反而要求其必须充分发挥有效参与和监督的作用，对这些能够影响行政相对人权益保障的决策环节给予更加严格的审核和控制。

行政机关要在算法行政的技术运用和人才培养上加大投入力度，不断提升行政机关工作人员运用人工智能和算法系统进行行政活动的能力，以及在算法技术辅助下实现科学精准决策的能力。还应当及时补充具备人工智能和法学双学科背景的数字法治人才，通过代际优化，逐渐实现工作队伍的优化升级。通过对行政机关工作人员举行定期的技术普及性培训、适当增加业务考核等方式，实现算法行政现存问题的合理解决［19］。此外，还应当持之以恒地推进政府善用算法的数据意识、行政机关工作人员善用算法的数据素养培育。真正从政府内部出发，营造政府工作人员重视数据素养培育的良好氛围，在保持行政机关工作人员主观能动性的基础上形成一种“主动学习大数据”的良好数据文化，由内而外带动社会公众，实现数字政府、数字社会、数字国家建设不断向纵深发展［20］。

（二） 有效实现算法行政下行政相对人的困境纾解

1. 程序控制：救济知情权与陈辩申诉权归位

落实信息公开，增设解释义务。算法行政下公开什么、如何公开，是一个值得探究的问题。算法行政视角下的公开，我们最常想到的就是公开算法的计算代码，但是一连串专业壁垒极高的数据代码即便公开，对于公众知情权的保障事实上也起不到任何效果，因为对这种“无意义的数据废墟”所进行的公开只能消解算法技术的神秘性，却不能被公民、法人和其他组织转化为保护自己权利的武器［21］。再者，代码的公开也往往会涉及商业秘密和数据安全的问题，可能导致代码盗窃，也可能因公开存在一定技术疏漏的算法代码而遭到“黑客”等了解代码底层运行规则的群体进行的有组织攻击。所以算法行政中算法的公开要有实质性意义和针对性指向［22］，以此来保障公民“实质性的知情”［23］。在欧盟公布的《通用数据保护条例》（GDPR）中就有过相应的实践：“应当向数据提供者公开涉及的逻辑的有意义的信息，以及此类处理对数据当事人的意义和预期后果。”第一，应定期公开算法嵌入行政领域或主导行政决策的范围清单，让行政相对人知道哪些行政活动和行政决策运用到算法技术，并且还要公布在相关领域，算法参与行政活动和行政决策的程度，此举便于行政相对人提前考量或将出现的侵益行为的方式和程度。第二，应公开算法系统的程序设计语言和运行逻辑，决策时各因素配比的权重等。通过此类举措可以最大限度保障行政相对人的知情权，知晓影响自身权利义务的决策和活动所依据的逻辑，参考的因素和后续的影响等，以此增强行政相对人在个案行政决策结果和行为结果上的可预期性与可接受性。第三，政府采购部门应当和算法系统供应商提前协商并明确一定限度的公开需求，在算法系统的选购上将一定限度的公开义务作为标准在行政协议之中加以明确，避免相关企业用“商业秘密”来绕避公开义务。除算法系统可承受的最大限度实质性公开外，还需要给行政机关和算法系统开发者增设解释义务，通过对系统运行流程和数据处理机制进行解释说明，使社会公众可以基本了解算法系统运行逻辑和价值取向。由此可以从两个角度进行说明：第一，输入时的说明。数据是算法行政运行的基础，算法决策的科学性就是通过准确的数据选取和输入为保障的，数字时代基础信息和数据的充足度和丰富度毋庸置疑，但这也导致了数据质量的鱼龙混杂。若数据本身就存在问题或关联性较弱，那么决策结果就会出现瑕疵。因此，要及时解释数据输入的内容，给予行政相对人进行监督和质疑的权利。第二，输出时的说明。即要求对裁量因素、运行逻辑向行政相对人进行说明，可以联合算法系统开发者一同面对行政相对人，针对“法律考量”和“技术考量”部分进行互补说明［24］。

进行人工干预和事后程序补充，增设陈述、申辩权救济渠道。首先，要保证行政相对人有随时请求人工介入算法行政程序的权利，当一项算法适用于某个领域时，若行政相对人需要进行陈述和申辩时，行政机关应根据其理由和证据进行评估，若理由成立则应中断整个自动化算法程序的执行流程，转为人工介入的普通程序。其次，虽然行政决策和行为过程中无法进行陈述和申辩，但是可以在事后进行补足，例如在决策过程中缺少了关键性因素和证据进而导致了不符合实际情况的行为和决策，则应尝试进行修正，若可以转译为代码进行输入补正，则将其及时输入；若无法进行补正输入，最后的决策和行为应当由行政机关作出，其文书上要在算法系统规则之外充分体现行政机关补充的主观内容，充分体现出行政相对人陈述和申辩权利保障的内容。

2. 多维度权益保障：推进与时俱进的司法审查

要从权益保障的目的出发，切实审查算法技术运用的准确性和正当性。对于算法行政认定事实转化为法律事实，司法审查的路径可以如下：

第一，审核算法技术设施的设置是否符合比例原则。《行政处罚法》第41条第1款规定的审查内容，其中要求讨论设备设置是否合理，以道路交通领域为例，电子监控设备辅助行政机关进行24小时不间断无差别的监测，而行政检查作为侵益行政行为，因会对相对人造成不利影响而应当符合比例原则。电子监控设备的数量和密度应当结合交通地点状况、交通事故频发程度、交通违法情形、交通危害后果等因素综合考量［25］。因此若不符合比例地设置了设备，法院在审查时应当将该设备所获取的事实予以排除。

第二，审查算法系统取证是否符合技术标准要求。若取证时不符合相应的技术标准，法院在审查时应当将算法系统取证固定的事实直接排除。在苏广民诉青岛市公安局崂山分局交通警察大队行政处罚二审行政判决书中，上诉人苏广民称，被上诉人向法庭提供的、通过自动化设备采集的图像证据不符合《道路交通安全违法行为图像取证技术规范》（GAT832-2014）第3.6条中规定的“叠加在每幅图片上的信息至少应包括违法时间、违法地点、违法代码、违法行为、图像取证设备编号、防伪信息等内容”，因此认为该证据不合法⑥。本质上，技术审查标准的制定是行政权行使的结果，在有关设备技术的合法性审查方面 ，法院原则上应当予以尊重，司法审查应当以是否存在取证和判断瑕疵为准，即审查取证过程中是否符合相关技术领域的国家标准或者行业标准，对标准设置的合理性不进行实质审查。

第三，审查算法技术是否有超越权限运行的嫌疑。依旧以道路交通领域为例，法律仅仅规定了其收集证据固定违法事实的权限，发挥为最终的处罚决定提供辅助的作用。也就是说，电子证据的上传和违法事实的固定需要进入人工审核程序，只有经过人工审核后的事实和证据才能作为行政处罚的依据。然而人工审核的内容仅包括了证据资料是否清晰，以及是否准确地记录了违法行为过程、发生地点和时间等这些形式要件，对于系统认定的违法行为标准（事先设定好的算法系统）这种实质要件则是不予审查并全盘接受的［26］。所以形式上确实有人工的介入，外在表现为行政行为的主体是行政机关，这种外显性的声明并不能阻却算法系统已实质上成为真正的处罚决定作出者［27］。由此观之，电子警察系统在应用过程中，已经在事实层面超出了法律授权。因此，司法审查的重点，应当放在对算法技术介入的程度上，要求行政机关对接受算法技术所得出结论的比例或尺度进行说明并陈述理由，以保证算法技术能在现有的法律规范体系中始终处于辅助地位。此外，在实践中我们还应当根据不同的决策场景和涉及利益的重要程度，确立具体的审查重点，进行不同层级的保护［28］。

（三） 算法行政在传统治理模式革新中的问题应对

1. 行政公共性的重现：建构人机和谐共生机制

由于算法行政下决策和行为的作出具有结果的瞬时性和程序的不透明性，因此公众无法有效参与其中，而算法系统通过数据分析和自我学习形成所谓的科学治理方案，再加之其数据分析可建构出完整的数字人格实现对个体需求的超前推算，这在表面造成了“行政相对人公共参与必要性减弱”的假象。在这种情况下，我们应当将权利放弃转变为权利行使在时间上的前移，即将公众参与的程序提前，将公众在决策中发表意见的阶段提前至算法设计阶段，以此充分保障公众对公共事务的参与。例如欧洲议会提出了“算法影响评估”（The Algorithmic Impact Assessment ，AIA），在这个框架的建构中就注明了如果一套算法系统在行政领域中的适用会对当事人产生权利义务的影响，那就应该派相关社区和公民参与评估，用来确定这项系统是否能够适用［29］。美国纽约建构的算法影响评估制度也强调了公民的参与，即建立政府、公民、专家、第三方机构共同参与的多元评价机制［30］。据其经验，我们可尝试将公众参与内嵌到以下两个步骤之中：第一，在行政机关选择和采购算法系统时，可以将民众满意度作为招投标的主要考核指标之一，允许公民、法人和其他组织在公开的招投标环节中通过查阅竞标的科技企业信息、过往研发实践、产品亮点和体验感受等提出意见，由于涉及专业性较强的内容，在提出相关意见时应要求同时提供相应证据和论证过程；第二，允许公众参与算法系统的研发。由于算法系统的研发具有很强的技术性，因此，普通社会公众只能提出关于过程控制、价值导向和救济设置的建议，并在广泛接纳吸收这些建议后，由行政机关和算法系统开发者共同把关，确定上述需求落实的合理性与可行性。通过这些手段有效保证公民对算法行政的过程性参与，建构人机和谐共生的实施机制，进而实现行政公共性的重现，以人的智慧为公共行政注入源源不断的活力。

2. 法治与数治的平衡：负面清单设立与选择权保障

通过既有经验研究，尝试设立算法进入的行政领域的负面清单。不可否认，由算法技术赋能的数治对法治产生较大冲击，我们可以通过区分算法能否进入的行政领域来限制算法行政的泛化［31］。在自动化行政发展初始阶段，德国就曾对自动化设备的准入进行限制，一是适用必须遵循法律保留原则，二是对于不存在裁量和判断的地方方可适用［32］。鉴于此，有学者提出设立算法行政合理应用领域清单［33］，排除行政裁量空间较大的领域。除此之外，还可以借鉴行政诉讼受理范围规定的模式，在此基础上创设部分禁止进入的负面清单，更加科学地对算法进入行政领域进行限制。

实现法治与数字的平衡，还应为行政相对人增设对程序的选择权，进而实现其选择权的保障。应当在一定程度上赋予行政相对人自由选择是否运用算法处理同自身有利害关系的案件的权利。欧盟《通用数据保护条例》规定：“数据主体有权反对此类决策：完全依靠自动化处理——包括用户画像——对数据主体做出具有法律影响或类似严重影响的决策。”这种“不受完全自动化决策约束权”［34］，能够体现出对程序自由选择权的尊重与保障。因此在算法行政下，若一项决策或行为由算法系统作出且行政相对人对其并无异议时，该决策就应当生效；如果行政相对人质疑决策过程、结果等任意一个环节，或者从一开始就拒绝接受算法系统的介入时，应当由行政机关工作人员以传统方式处理，通过新的人力程序对该事项重新作出决策，但由于行政相对人可能会恶意质疑从而给行政机关造成不必要的业务压力，所以在行政相对人质疑时，也应当要求其提出相应理由和依据供行政机关进行审查。通过这样一套运作机制的规则细化与领域细化，使之在个案不断更新中获得检验与完善，最终助力法治与数治的平衡在算法行政中得到合理实现。

结语

建设数字法治政府关键在于算法行政的精准和正向适用，规范算法行政的技术边界、规避其天然的程序负效应，这是实现精准和正向适用的必由之路。强调算法工具属性并重视对算法技术的监管审核，有助于针对性化解算法行政侵蚀传统行政主体地位的风险，通过程序控制和多维度权益保障，将有效纾解算法行政下行政相对人面临的权利救济困境，而行政公共性的重现、法治与数治的平衡又将有效应对算法行政对传统治理模式革新中存在的诸多问题。数字法治政府建设道阻且长，完善算法行政的尝试提供了一种治理样本，却也仅是其中一小步。政府数据处理规则健全、数字政府组织规则完善、行政机关数字权力监督机制完善等更多数字法治政府建设的议题，还有待逐一解决。

注释：

①参见腾讯新闻，《海燕系统已正式上线！不到一周抓拍违章上万起，车主：车没法开了》，腾讯新闻网，https：//auto.qq.com/a/20181203/007846.htm

②陆燕婷，《静安用“天鹰”瞄准食品安全》，中国新闻网，http：//www.sh.chinanews.com.cn/bdrd/2019-02-18/52264.shtml；

③吴崇远，《自动配时自动控制AI接管杭州59个高架匝道信号灯》，中国网，http：//zjnews.china.com.cn/yuanchuan/2018-11-30/156164.html.

④张楠，《副中心防控污染用上“人工智能”，生态环境综合治理平台试运行》，北晚新视觉网，https：//www.takefoto.cn/viewnews-1754361.html.

⑤洪泉，《广西积极探索食品安全监管新模式》，2020年7月30日《中国食品安全报》第B2版.

⑥参见山东省青岛市中级人民法院（2020）鲁02行终362号判决书，http：//paper.cfsn.cn/content/1/2020-07/30/B2/20200730B2_ pdf.pdf.

参考文献：

1〗周维栋，周佑勇.数字政府如何与法治政府更好结合？——基于技术与制度融合的分析视角.中国行政管理，2023（10）：71-80.

2〗查云飞.算法的行政法属性及其规范.法制与社会发展，2023（6）：168-185.

3〗佩德罗·多明戈斯.终极算法：机器学习和人工智能如何重塑世界.黄芳萍，译.北京：中信出版集团，2017.

4〗Danielle Keats Citron.“Technological Due Proc-ess”［J］. Washington University Law Review.

5〗王怀勇，邓若翰.算法行政：现实挑战与法律应对.行政法学研究，2022（4）：104-118.

6〗余俊，王守慢.算法自动化决策在行政处罚中的应用风险与规制路径.中共山西省委党校学报，2022（4）：84-89.

7〗王正鑫.机器何以裁量：行政处罚裁量自动化及其风险控制.行政法学研究，2022（2）：166-176.

8〗弗兰克·帕斯奎尔.黑箱社会：控制金钱和信息的数据法则.赵亚男；译.北京：中信出版集团，2015.

9〗展鹏贺.数字化行政方式的权力正当性检视.中国法学，2021（3）：114-138.

关保英，汪骏良.行政处罚中自动化方式适用的程序控制构建.青海社会科学，2021（6）：150-159.

戴维·H.罗森布鲁姆戴维.公共行政学： 管理、政治与法律的途径.张成福等，译.北京：中国人民大学出版社，2002.

谭九生.公共行政的哲学基础.北京：中国社会科学出版社，2018.

何哲.面向未来的公共管理体系：基于智能网络时代的探析.中国行政管理，2017（11）：100-106.

王张华，颜佳华.人工智能时代算法行政的公共性审视——基于“人机关系”的视野.探索，2021（4）：82-95.

王锡锌.数治与法治：数字行政的法治约束.中国人民大学学报，2022（6）：17-34.

马长山.人工智能的社会风险及其法律规制.法律科学（西北政法大学学报），2018（6）：47-55.

马靖云.智慧司法的难题及其破解.华东政法大学学报，2019（4）：110-117.

马怀德.数字法治政府的内涵特征、基本原则及建设路径.华东政法大学学报，2024（3）：6-22.

孙全胜.人工智能的机器学习助力数字法治政府建设的机理、挑战与路径.学术交流，2023（12）：17-33.

王凌光，梁亚伦.推动公共数据资源开发利用规范化制度化.民主与法制时报，2021-08-11（03）.

谭九生，范晓韵.算法“黑箱”的成因、风险及其治理.湖南科技大学学报（社会科学版），2020（6）：92-99.

丁晓东.论算法的法律规制.中国社会科学，2020（12）：138-159+203.

郭春镇.对“数据治理”的治理——从“文明码”治理现象谈起.法律科学（西北政法大学学报），2021（1）：58-70.

郝志斌.算法行政的风险场景及其法律规制——基于算法法权关系架构的分析.山东大学学报（哲学社会科学版），2023（5）：157-169.

余凌云.交警非现场执法的规范构建.法学研究，2021（3）：36-51.

谢明睿，余凌云.技术赋能交警非现场执法对行政程序的挑战及完善.法学杂志，2021（3）：48-58.

王宾.自动化行政中算法的法律控制.财经法学，2023（1）：61-75.

郑智航.数字技术对政府权力的侵蚀及其法律规制.行政法学研究，2024（5）：41-55.

Koene A，Clifton C， Hatada Y， Webb H. A governance framework for algorithmic accountability and transparency［J］. Brussels： European Parliamentary Research Service，2009：53-55.

雷刚，喻少如.算法正当程序：算法决策程序对正当程序的冲击与回应.电子政务，2021（12）：17-32.

朱瑞.论算法行政的技术性正当程序.财经法学，2023（4）：103-117.

马颜昕.自动化行政的分级与法律控制变革.行政法学研究，2019（1）：80-92.

翟月荧.算法行政的兴起、风险及其防控.新视野，2022（3）：81-85.

王苑.完全自动化决策拒绝权之正当性及其实现路径——以《个人信息保护法》第24条第3款为中心.法学家，2022（5）：72-86+193.

（责任编辑：浩 洋）

（校 对：木 子）