政府自动化决策责任认定的法理逻辑与限度廓清

苏稳

摘      要：政府自动化决策是一种由人工智能参与，部分或者完全取代行政主体参与，实现行政行为过程的自动化、无人化甚至智能化，从而产生对外法律效果的行政行为。行政自动化决策在提升行政效率、坚守决策中立等方面意义凸出，但仍暴露出诸多不敷适用之处，尤其表现在责任认定标准存疑、责任主体识别困难、责任范围划分模糊以及侵权赔偿标准混乱等。基于此，当前应依据实际参与原则与契约自由理念厘清政府自动化决策的责任主体，明确政府自动化决策的责任范围，健全政府自动化决策的监督评估机制，形塑以算法解释权、算法拒绝权、损害评估标准为核心的救济机制。

关  键  词：政府自动化决策;行政效率;责任认定;责任主体;责任范围

中图分类号：D922.1      文献标识码：A      文章编号：1007-8207（2024）05-0104-11

一、问题的提出

进入数字时代以来，算法、大数据、人工智能与社会生活的深度契合衍生出诸多新场景，其中，自动化行政借助数字技术，以预测资源分配、辅助行政裁量的方式，通过算法决策程序对海量数据进行分析处理并完成替代性决策，从而优化行政效能。科学、客观、快捷、精准地嵌入政府行政决策，有效提高行政决策效能。[1]同时，囿于决策技术的自身弊端和社会环境存在的诸多主客观原因，伴随着技术内生的不确定性风险、法律层面权力行使与权利保障的挑战，价值层面中技术理性吞噬价值理性等桎梏，相关法律法规逐渐滞后，如何进行规制成为政府行政绕不开的话题。国务院发布的《新一代人工智能发展规划》提出，支持人工智能技术和应用发展的三步走战略目标，并要求建立人工智能法律法规理论体系。在学界中，部分学者從主体、程序以及救济方式等方面，对传统行政方式与自动化行政相关关系、自动化行政类型化分级、自动化行政应用范围以及应用中问题及风险控制等方面进行研究，但在公共决策过程中，算法决策所产生的风险的具体形式和原因，以及算法和数据管理的责任划分，已有研究成果尚未形成完善的理论系统，无法为政府自动化决策的责任认定等问题提供可操作性的因应对策。基于此，笔者立足于自动化行政的行为解构和类型化分类，通过探究政府自动化决策中产生的法律困境，以期对数字政府建设有所裨益。

二、政府自动化决策的基本逻辑

（一）政府自动化决策的行为解构

政府自动化决策是指以数字化技术为基础，以自动化行政系统为载体，部分或完全替代行政主体参与行政过程，实现行政行为过程自动化、无人化甚至智能化，由人工智能参与的一种行政行为。[2]自动化行政中信息交互关系由传统两元式转变为“行政相对人-自动化行政系统-行政主体”的三元式。不论大数据和人工智能的参与程度如何，在自动化行政法律关系中，行政主体理应是行政机关及法律法规授权的组织。自动化行政系统在政府自动化决策中扮演着传统行政机构的角色，获得具有法律属性的“公务员”职能和“主体性”地位。需要注意的是，“主体性”地位并不能与法律意义上的“行政主体”划等号，“主体性”强调在政府自动化决策中，自动化行政系统不再只局限于单纯意义上的辅助工具，而是超越“物”本身的客体属性，对政府行政行为和决策在一定程度上具有意思表达的法律效果，代表所属行政主体的决策意志，并对行政相对人产生法律效力。[3]现代行政决策的动态性特征明显，尤其体现在人工智能算法可以实现行政决策过程的前、中、后期全过程参与。具言之，在政府自动化决策的前期，人工智能系统可以自动抓取特定信息，留待政府决策取用;在中期，人工智能则可以依托二进位制算法模拟专家决策，研判不同政策方案预期;在后期，人工智能算法可以进行后果预测，监督行政决策的执行，形塑行政决策与决策效果的因果关系。

（二）政府自动化决策的类型化

依据政府自动化决策的参与程度、决策领域、决策阶段等不同分类逻辑，可将政府自动化决策予以类型化。同时，类型化的机制也可以防控政府自动化决策的法律风险，实施更加精准的法律规制。有学者参考自动驾驶领域分级标准，结合行政任务的“识别输入”“分析决定”“输出实现”三个关键环节，依据人类与人工智能系统的分工以及适用场景的不同对行政自动化进行二轮分类，将自动化行政分为五级。[4]基于此，自动化行政决策同样可以参考上述思路，分为低阶、初阶、中阶、高阶四个阶段。低阶自动化决策是指自动化行政系统辅助行政机关完成特定的行政活动。在不同行政环节中，自动化行政系统可以辅助人工完成部分任务，但尚无法实现独立完成的目标。初阶自动化决策是指自动化行政系统可以独立完成行政行为中的某一个部分，但不能独立作出一个行政行为，在该部分中，不再需要人工干预，如实践中广泛使用的执法记录仪。中阶自动化决策是指无裁量能力的完全自动化行政。自动化行政系统可以独立完成一个行政行为，全部环节都由自动化行政系统完成，对不需裁量的行政行为进行独立处理，较为典型的实践是深圳市的“秒批”服务。高阶自动化决策指有裁量能力的完全自动化行政。自动化行政系统独立完成数据获取、分析识别、判断认定等环节，并且做出相应分析与决策。在广义的自动化行政行为中，高阶自动化决策是自动化行政行为的最高阶段，此时自动化行政系统具有独立裁量能力，可以在一定的裁量空间中完成自动化决策行为。

（三）政府自动化决策的特点胪列

⒈决策效率性。政府自动化决策通过算法来实现，在庞大的数据信息资源库中，算法根据现有模型，实现信息的高效互通，通过深度学习不断提高分析能力和决策精准度，再加上人工智能算法主要以直接结果输出方式出现，将繁琐的行政流程转换为直线输出的方式，告别传统“一人一事”行政手段，节省行政人员时间成本，实现让信息输入获得客观结果，提高公共行政决策便捷性。[5]同时，政府自动化决策所用到的自动化行政系统，能够依靠数字化技术短时间内处理海量信息，并嵌入特定的算法和程序设计中，最终自动输出结果，将行政裁量大幅度压缩，减少传统行政程序中的繁琐步骤。此外，传统政府决策的完成需要工作人员通过调查、询问等对相关情形进行自由裁量，存在冗杂的人为处理过程。相比之下，政府自动化决策则不需要耗费大量人力，在减轻公职人员压力的同时也提高了行政机关的工作效率。

⒉结果中立性。保障行政决策公正性是政府自动化决策的优势所在。基层社会治理活动中人情、关系等因素作用明显，对基层行政治理活动公正性产生严重影响。在传统行政决策过程中，行政决策判断容易受到情绪、情感等传统人为因素影响而出现偏私、偏颇甚至歧视，违背行政决策公正性、客观性要求。[6]而以“技术中立”为优势的自动化行政系统能有效避免行政决策的独断专行和随心所欲，将复杂的人情、关系等传统人为因素排除在自动化决策过程之外，实现行政决策客观公正的目标。[7]政府行政中自动化决策要求不分年龄、不分职业、不分性别对待行政相对人，即确保行政公平。[8]技术意义上的“人人平等”依托数据测算和代码编写规则得以实现，能够有效解决人情干预决策、权力寻租、公共资源配置低效等问题，减少行政决策裁量权滥用的可能性，为廉洁政府建設提供技术支撑。

⒊算法隐蔽性。政府算法的隐蔽性是政府利用算法技术的制度方式耦合的产物，是算法技术本身所具有的特性。《黑箱社会》中最早使用算法黑箱进行隐喻，从概念上来说，算法黑箱是指算法系统内，存在于输入到输出之间不公开、不透明，且难以被理解和观察的隐层。[9]技术本身天然地具有不透明性，无法充分考虑数字和规则之外的因素。自动化系统主导的行政行为往往以不透明方式完成操作的分析过程，这使得二者之间的信息不对称问题变得更加严重，特别是行政人员普遍不具备较高的算法控制技术，开发者和使用者之间存在技术鸿沟。自动化系统的运行机理与商业秘密之间的冲突加剧。且囿于数据篡改与删除的风险，行政机关不仅不会直观解释行政决策结果，更难以向社会公众公开相关过程。基于此，行政相对人难以突破技术壁垒，使得其无法知晓自动化系统算法的底层逻辑，便难以发现自动化行政中的错误和漏洞，无法对因自动化决策导致的权益侵害进行有效救济。

三、政府自动化决策的法理依据

（一）价值维度：行政决策效率的现实考量

在数字化政府建设背景下，政府治理呈现出需求多样化、对象多元化、内容复杂化等特征，社会公众对行政管理活动的要求也由原来的消极被动转为积极主动，对建设“服务型政府”“高效政府”提出更高要求，据此，提高政府行政决策效率成为建设高效政府的必然要求。传统法治政府的高效运行面临科层体制的困境，囿于治理事项碎片分裂、组织结构协同失灵、官僚行为消极禁锢等弊端，传统依法行政无法满足深层次服务型政府和高效政府建设目标，难以实现政府治理现代化需求。依托人工智能技术，现代法治政府突破科层治理的禁锢限制，以公共需求为导向，有效弥合政府与社会、公众等相关主体之间的分离裂隙，构建起政务活动全方位、全流程、全覆盖、全时空的新样态。[10]行政效率提高能够健全政府决策、执行、监督等各环节，让政府组织机构设置、权责分配与运行机制达到系统化、科学化、完善化效果，保证地方政府在规定时限内以最快速度完成最大工作量，实现行政管理体制中的人、财、物等各要素科学组合配置，有助于构建起政府与社会、公众之间的良性关系，从而更好服务于人民。[11]地方政府实践中，浙江省杭州市率先开启数字化改革探索实践，突破时空局限下的政务不足，通过数据共享推动“最多跑一次”改革，实现“让群众少跑腿，让数据多跑路”。

（二）技术维度：生成式人工智能等技术的逻辑支撑

构建包括信息技术、人工智能等技术在内的新增长引擎，完善精细化服务、信息化支撑的基层治理平台，提升社会治理效能，显示出在数字政府中嵌入人工智能技术的必要性。[12]生成式人工智能凭借深度自我学习，将决策问题转化为算法能够理解的数据模型，基于“信息输入-数据分析-决策输出”的自动化决策公式，突破原有政务人工智能的功能界限。生成式人工智能参与数字政府建设的可行路径在于实现权利保障优位、效率与责任并行，保持安全与发展均衡。作为人工智能时代的一次重大技术跃迁，生成式人工智能本身带有很强赋能特征，其高效的信息协同能力、精密的算法运行能力以及深度的人机交互能力对数字政府建设的纵深发展大有裨益。[13]生成式人工智能的引入增强了政府自动化决策的科学性。生成式人工智能通过自动抓取和精准识别，实现对相关数据的全面获取，提升政府自动化决策的准确性和高效性，使基于人工智能算法和系统的政府自动化决策成为可能。生成式人工智能在技术上促进政府与公众之间信息交流与共享。生成式人工智能根据用户指令基于条件语言模型生成答案，帮助政府在收集、处理公众信息与公众诉求的基础上为社会公众生成更精确、更个性化的服务信息。面对当前以算法技术塑造全新社会秩序的智能社会，以生产式人工智能为核心的人工智能、大数据、云计算、区块链等技术相继应用于行政决策系统，能够协助数字政府建设及时有效应对自然语言理解、文本生成能力、知识更新响应等方面的新问题新挑战，强化数字政府的协同和服务能力，提升数字政府政务效能。

（三）经验维度：电子政务转型自动化决策的域外参考

西方发达国家以电子政务为雏形，较早提出自动化行政概念，探索数字政府建设。美国是最早发展电子政务的国家，并率先将人工智能上升到国家治理层面，以《2002年电子政务法》为基础，先后出台了《国家机器人计划》《人工智能参与国家安全》《人工智能未来法案》等一系列政策规划，为电子政务发展提供完善的法律依据。[14]2011年新加坡政府发布《新加坡电子政务总体规划（2011-2015）》，并于2015年实现全面电子政务的目标，建成政府与公众深度融合的互动体系。[15]2012年英国政府发布《数字政府战略》，开始正式开启数字政府建设。[16]2017年德国在《联邦行政程序法》的修改中引入“全自动具体行政行为”概念，对全自动行政决定的应用范畴进行严格控制，后又出台了《在线入口法》，为建设全德政务服务平台提供法律保障。[17]日本建立电子政务绩效考评，注重保护“个人编号制度”中的个人数据安全，采取质、量相结合的考评体系，完善各府省信息系统评价体制。2007年韩国实施《推进电子政务战略》，采用“政府主导”模式，打造“足不出户的民政时代”，完成政府流程改造和提升。[18]综上，域外国家推进行政自动化决策的过程中，倾向通过颁布战略规划进行整体布局，甚至上升到国家战略层面。同时，注重构建配套政策或者法治保障体系，即关注基础设施建设、技术研发、资金投入、人才培养、多元参与和数据开放共享等问题，进而保障数字政府建设的现实应用。[19]

（四）理论维度：“敏捷治理”范式的理论支撑

世界经济论坛发布的《敏捷治理：第四次工业革命时代政策制定的重构》正式提出敏捷治理概念，并将其定义为“一种自适应、以人为本以及具有包容性的可持续决策过程，具有柔韧性、流动性、灵活性和适应性特点”[20]。敏捷治理的核心是改变第四次工业革命时期公共政策的产生、分析、决策及执行，“全局、适应、灵活”的整体效能是敏捷治理的独特价值追求，作为数字政府的改革理念、运行机制和治理工具，契合生成式人工智能治理需求，为数字政府建设提供强大推动力。[21]敏捷治理强调的快速感知、持续协调和灵活响应等功能在自动化行政决策中有所显示，也是自动化行政决策的效应呈现。事实上，敏捷治理理论下的自动化行政强调对政府内部及外部社会需求的输入和以数字政府改革为输出的回应系统建设，其不仅可以延续自动化行政决策内涵的弹性理念，即采取建立统筹性组织结构与临时性顶层机构等手段提升政府治理的高效化和灵活性，还能深耕自动化行政决策要义的适应性理念，强调政府在技术发展的外部环境和需求多元的内部结构下，适应以数据要素为核心的时代要求的管理模式改革。可见，“敏捷治理在信息技术的支持下将政府职能通过数字化、网络化、智能化的方式予以延伸”[22]，有效解决了政府行政决策中层次重叠、资本浪费、行政机构运转效率低下等问题，提高了政府决策效率和质量，契合数字政府的韧性、协同、循数和感知机制建设。

四、政府自动化决策责任认定的困境检视

（一）责任认定标准存疑

⒈瑕疵行政决策认定。政府自动化瑕疵决策主要是指由于算法漏洞、数据错误、系统故障等产生的瑕疵结果，常见的有数据来源瑕疵、算法漏洞瑕疵、系统故障瑕疵等类型，严重情况下也包括违法的自动化指令，如存在歧视、违背公平等。[23]在政府自动化决策中，公共数据大多来源于政府提供和申请人自主申报，然而两种数据来源都极易存在数据瑕疵，若不对海量数据加以甄别和筛选，行政决策很可能会被其干扰甚至被带偏方向，造成自动化决策的误判风险，陷入真假数据的迷宫。自动化行政安全问题也会损害信息真实性，进而影响行政决策质量，自动化行政系统直接涉及各级政府核心信息，如病毒破坏、黑客攻击、信息间谍等，都会对自动化行政系统的安全构成威胁。自动化行政系统意外故障会阻碍行政决策过程，在政府自动化决策中，一旦自动化行政系统因自然灾害、人为盗窃、设备破坏等原因发生意外，就会极大影响政府管理和决策功能的发挥。此外，“算法黑箱”可能造成对决策正当程序和公众参与的破坏，算法本身缺乏价值判断能力，行政机关高度依赖算法可能会导致“算法偏见”和“算法歧视”，从而剥夺行政相对人的解释权。

⒉损害效果认定。政府自动化决策损害后果关注相对人的举证困难问题，如行为损害难以发现、举证能力不足、行政机关以及第三方抗辩等。算法隐匿是指算法独立运行后相对于行政机关和利害关系人具有封闭性和不可解释性。因技术天然地具有不透明性，随着技术进步，技术开发者与技术使用者之间的信息不对称愈发严重，开发者和使用者之间形成“技术鸿沟”。[24]举证困难是难以有效认定瑕疵行政决策损害的主要原因。由于“算法黑箱”的隐匿性，无法直接判断出损害侵权行为来源于人为因素或者系统故障，给损害当事人合法权益造成巨大损失，并且在权责难以明晰的情况下，很容易将技术风险转嫁给行政相对人。当政府自动化决策出现瑕疵或者错误时，算法的自主决策容易导致管理者推卸责任，失去對责任人的跟踪，不予公开的自动化决策机制违背了行政公开原则，同时为行政机关算法卸责提供便利条件，从而导致自动化决策的责任承担陷入困境。[25]

（二）责任主体识别困难

在政府自动化决策背景下，多元技术参与主体在某种程度上成为自动化系统的一部分，但并非只是行政主体。同时，由于参与主体的多元性和第三方服务责任的分散性，使得责任难以明确。一是自动化系统的法律主体资格认定引发的责任主体问题。人工智能既具有一定限度的自主性同时又作为工具依附于人类，也使得法学界对人工智能法律地位持不同观点。从法理上讲，在自动化决策中行政决策由自动化行政系统作出，行政机关虽然没有事实参与，但是行政法律关系不会发生改变，责任承担主体依旧是行政机关。自动化行政系统所涉及的责任关系也较为复杂，需要进一步厘清。二是自动化系统提供者与行政机关的责任识别。自动化行政系统辅助决策过程与传统行政决策机制不同，过程中涉及行政组织主体、算法运营主体、算法系统本身以及利害关系人的多方互动。算法决策错误的行政责任无法像传统行政责任一样概由行政主体承担，究其原因，由于算法隐匿、算法偏差等问题的存在，并不单纯来源于行政主体的过错与失职。自动化行政决策中还可能出现第三方开发者介入的情况，开发者在算法实际运作过程中充当着相当程度的行政管理者角色，若以此为依据追究他们的行政责任，则有可能陷入把行政行为与商业活动混淆不清的境地。三是行政机关内部不同部门的责任识别。通常情况下，自动化行政系统面向相对人作出行政决策，并不会说明其从属的部门机构，并且在具体实践中，同一个自动化行政系统涉及多个部门机构的业务领域，不同行政机关共用一个自动化行政系统的情况也相当常见，这就直接导致了行政相对人很难准确识别责任主体。

（三）侵权赔偿标准混乱

在实践中，赔偿大多参照《中华人民共和国民法典》侵权责任编第十章关于建筑物致害和民事诉讼程序的规定，然而公共设施的判定远非“建筑物”概念这么简单，对于自动化行政救济来说，缺乏相应的执法规制和救济机制，相对人的合法权利将无法受到保护。针对侵权赔偿的归责原则，有学者主张，依据过错原则，即关注行政主体的主观想法，存在过错则需要进行行政赔偿。[26]有学者则主张，依据无过错原则，即认为只要造成损害侵权结果，无论是否存在过错都要承担相应责任，不考虑主观因素。[27]行政赔偿不同于民事赔偿，以主观因素衡量判定标准极其困难，导致行政相对人的申诉无法得到保障，其获得赔偿的概率也会大大降低，这显然和公法领域契约精神中控制公权力的原则理念相背离。然而如果只单纯考虑客观因素，则难以划分赔偿与补偿的界限。基于此，建立起一套兼具稳定性、可信性的法定赔偿制度是解决侵权损害赔偿困境的必由之路，将算法推荐服务提供者的侵害后果数字化、货币化能够合理确定算法推荐服务提供者责任，有效赔偿受害人损失。关于如何制定合理的赔偿标准，有学者认为，应根据法经济学的理论划定赔偿标准，受害人不应因损害而获得高于损害所得利益，算法推荐服务提供者也不应因侵权获利而赔偿低于损害所得利益。[28]由于算法推荐侵权的特点，被侵犯的一方可向算法推荐服务者提出请求，索取侵权内容的信息及其传播情况，这有助于准确计算侵权带来的损失，同时，便于受害者采取措施防止或修复未来的损伤。如前所述，算法正日渐脱离辅助工作角色，成为行政资源配置的重要手段。遗憾的是，技术壁垒、算法黑箱、算法歧视等存在侵蚀行政决策中立性、合理性的风险，更会损害行政相对人的知情权、听证权、救济权等程序权利，在此背景下，如何明确政府自动化决策的责任机制变得尤为重要。

五、政府自动化决策法律责任的制度设计

（一）厘清政府自动化决策的责任主体

如何精准识别自动化行政处罚的责任主体是责任机制落实的关键环节。事实上，行政主体本质上为法律拟制。尽管基于底层数据与算法程序，自动化决策可以胜任更复杂的行政决策行为，但其工具属性短期内不会改变。判断责任的核心要素就是“谁”作出了决策，以及责任人的作用。在初级与中阶自动化决策中，自动化系统没有独立裁量权，由行政主体做出最终决定，因而由行政主体承担行政责任并无争议。然而，在高阶自动化决策中，自动化系统拥有独立裁量权并可直接做出决策，如何归责便陷入困境。所以，在自动化决策应用过程中，应首先明确多元参与主体的决策程度关系。质言之，应认识到自动化行政系统的提供者并不能视为行政法意义上的责任主体，错误决策或者瑕疵决策一旦做出，承担相应责任的行政机关能否以第三方追偿并不属于行政法律关系的范畴。事实上，行政机关与技术提供者之间的技术购买服务，本质上属于行政协议，而行政关系中直接面对行政相对人的是行政机关，因此基于系统本身错误亦或是人为失误所造成的后果应由作出行政行为的行政机关承担。值得注意的是，行政机关作为责任主体并不意味着其应当填补所有损失，而应根据瑕疵决策原因，依法或者依约，向设计人员等技术主体、执法人员部分或全部追偿。

（二）健全政府自动化决策的监督评估机制

⒈明确政府自动化决策的监督主体。传统行政监督主体主要包括国家机关内部监督和社会外部监督。其中国家机关能够依法采取相应措施对公职人员进行权力监督并且背后有强制力进行保障，社会组织和公民依据法律赋予的监督权对行政合法性进行外部监督。社会组织监督以保障公众利益为主，时刻保持监督者状态，然而由于算法技术具有高度专业性和不透明性，普通民众常受制于技术掌握不足和“算法黑箱”影响难以对算法程序和过程进行有效监督，使得社会外部监督缺失。基于此，有必要建立起具有专业技术能力的中立性自动化行政监督机构。当社会组织和公民的外部监督方式无法实现监督效果时，需要有关国家机关或者网络媒体发挥桥梁作用对自动化行政进行有效监督。完善自动化行政监督体系首先要实现多元化、多渠道参与政府与企业规制过程，政府和企业在设立自动化行政系统时应广泛征求群众意见，满足群众合法需求;其次要充分公开自动化行政相关信息，拓宽社会公众参与渠道，保障行政相对人合法权益，实现社会公众主体参与自动化行政监督规制的实质效果。[29]

⒉科技赋能政府自动化决策的全生命周期监管。通过事前、事中、事后三个阶段的监督将其予以规范化，在行政治理领域中更好地规范行政权、保障公民权。在事前监督阶段，通过反复测试和审核可检验算法是否公正、合理，行政主体主动公开自动化系统的算法保证公众的知情权，使自动化系统受广大公众监督，及时发现问题并提前解决问题。行政机关及技术开发者要对算法进行反复测试和审核，确保自动化行政算法公正、系统无误。并向公众主动公开自动化行政系统程序和相关信息，保障公众知情权、解释权和拒绝权，接受社会组织和公众监督。在事中监督阶段，通过设立自动化行政系统技术开发者定期履行系统维护、检查、管理的義务，防止自动化行政系统由于故障、崩溃等原因无法作出准确行政行为，通过建立专门性监督机构，实现常态化监督机制。在事后监督阶段，通过及时公示自动化系统作出的自动化行政行为和决策，实现社会对自动化决策的监督。畅通公民反映意见渠道，鼓励公民进行反馈，根据大众的意见完善政府自动化决策。[30]同时，随着大数据、智能化时代的发展，可以通过搭建行政公示信息平台、违法行为投诉举报平台等网络监督平台进行线上监督，进一步促进行政主体与行政相对人之间良性沟通，实现随时沟通、科学执法，提高执法的精确性和科学性。[31]

（三）拓宽政府自动化决策的救济机制

⒈相对人算法解释权。行政法中公开透明原则为算法解释权提供了正当性基础。算法解释权即当政府自动化决策对行政相对人做出具有法律效力的行政行为时，行政相对人有权要求决策方进行解释，乃至持异议要求决策方更正错误或不当的算法决策的权利。[32]这一解释说明的内容包括对行政相对人说明算法决策中数据处理的规则、决策处理过程、决策生成的原因等。算法解释权可以破解“算法黑箱”，通过增加决策透明度以提高算法可理解性与可问责性。对于算法解释权的主体范围应当予以明确，行政领域的算法决策权利主体是受到权益侵害的行政相对人;而在义务主体方面，将算法制造者、控制者纳入侵权义务主体范围内，承担无过错责任或过错推定责任。对于算法解释的标准应当充分考虑相关性与可理解性，算法解释不仅应提供算法决策的理由、个人数据等，也应提供救济的途径，使用通俗易懂的语言，保证解释客体的完整。

⒉相对人算法拒绝权。相对人的程序抵抗权是指在传统行政过程中，如果行政程序出现违法问题，行政相对人有权当即拒绝行政机关所有指令。网络信息技术的发展为相对人算法拒绝权提供技术保障，在自动化行政中，相对人程序抵抗权能够保障相对人充分参与自动化行政程序中，即赋予相对人算法拒绝权，相对人有权拒绝接受政府自动化决策做出的行政行为并随时要求行政主体人工介入等。然而新技术的适用能否契合公民的行政需求是行政机关选择提供何种行政方式首先需要考虑的问题，对于不愿使用自动化系统的行政相对人而言，其有拒绝使用人工智能系统的权利。[33]政府作为公权力一方，有义务为行政相对人提供可供选择的行政方式，政府即使在特定领域提供自动化行政系统，也不应剥夺行政相对人要求人工行政的权利。[34]

3.相对人获得救济权。《中华人民共和国宪法》《中华人民共和国行政处罚法》《中华人民共和国国家赔偿法》均赋予公民获得赔偿的权利。“无救济则无权利”，行政机关作为自动化行政的责任主体理应对政府自动化瑕疵决策造成的损害结果承担相应赔偿责任。自动化行政过程中的行政处罚行为作为行政处罚的延伸发展，同样适用行政赔偿的归责原则，把行政行为是否违法作为行政赔偿的判断标准。[35]根据《中华人民共和国行政许可法》第八条对信赖利益保护原则的规定，因行政机关需要撤回或者撤销行政许可对行政相对人造成损失的，应给予行政相对人补偿。[36]根据自动化行政中多元化参与特征，政府应针对自动化行政系统的评估与认证程序建立相应的责任制度，明确企业及研究机构的责任，经政府机构认证的自动化行政系统的设计者、制造商和销售者依据协议承担有限的侵权责任，以期保障自动化行政系统的规范运行。

【参考文献】

[1]王张华，颜佳华.人工智能时代算法行政的公共性审视——基于“人机关系”的视野[J].探索，2021（4）：82-95.

[2]卢荣婕，赵静波.论自动化行政的法律规制[J].长春理工大学学报（社会科学版），2020（3）：40-44+49.

[3]敖双红，雷金晶.论自动化行政及其法律规制[J].湖南警察学院学报，2017（1）：84-90.

[4]马颜昕.自动化行政的分级与法律控制变革[J].行政法学研究，2019（1）：80-92.

[5]吴锐，张若涵.自动化行政中对人工智能算法决策的程序规制[J].成都理工大学学报（社会科学版），2022（5）：58-67.

[6]韩轶，张婷.行政处罚中人工智能的应用及其边界考量[J].行政与法，2022（5）：77-84.

[7]Ines Mergel，Noella Edelmann，Nathalie Haug.Defining Digital Transformation：Results from Expert Interviews.[J]Government Information Quarterly，2019（4）.

[8]Mateen Harris.Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy[J].Berkeley Journal of Employment and Labor Law，2018（5）：301-302.

[9]张红春，章知连.从算法黑箱到算法透明：政府算法治理的转轨逻辑与路径[J].贵州大学学报（社会科学版），2022（4）：65-74.

[10]陈炳水.推进电子政务：提升现代政府行政能力的现实途径[J].社会科学，2006（6）：50-57.

[11]徐晶.构建服务型政府进程中的行政效率提升研究[D].青岛：青岛大学硕士学位论文，2010：18.

[12]宋贵伦.全面推进中国式社会建设现代化[J].前线，2023（1）：18-21.

[13]Meng Y，Shiyao J，Xiongying N.Can AI really help？The Double-edged Sword Effect of AI Assistant on Employees Innovation Behavior[J].Computers in Human Behavior，2024，150.

[14]尤嵩菀，王文龙.美俄军事智能化发展及启示[J].海军工程大学学报（综合版），2020（2）：64-69.

[15]朱宁洁.新加坡政府开放数据政策研究[J].管理观察，2019（5）：70-71+73.

[16]詹国彬.英国数字政府转型：价值理念、技术工具与制度保障[J].行政论坛，2021（6）：136-143.

[17]卞鹰.德国电子政务建设经验及启示[N].湖南日报，2018-01-30（11）.

[18]廉成，杨飞，张恒烨.韩日电子政务发展状况评析[J].管理观察，2018（19）：84-85.

[19]胡国任.自动化行政的法律控制[J].克拉玛依学刊，2021（2）：52-59.

[20]Ines Mergel，Sukumar Ganapati，Andrew B.Whitford.Agile：A New Way of Governing[J].Public Administration Review，2020（1），161-165.

[21]康伟，周润.基层治理适应性创新探究——敏捷—韧性治理模式的逻辑进路与实现路径[J].理论与现代化，2022（5）：43-55.

[22]曹海军，侯甜甜.敏捷赋能视角下的数字政府建设：实践缘起与理论建构[J].吉林大学社会科学学报，2021（6）：170-178+235.

[23]胡敏洁.论自动化行政中的瑕疵指令及其救济[J].北京行政学院学报，2021（4）：81-88.

[24]尹锋林，李玲娟.算法私人治理的三个维度：主体、内容与方式[J].理论月刊，2021（3）：141-149.

[25]张凌寒.算法自动化决策与行政正当程序制度的冲突与调和[J].东方法学，2020（6）：4-17.

[26]马颜昕.自动化行政方式下的行政处罚：挑战与回应[J].政治与法律，2020（4）：139-148.

[27]邵红红.算法推荐服务提供者的著作权注意义务探究[J].苏州大学学报（法学版），2023（1）：26-39.

[28]李宵.人工智能时代行政执法问题研究[D].南宁：广西大學硕士学位论文，2021：20.

[29]彭卫贞.人工智能背景下自动化行政的法律规制研究[D].天津：天津商业大学硕士学位论文，2020：18.

[30]陆雪.行政法视角下的自动化行政研究[D].苏州：苏州大学硕士学位论文，2021：32.

[31]Kimberly Stowers，Kevin Leyva，Gabriella M.Hancock，Peter A.Hancock.Life or Death by Robot？[J].Ergonomics

in Design：The Quarterly of Human Factors Applications，2016.

[32]解正山.算法决策规制——以算法“解释权”为中心[J].现代法学，2020（1）：179-193.

[33]胡敏洁.自动化行政的法律控制[J].行政法学研究，2019（2）：56-66.

[34]张涛.自动化系统中算法偏见的法律规制[J].大连理工大学学报（社会科学版），2020（4）：92-102.

[35]马怀德，高辰年.国家赔偿法的发展与完善[C]//中国法学会行政法学研究会.修宪之后的中国行政法——中国法学会行政法学研究会2004年年会论文集.北京：中国政法大学出版社，2004：15.

[36]查云飞.行政裁量自动化的学理基础与功能定位[J].行政法学研究，2021（3）：114-124.

The Legal Logic and Limit of Government Automatic

Decision-Making Responsibility Identification

Su Wen

Abstract：Government automatic decision-making is a kind of administrative act that is participated by artificial intelligence，partially or completely replaces the participation of administrative subjects，and realizes the automation，unmanned and even intelligence of the administrative behavior process，so as to produce external legal effects. The significance of administrative automation decision-making has a prominent significance in improving administrative efficiency and adhering to the decision-making neutrality，but many aspects are still exposed，especially in the doubt of the responsibility identification standard，the difficult identification of the responsibility subject，the fuzzy division of the scope of responsibility and the confusion of the tort compensation standard. Based on this，the responsible subject of government automated decision-making should be clarified according to the principle of actual participation and the concept of freedom of contract;clarify the scope of responsibility of government automated decision-making;improve the supervision and evaluation

mechanism of government automated decision-making;form the relief mechanism of algorithm interpretation right，algorithm rejection right and damage assessment standard.

Key words：government automation decision-making;administrative efficiency;responsibility determination;responsibility subject;scope of responsibility

（責任编辑：王正桥）