自动化行政的法律控制

2021-08-23胡国任

克拉玛依学刊 2021年2期

摘要：随着“互联网+政务”政策的深入推进，自动化行政日益成为行政法学和行政实务中的热点问题。然而我国现有的行政法律体系中尚未对自动化行政的问题进行系统化、体系化的法律规制，容易使行政权力的行使超越法定边界，侵害行政相对人的正当权利，导致个案正义缺失、公民程序性权利的架空、行政主体法律责任缺失等诸多法律风险。为此，我国应当对自动化行政的设立施加正当性控制，提升自动化行政过程中程序正义的保障及自动化行政结果的司法救济。

关键词：自动化行政;算法公开;行政责任;法律规制

中图分类号： D922.1 文献标识码：A DOI：10.13677/j.cnki.cn65-1285/c.2021.02.09

欢迎按以下方式引用：胡国任.自动化行政的法律控制[J].克拉玛依学刊，2021（2）60-67.

一、引言

人工智能作为新时代技术载体，已经开始广泛运用于社会各行各业以期输出更高效率，如何将自动化行政技术合法、合理、科学地引入政府治理体系，也成为国家实现简政放权、建设服务型政府所面临的重要议题。对此，国务院2016年专门出台了《关于加快推进“互联网+政务服务”工作指导意见》，要求各级行政机关创新网上服务模式，为公众提供个性化、智能化服务，汇聚城市人口、环境、交通等数据信息，利用大数据辅助行政决策，打造透明高效的服务型政府，推进智慧城市建设。在政策的鼓励、引导下，各地方行政机关也开始在特定行政领域创新推出自动化行政模式，如广州市工商局推出的全程电子化商事登记系统等。

虽然，自动化行政设备已经开始运用到现实的行政中，但也存在以下大量法律问题亟需厘清。其一，我国行政法律并没有对自动化行政概念进行立法定性，明确哪些行政领域可适用自动化行政;其二，一项新的技术运用不可避免地会产生相应的问题，自动化行政在现实应用中也已经显现出个案正义、程序保障等方面的法律缺陷;其三，新行政模式下，行政责任还面临如何承担以及内部追责处理等问题。本文从法律层面对自动化行政基本问题进行思考，借鉴欧美国家对以上问题的探究和立法经验，以期提出有益我国自动化行政发展的法律规制意见。

二、自动化行政行为的法律定性

辅助式自动化行政从本质上看仍是由行政人员作出，因此，辅助式自动化行政作出的行政决定的法律性质仍属于具体行政行为，但是由于完全自主决策的自动化行政全过程系设备自行运作的结果，在制作行政决定过程中不受行政人员意志影响，那么其法律性质是否会受到影响？本节主要分为三大类争议进行分析。

（一）行政行为与行政产品之争

德国曾有学者主张将行政决定区分为“行政行为”和“行政产品”，[1]由行政人员作出的行政决定属于“行政行为”，而由机器制作的行政决定则称之为“行政产品”。区分以上两者的标准为行政决定是否受到人的思想影响，如果受到人的思想影响，由行政人员对具体行政案件进行判断再作出则属于“行政行为”;不受人的意思支配完全由设备作出的行政决定则属于行政产品。这种分类的前提是行政行为的成立必须具备人的意思要素，但是我国主流观点认为是否具有人的意思要素并不影响行政行为成立。[2]应当认为在实现行政管理目的过程中，如果行政机关行使行政权力作出的决定对行政相对人具有法律意义并产生法律效果就属于行政行为。因此，笔者认为不管是依照行政人员的意思还是按照自动化行政的程式作出的行为，只要是基于行政管理目的作出并且对行政相对人权益产生影响的决定都属于行政行为。

（二）事实行为与法律行为之争

上文已经探讨了自动化行政所作出的决定属于行政行为，但是前期设立自动化行政行为的法律性质则需进一步探讨。单纯设立自动化行政系统的行为并不直接产生、变更或消灭行政机关与行政相对人之间的法律关系，因此，设立自动化行政系统的行为应定性为事实行为，但是设立后自行运作的行政活动会对行政相对人的程序性和实体性权利产生影响，譬如在程序性权利上的影响有申请工商登记系统中行政机关的告知义务的缺失等，在实体性权利上的影响有自动驳回行政相对人的工商登记申请装置等，实际上涉及到当事人申请条件不符合的标准判断问题。因此，设立自动化行政虽然是事实行为，但是因其后续的自我作业紧密涉及行政相对人的合法权益，设立自动化行政的行为也应当受到比一般行政事实行为更严格的法律规制。

（三）具体行为与抽象行为之争

具体行政行为与抽象行政行为属于法律行为的下位概念，具体行政行为是指行政机关针对特定的人或者特定的事所作的一次性处理的行为，而抽象的行政行为则是行政机关作出的具有普遍性的可以反复适用于不特定对象的行为。自动化行政虽然可以反复适用于不特定的对象，但是所处理的事项具有特定性，亦即设立自动化行政的目的就是为帮助行政机关处理特定事务，而且适用自动化行政的相对人也需符合特定的条件。如在广州市工商局的电子化商事登记系统中，对受理登记的主体要求和人工系统的商事登记要求并无二致，所以，行政机关根据自动化行政作出的行政决定应属于具体行政行为。

三、自动化行政面临的法律风险

自动化行政作为崭新的行政模式，其已经出现的法律风险未能被原有的法律法规所规制，本部分旨在梳理适用自动化行政可能带来的法律风险。结合当下的自动化行政系统，笔者将从自动化系统的适用难以实现个案正义、部分行政程序被架空以及行政责任的缺失与推诿三个方面展开分析。

（一）自动化行政难以兼顾个案正义

1.不具备人主观意识的法律解释能力。行政机关行使裁量权时需要考虑法律目的相关因素，但是现有的自动化行政设备并不具有行政人员对案件事实的价值判断和依经验填补不明确事实的能力。由于人类所使用的语言具有模糊性、多义性，法律法规的用语無法做到完全精确，导致法律法规的条文中难免会有一些不确定的概念，例如公共事务、随意殴打、夜间、危险等词语，在处理具体的案件中会涉及对这些词语进行解释的问题，自动化行政系统并不能在具体案件中对这类不确定的词语进行正当解释。同时，人工智能运行中因为法律的实体性规定存在空白和法律程序性规定的缺失也容易导致自动化行政输出结果在个案中显失公正。[3]即使乐观地认为未来人工智能结合深度学习、大数据等科技，可以对这些模糊、多义的词语进行拟人化解释，但如何保证机器人的解释不会向善法的对立面发展。深度学习虽然使自动化设备具有一定的自我学习和演进能力，但是其决策结果也将变得更加难以预测。

2.算法歧视与算法暗箱对公平公正的损害。人们理想中的自动化行政应当是客观中立、公正无私、没有自身利益追求也不具有主观成见的，但实践中却越来越多地表明自动化系统运行过程中，由于现有历史数据、算法模式、适用环境等原因，极有可能在自动化作出行政决定时存在歧视和偏差。例如，美国波士顿政府利用民众的智能手机动作感应系统来评估道路颠簸情况，以便更好地解决道路坑洼问题。[4]但是系统数据结果却反映富裕地区比贫困地区更为颠簸，并建议市政府将更多的资源投入富裕地区。但事实是因为富裕地区的智能手机和应用程序的使用数量更多才导致数据出现偏差。自动化行政的算法程式还会牵涉到技术开发者的商业秘密以及数据库信息来源隐私等问题，使算法程式开发者、控制者不愿将算法运行细节向公众公开。这些因素会使行政决策过程变成一个“暗箱”，行政相对人无法知情行政决策作出的过程，难以对自动化作出的决策产生信服，剥夺了当事人的知情权，也和现代行政法治理念背道而驰。

3.运算模式固定，自由裁量权容易僵化。自动化行政系统在运用于行政机关之前就已经设定了运算程式，系统的运行完全遵循设定的唯一程式，容易导致行政自由裁量权僵化。对于裁量性行政，不同的案件需要考量的具体相关因素并不相同，而行政自动化系统的统一程式无法考虑具体个案中的相关因素，违背了行政合理原则。以网上招生系统为例，设置分数高低作为学生水平排序的唯一标准，不考虑考生的具体情况，排斥高校在招生过程的自由裁量权，可能导致有些艺术特长突出的学生由于文化课分数过低而无法被录取，这种提前固定的程式虽然容易达成社会一般正义，却难以实现个案正义。自动化行政很难考虑具体个案中不同的情节，只能对相似的案件进行相同处理，这种行政方式虽满足合法行政原则，却和现代合理行政原则不相符。

（二）对现有部分行政程序的架空

程序正义是衡量现代法治政府的一个重要指标。在行政过程中坚守程序正义是法治政府的必然前提，那么，自动化行政会对现有哪些正当程序造成冲击？以下将从适用自动化行政对行政相对人陈述申辩权、行政结果送达方式、行政过程信息公开三个方面的影响进行分析。

1.相对人难以与行政设备进行沟通对话。行政相对人是否可以和行政主体进行沟通对话是区分自動化行政与传统行政的一个明显特征，自动化行政设备作为“物”的形式虽然提高了行政效率，但在行政过程中行政相对人很难与之进行沟通对话，极有可能损害行政相对人的合法权益，特别是在行政处罚类案件中，行政相对人的陈述、申辩权无法得到有效行使。出于以人为本的考量，即使是处理无需听取行政相对人陈述申辩的案件，行政相对人提出的意见、质疑也应当得到充分听取和积极反馈。尽管设想自动化行政设备未来能够进行拟人化设计，使其在外观上能够与当事人进行“对话”，但设备运行程式反应的机械性仍然无法与行政人员的灵活沟通相媲美。

2.自动化行政结果送达时间更加模糊化。与传统行政相比，自动化行政的送达方式也发生了变化，电子技术的运用使送达行政结果的方式更多地以电子文件进行传输。一般的行政决定自行为成立时就开始具备法律效力，但对于以送达为生效要件的行政决定而言，自动化行政作出的行政决策何时生效呢？由于我国没有统一的行政程序法典规定送达标准问题，我国行政法上的送达标准主要参照民事诉讼法关于送达的规定，认为以受送达人确定收到电子文件为生效要件，这种“确定”是指行政主体和受送达人之间具有事先约定或者法律的明确规定为前提。如果自动化行政系统当场作出并当场送达，此时行政决定即刻生效，但如果相对人在行政决定作出的延后时期才收到决定文书，此种情况下何时为行政决定生效时间关系到行政相对人的切身利益，有必要进一步探讨并从立法上予以回应。

3.行政信息代码化使公众难以理解。自动化行政虽然提高了行政效率，不过由于算法歧视、黑箱操作等情况，行政相对人的权益也更容易受到侵蚀。[5]对此美国学者主张代码公开、设置公众参与程序等来实现程序正当的行政过程透明化和可监督性。[6]公开运行代码可能是最直接的方式，但是系统代码的公开并不能完全解决自动化行政的审查和监督问题。因为非专业的行政相对人无法辨识系统代码，即便具备相关专业知识，也不一定能理解代码的运行所产生的效果，因为这些系统代码并没有公开具体的决策规则，只披露了机器学习的手段。[7]因此，如何使自动化系统的行政过程更加公开透明、易于理解也是未来行政立法中需要考量的问题。

（三）行政责任的推诿

1.技术应用者责任与治理者责任的推诿。由于技术的应用可能存在“技术失误”，并且现阶段人工智能不具备责任主体资格，无法承担行政责任的后果，从而衍生出自动化行政错误由谁承担责任的问题。自动化行政设备的“应用”属性和“技术”属性的具体样态决定其责任承担主体存在模糊性，亦即自动化行政模式下的技术应用者责任和治理者责任存在重叠。技术应用者责任是指将具体行政人员履行的职能以自动化的程式内嵌入设备之中的技术者承担的责任风险，由于绝大多数行政人员并不具有编程设计的知识，自动化设备的技术性问题一般由行政机关委托专业部门或者行政系统外部人员进行设计，技术者应当承担设计自动化程式技术出错导致行政决定错误的责任。而治理者责任是指由负责自动化行政的行政机关对行政相对人承担的由自动化行政错误导致损失的责任，负责自动化行政的政府部门作为作出行政行为的行政机关，以其作为责任主体也符合我国现有的责任追责理念。但以行政相对人视角看，其无法准确定位自动化行政技术者并向其追偿责任，必须赋予行政相对人明确的行政责任承担主体。

2.行政人员瑕疵责任与公物管理瑕疵责任的推诿。现有行政责任类型主要分为公务员行使行政权利导致侵权损害后果发生的“人的瑕疵”责任，以及行政公物设施设置和管理导致侵害行政相对人权益的“物的瑕疵”责任。[8]“人的瑕疵”责任案件为违法归责原则，亦即公务员的行为必须具备违法性且原则上要求行政人员主观上具有过错，而公物瑕疵适用的是危险责任原则，并不要求违法性。在行政案件中明确自动化行政行为的侵权责任性质是“物的瑕疵”责任还是“人的瑕疵”责任十分必要，因为“人的瑕疵”与“物的瑕疵”责任所适用的救济途径是完全不同的。基于现阶段完全自动化行政并不成熟，有学者主张在行政处罚案件中，自动化行政错误应认定为“物的瑕疵”。[9]其主要依据是自动化作为一项新技术，在适用过程中不可避免地会出现一定瑕疵，而对于这种技术风险的责任不应由行政相对人承担。但是主张支持这一依据就必须承认自动化行政瑕疵的救济程序应当适用民事诉讼程序的悖论。如不明确自动化行政瑕疵的责任形式，则有可能导致行政主体以“物的瑕疵”为借口滥用自动化系统，逃避承担相应的行政责任。

在现代行政法上，不应当允许行政主体只实施行政活动而不对自己的行政行为承担责任。[10]但是自动化设备行政下的技术应用者责任与治理者责任以及行政人员瑕疵责任与公物瑕疵责任划分存在模糊性，容易让本应当对自动化设备做出的行政行为承担责任的部门推诿责任，由此导致权益受损的行政相对人无法确定以哪个部门为主体主张自己的合法权益，明确对自动化行政错误的责任承担，是合法正当适用自动化行政的基本前提，也是建设权责统一法治政府的基本要求。

四、我国自动化行政法律控制路径完善

（一）自动化行政的正当性控制

1.在行政基本法中对自动化行政进行授权。自动化行政作出的行为虽然属于具体行政行为，但与传统的行政模式相比存在较大差别，譬如：（1）行政结果的可预测性。自动化行政是由设置算法程式作出的行政决定，其运行模式严格按照行政行为作出前设定的算法进行输出，传统的行政模式是由具有主观意志的行政主体按照法律法规行使决策权，行政决定虽受到法律的规制，但是对于具有裁量权的行政案件，行政决定也容易受到个人意志的影响;（2）行政对话模式不同。自动化行政的对话模式为“机器-行政相对人”，而传统的行政对话模式为“行政主体-行政相对人”，行政权作为公权力以“物”的姿态和行政相对人进行对话的形式在法律上应当受到更严格的约束;（3）以效率为导向的自动化行为更容易忽视个案正义问题。社会各行各业之所以急迫地引入自动化设备的原因之一就在于提高效率，而提高效率的办法就是集中关注案件的共性进行批量式作业、格式化产出，这与传统具体行政行为更关注个案特殊性有所不同。法治政府的要义在于法无授权不可为，基于自动化行政与传统行政的差异，我国可以参考德国的立法模式。尽管没有统一性行政法典，但也应当在适用自动化的行政基本法中授权行政机关实施自动化行政，唯有授权，行政机关利用自动化行政设施进行行政才具备正当性、合法性。

2.算法的公开。行政公开透明是现代法治政府的必然要求，同时公开也是避免自动化行政算法出现歧视、暗箱操作等情形的重要举措。即在设立自动化行政系统时应当向公众公开算法流程，披露如何开发设计算法、开发算法时的考量因素等。[11]在传统的行政方式中，除了不产生外部效力及国家秘密类等一些特殊行为不公开外，行政机关的信息应当以公开为一般性原则，而将来行政机关在某些领域采取了自动化行政的方式，不能因为算法寄身于代码而有特殊豁免。针对难懂的代码可以通过技术和专家的力量使用通俗语言进行转化，使编码可视化和可识别化，从而使行政相对人可以知晓行政决定的相关依据。[12]但是，强调公开的同时也需要兼顾安全性，代码对于自动化行政本身具有特殊性，对于一些影响设备安全性质的代码，经过审查小组的审查，应当赋予其享有一定的公开保留权，以保证自动化行政系统的安全运行。

3.审核自动化行政项目设置的合法性。由于自动化行政算法具有先设性，所以如何保障行政相对人的权益不仅需要设立事后救济手段，更需要在自动化行政项目立项前进行合法性审查，以保障自动化行政的设立及后续行政合法、合规。建立自动化行政问责机制，利用专家或专业组织等外部力量从公共利益视角确保自动化行政系统理性运行。[13]未来我国自动化行政立法可以参考美国纽约州的《行政自动化法案》模式，即由负责自动化行政的立法部门外聘或组织立法成员外的专家成立专项小组对自动化行政所涉及的制定标准、自动化行政的依据及解释、行政相对人信息的收集归纳等问题的合法性进行考查、评估，对于较大可能出现的侵害行政相对人权益的情形提出救济方案，并将形成的小组审查意见在立法部门的网站上向社会公示。负责审查自动化行政合法性小组的独立性必须得到保证，小组成员基于自身的专业知识有权独立对自动化设备进行审查而不受任何团体、部门、个人的干涉，审查小组制作的审查意见报告应当不被删改地公布于立法部门网站以供公民查询，保障公民的知情权和监督权。

（二）自动化行政程序正义的保障

1.增加公民自动化行政的选择权。自动化行政属于时代发展的技术产物，目前正处于适用自动化行政的初始阶段，新技术的适用能否契合公民的行政需求是行政机关选择提供行政方式应该优先考虑的问题。首先，政府作为公权力一方，从合理行政角度看，政府有义务在其职责范围内提供可供行政相对人选择的行政方式;其次，受时代教育的限制，普通民众中仍有一部分没有接触过互联网知识，无法规范地使用自动化设备并按设备步骤指引进行相关行政操作;再者，从行政便民角度出发，政府即使在特定领域提供了自动化行政窗口也不应成为免除提供人工行政的理由。同时，对处于前期的自动化行政技术是否足够稳定等因素考量，也应当提供赋予公民自动化行政的选择权，而不是完全摒弃人工行政。

2.确定“送达生效”规则。自动化行政的送达模式与传统行政的送达模式存在较大的区别，随着互联网等技术的进一步发展，自动化行政的送達方式也转变为以数字化、电子化形式履行送达义务。[14]行政决定产生法律效力的时间原则上从该决定作出时生效，但对于由自动化行政作出的以送达为生效要件的行政决定，只有当该决定送达行政相对人时才发生效力，亦即电子文件的送达是指能够确定受送达人接收到了电子文件，这种“确定”需要有法律上的明确规定或行政主体与受送达人事先的约定为前提。未来的立法中，在自动化行政程序中应当坚持“到达主义”的概念，依据不同的自动化行政活动具体考量和确定“送达”的标准问题，因为唯一的“到达主义”标准并不能涵盖所有自动化行政的送达模式。电子文件对技术性要求要高于书面文件，譬如出于技术等原因可能导致行政相对人无法接收或者打开自动化行政送达的电子文件，此时行政决定应当视为没有有效送达，否则相对人的正当权利将无法得到保障。同时，还应当设立自动化行政送达规则的程序瑕疵补正制度，对于因为技术等原因致使行政相对人无法收到行政决定的电子文件，应当视为该行政决定没有生效。对于已经收到但是打不开电子文件的情形，行政相对人应当在法定期限内要求行政机关重新送达行政决定。对于重新履行的送达，如果该决定合法有效，则此前浪费的时间属于期间的中断;但如果行政相对人没有要求行政部门重新送达，则原先的送达行为视为有效，行政决定自收到之日起生效。[15]

3.自动化行政异议纠错机制。首先，行政部门应当通过对自动化设备运行程序数据的处理，将自动化设备的运行程序转化为行政相对人可识别的程序语言。在批量化行政中将作出行政决定的依据及理由转化为行政相对人可识别的语言形式，在作出的行政决定中以格式化的文字进行理由说明。应当设置一些对于自动化行政的补正措施，如设定数据输入合理区间，对于行政相对人数据输入异常的案件，自动化设备应当进行预警提示，提醒行政人员及时进行人工审查防止自动化设备进一步作出损害行政相对人权益的行政决定。其次，自动化行政中对于行政相对人程序性事项无法自行处理时，应当提醒行政部门将其转化为人工程序。如在需要举行听证的行政决定中由于自动化行政无法实现听证程序，此时应当转由行政人员来处理。同时，行政相对人对自动化作出的行政决定有异议的，应当允许相对人提起行政复议，但由于行政决定并不是具体部门的行政人员作出的，因此并不需要完全参照现有的行政复议法规定向上级部门申请，而可以由负责自动化行政的部门工作人员进行审查即可。

（三）自动化行政行为可诉性的探索

1.自动化行政对外责任承担主体的明确。随着自动化行政的自主决策性能的发展，越来越多的学者认为，行政责任问题才是现实中面临的突出难题。由于立法滞后性原因，当初国家赔偿法立法设计时并没有预料到行政方式会向自动化趋势发展，使现有行政赔偿法缺乏对自动化行政错误进行规制。当国家行为对特定公民的权益造成损害时，不管政府人员是否存在过错，国家都应对其采取救济措施。[16]自动化行政在以服务和效率为导向的同时，也需要关注和保障公民权利的实现。行政诉讼作为一项行政救济措施，当行政机关的行政举措侵害了公民正当权益时就应当赋予公民诉讼的权利。就此而言，在自动化行政条件下结合我国实际情况，对损害公民权益的自动化行政行为进行可诉性探索，使国家赔偿法的体系更加完善。

上文已经分析了把自动化行政瑕疵归为“物的瑕疵”适用民事诉讼程序具有不合理性，现阶段人工智能体并不具备承担责任的能力，无法承担相应的行政责任。那么自动化行政瑕疵责任是否可以归结于行政主体？首先，自动化行政系统虽具有“物”的外观但具备作出影响行政相对人权利义务的具体行政行为的功能，不同于行政机关所提供的一般满足公共需求的公物;其次，行政主体对于自动化行政的瑕疵存在过错，譬如设置自动化行政系统时考量因素欠缺或技术障碍等原因;再次，自动化行政是行政主体将其法律赋予的行政权转移至自动化系统行使，其本质仍是代表公务员做出的行政行为，因此可将其瑕疵责任置于具体责任人或机构的体系之下。在自动化行政中，负责自动化行政的部门属于具体行政行为的作出部门，是承担赔偿义务的主体，从行政相对人缺乏专业技能及从公信力和效率的角度审视，即使是由自动化设备的技术人员代码设计出现错误而造成的损害，也应以实施自动化设备部门为被诉主体，当行政相对人诉讼得以完结后，再由行政机关进行内部责任追诉。

2.自动化行政中举证责任的分配。在行政诉讼法中，原告的举证责任原则上只需证明行政机关有作出具体行政行为即可，而被告则需要对所作出的具体行政行为合法性承担举证责任。但是在自动化行政领域，全流程都是以电子记录为痕迹，而识别电子证据需要具备较强的专业知识，同时现有的大量电子数据也由专门行政部门或者网络服务商掌控，随着自动化技术的进一步应用发展，这些部门或服务商愈加成为持有电子证据的强势一方，行政相对人没有能力对自动化行政产生的电子数据进行收集。基于人工智能基础的自动化行政一般会在交互双方之间的设备上留下相关电子信息，但是持有电子信息数据的双方存在非对称性，造成行政相对人举证困难，此种情况下，法律应当依据各方举证能力的大小重新分配举证责任，即具有绝对优势的行政主体方应当对电子类的证据承担更多的举证责任，而对于弱势方的原告在法律上应当给予更多的倾斜以减轻举证责任分配，从而更加凸显出行政程序法中的实质正义精神。

结语

新技术的出现及发展对一个社会的制度变革能起到催化作用，而行政法作为一个国家法律体系的一部分，无法以闭门造车的方式实现自我发展，其更新与发展深受国家的经济、政治、科技水平等因素影响。自动化行政的推进与行政法治的发展相互作用，自动化在行政领域的应用能极大地提高现有行政效率，提升行政的服务质量，也能更加便捷人民群众。然而，自动化技術没有办法完全取代行政制度本身，自动化行政的正确运行必须依靠一个好的制度支持和保障，才能促使社会向良性方向发展。因此，我们必须理顺科学技术的应用和法律制度建设之间的关系，解决好自动化行政过程中出现的法治难题，从而有效推进国家治理体系和治理能力的现代化。

参考文献：

[1]陈敏.行政法总论[M].中国台湾：新学林出版有限公司，2011：683.

[2]张正钊，胡锦光.行政法与行政诉讼法[M].北京：中国人民大学出版社，2015：77.

[3]李帅.人工智能的风险预测与行政法规制——一个功能论与本体论相结合的视角[J].行政管理改革，2019（10）：50-58.

[4][美]奥马尔，朱尔斯·波洛涅茨科.驯服魔像：道德算法决策的挑战[J].北卡罗来纳法律与科技杂志，2017：125-173.

[5]宋华琳，孟李冕.人工智能在行政治理中的作用及其法律控制[J].湖南科技大学学报（社会科学版），2018（6）：82-90.

[6][美]丹尼尔.技术程序正当性[J].华盛顿大学法学评论，2007（85）：1249-1313.

[7]沈伟伟，薛迪.可问责的算法[J].地方立法研究，2019（4）：102-150.

[8]陈新民.行政法学总论（第九版）[M].中国台湾：三民书局出版社，2015：400.

[9]马颜昕.自动化行政方式下的行政处罚：挑战与回应[J].政治与法律，2020（4）：139-148.

[10]孙笑侠.法律对行政的控制[M].北京：光明日报出版社，1999：168.

[11][美]罗伯特·布劳尼斯，艾伦·古曼德.算法透明的智慧城市[J].耶鲁法律与科技杂志，2018（3）：103-176.