嵌入与转型:人工智能赋能国家监察的系统逻辑与治理之策
2024-10-14王译李嘉飞
[摘 要]
人工智能赋能国家监察是数字时代深入推动国家监察体制改革的重要抓手。基于数字纪检监察体系构建的现实目标,人工智能赋能国家监察的系统演进逻辑体现为三重维度,即从个案监察到系统治理的价值转向,从人力监察到智能监察的动力转换及从电子监察系统到人工智能系统的技术进步。在助推纪检监察工作数字化智能化转型时,监察实践面临技术依赖、数据壁垒、数据泄露及算法技术缺陷等技术应用风险。在人工智能的工具理性与纪检监察工作的价值理性之间,立法应寻求相对平衡的规制进路。化解人工智能赋能国家监察的技术和观念风险,以人工智能的辅助性定位为基础,考量建立健全监察数据共享机制,夯实监察数据全流程管理保障机制,增强人工智能生成结果的可接受性等规制方式的合理性与可行性。
[关键词]
人工智能;国家监察;能动监察;数据壁垒
中图分类号:D630.9 文献标识码:A 文章编号:1008-410X(2024)05-0043-10
DOI:10.16029/j.cnki.1008-410X.2024.05.005
收稿日期:2024-08-10
作者简介:
王 译(1988-),男,湘潭大学法学学部副教授,湖南省首批新时代党的创新理论体系化学理化阐释创新团队成员,湘潭大学纪检监察研究院特聘研究员,博士,湖南湘潭 411105;李嘉飞(1999-),男,湘潭大学纪检监察研究院研究助理,湖南湘潭 411105
本文为国家重点研发计划重点专项“智慧司法科学理论与司法改革科技支撑技术研究”(批准号 2020YFC0832400)、湖南省社科基金青年项目“电子微腐败监察治理机制研究”(批准号 23YBQ055)和湖南省教育厅党的二十大精神研究专项“在法治轨道上全面建设社会主义现代化国家研究”(批准号 23B1142)的阶段性研究成果。
一、问题的提出:人工智能何以赋能国家监察
党的十八大以来,以习近平同志为核心的党中央从党和国家全局的高度,对构建不敢腐、不能腐、不想腐机制作出重大部署。
2018年,国家颁布的《中华人民共和国监察法》(以下简称《监察法》)第15条从法律层面将包括基层群众性自治组织中从事管理的人员在内的所有行使公权力的公职人员纳入监察对象范围,以期实现国家监察全覆盖。
随着监察体制改革的深入推进,科学严密、系统完备纪检监察法规体系处在不断完善过程之中。经过口语传播时代、文字传播时代和印刷传播时代后,人工智能、云计算、大数据及区块链等新兴技术的发展,将人类带入了数字时代和智慧社会[1](P3),数字技术日益融入国家治理、社会治理与人民生活的各领域和全过程。但不容忽视的是,数字技术应用场景的延伸给国家监察职能的实际运行带来了挑战,主要包括腐败强隐形化、高科技化、复杂化及多源化的现实风险[2]。
亟须将人工智能等数字技术应用于国家监察领域,为国家监察信息化、数字化与智能化发展注入新动力。
党的二十大报告提出,加快建设网络强国、数字强国,具体到国家监察领域,就是要不断更新完善纪检监察工作的基本理念和工作模式,将人工智能、大数据等数字技术运用于智慧监察建设过程中,持续深入推动纪检监察工作数字化转型升级。人工智能赋能国家监察的核心内涵为“人工智能+纪检监察”,主要表现为将人工智能等数字技术与纪检监察工作相融合,以数字化、数据化的国家监察模式助推国家监察全覆盖的实现。面对数字时代“隐形腐败”“微腐败”等新型腐败现象,通过人工智能等数字技术与纪检监察体制的融合,实现国家监察数字化转型升级,构建以新技术、新模式应对数字时代新型腐败问题的国家监察模式成为时代发展的需要。人工智能等数字技术赋能国家监察在我国理论与实践领域如火如荼地展开。有学者基于数字化监察所呈现的智能化、高效化等多元特征,从制度、导向、资源及供需四个层面剖析了数字赋能监察所面临的现实矛盾[3]。有学者从数据、算法与算力三要素视角阐释了人工智能赋能国家监察的应用场景[4]。还有学者从权力监督理念、体系、场景、人才培养等维度阐释了人工智能赋能权力监督的发展路径[5]。学界多侧重于从宏观视角探讨人工智能等数字技术赋能国家监察的必要性、基本特征与应用场景,或聚焦于制度、导向、资源与供需等视角探索数字技术赋能国家监察的推进道路,鲜有针对人工智能赋能国家监察风险研判的专门研究。由于国家监察领域相对于司法而言具有隐秘性、政治性与相对独立性等特殊属性,针对人工智能赋能国家监察风险规制问题具有较强的研究价值。本文以数字时代背景下人工智能赋能与数字纪检监察体系构建的融合为切入点,深入剖析人工智能赋能国家监察的逻辑理路与潜在的风险问题,旨在探寻一条既服务于人工智能与数字纪检监察工作融合发展又能规制潜在风险的中国特色纪检监察路径。
二、赋能逻辑:人工智能赋能国家监察的逻辑理路
价值内涵、驱动方式与现实需求构成人工智能赋能国家监察的闭环逻辑链。能动监察与系统治理是助推数字纪检监察工作高质量发展的价值逻辑,人工智能等数字技术创新与数字纪检监察体系构建政策引领是催生人工智能赋能国家监察的新动力,而国家监察全覆盖的现实需求与电子监察系统前期探索经验转化的应然需求则是助推数字纪检监察工作高质量发展的现实要求。
(一)人工智能赋能国家监察的价值逻辑
1.从“被动监察”到“能动监察”。 问题线索是监察机关办理职务违法与职务犯罪案件的源头和基础。在传统国家监察模式中,监察机关的问题线索主要来自信访举报、司法机关或者其他执法机关案件移送及监察机关在监督执纪执法过程主动监察,除监察机关在监督执纪执法过程中监察发现的问题线索属于主动监察外,其他问题线索来源渠道总体属于“别人举报什么监察机关就查什么”。受限于问题线索发现难、来源渠道窄及主动获取不及时,使传统国家监察呈现被动监察与等靠监察的显著特征。监察机关作为宪法所规定的行使国家监察职能的专责机关,须依法对行使国家公权力的公职人员进行能动监察,推动国家公权力运行法治化与廉洁化。在“万物互联”的数字时代,隐藏着海量职务违法与职务犯罪问题线索的数据为实现“被动监察”到“能动监察”的实质性跨越提供了契机。数据是实现监察机关从“被动监察”向“能动监察”跨越的基石。任何职务违法或者职务犯罪都构成一条完整的信息链接,监察机关只要充分利用人工智能等数字技术对海量数据进行筛查、比对,即可排查出涉嫌职务违法或者职务犯罪的问题线索,从而为监察机关精准、高效、能动履行职务违法或职务犯罪监察职能提供新动能。
2.从“个案监察”到“系统治理”。监察机关在梳理、比对、分析已办理公职人员职务违法或者职务犯罪案件的基础上探寻具有共性的类案,通过挖掘类案背后的深层次原因推动系统治理。作为行使国家监察职能的专责机关,监察机关既要从前端的职务违法或职务犯罪预防性监察到末端的职务违法处置或者职务犯罪移送起诉,约束公职人员公权力的行使[6],
更要通过办理、分析职务违法或者职务犯罪案件来探寻权力腐败背后的深层原因。在传统国家监察场域下,囿于问题线索渠道窄、监察手段滞后及数据规模不足等因素限制,监察机关对公权力的监察偏重于个案办理,很难从源头上遏制权力腐败行为的发生。人工智能等数字技术的赋能为从“个案治理”到“系统治理”的阶段性转变提供了技术支持:一方面,监察机关可在利用人工智能等数字技术实时收集与分析公权力运行动态数据的基础上,及时发现公职人员的异常行为,从源头扼杀公职人员权力腐败的苗头;另一方面,监察机关可基于梳理、比对职务违法或职务犯罪类案的共性,对问题线索展开全面、深入的核查与分析,探寻此类职务违法或职务犯罪案件的诱因,通过铲除滋生腐败的土壤与条件来实现对权力腐败行为的源头治理。
(二)人工智能赋能国家监察的制度逻辑
1.人工智能等数字技术创新的动力引擎。 大数据、互联网、人工智能等数字技术的发展深刻改变人们生产生活方式的同时,为推动国家治理体系与治理能力现代化提供了动力引擎。具体到监察领域,通过人工智能等数字技术赋能国家监察,可有效破解传统国家监察模式中监察主动性不足、人力监察效能不足、前端预防性监察不足等难题。从数字基础设施层面观之,以5G基站建设、人工智能与大数据为代表的数字基础设施已成为数字中国建设的底座。我国已建成全球规模最大、技术领先、性能优越的5G网络,2022年我国数据产量位居世界第二,全国互联网普及率达76.4%,
以上成就的取得为国家纪检监察工作的高质量发展与数字化转型奠定了坚实的物质和技术基础[7]。从人工智能赋能运行过程层面观之:一方面,监察机关可借助人工智能等数字技术对已办理的职务违法或职务犯罪案件进行梳理、分析,建立“类案数据库”与职务违法或职务犯罪案件“智能量纪辅助办案系统”,为监察机关办理同类案件提供办案规范、法律适用等参照标准,以抑制监察办案人员自由裁量权的滥用;
另一方面,监察机关可借助人工智能等数字技术对监察对象公权力行使过程中形成的数据进行深度剖析,及时发现隐藏职务违法或职务犯罪的风险数据,精准破解“隐形腐败”“微腐败”等新型腐败,有效提升腐败源头治理、系统治理的双重目标。
2.数字纪检监察体系构建的政策引领。 在数字时代,随着系列数字纪检监察体系建设国家政策的发布与落地,我国数字化、智能化纪检监察工作的步伐不断加快。2018年,中央纪委国家监委印发的《中央纪委国家监委信息化工作规划(2018-2022年)》明确要求各级纪检监察机关探索运用互联网、大数据和信息化手段,推动纪检监察业务与现代信息技术深入融合。
2021年,中央网信办印发的 《“十四五”国家信息化规划》提出提升党政机关信息化建设水平与推动纪检监察工作数字化规范化智能化的要求。2023年,二十届中央纪委二次会议又提出构建贯通全流程、全要素的数字纪检监察体系的要求。2024年,二十届中央纪委三次会议再次强调推动数字技术深度融入纪检监察各项业务,建设一体化工作平台。面对数字时代人工智能等数字技术给国家治理带来的发展机遇与挑战,
我国从顶层设计层面积极回应。以人工智能等数字技术赋能国家监察,不仅是推动国家纪检监察工作高质量发展的应然要求,更是数字时代推进数字中国建设的应有之义。以人工智能为代表的数字技术可以促进各级纪检监察部门之间数据共享、高效协作、顺畅交流,构建科学高效的数字纪检监察工作体系机制,从而推动国家监察模式的数字化转型。
(三)人工智能赋能国家监察的发展逻辑
1.实现国家监察全覆盖的现实需求。构建全覆盖的国家监察体系,既是深入推动党风廉政建设与持续推动反腐败斗争的迫切需求,更是健全党和国家监督体系的必然要求。《监察法》以国家法律的形式实现了对所有行使公权力的公职人员的全覆盖监察,实现了由改革理念到制度实践的跃升。《监察法》第1条在确立“实现国家监察全覆盖”立法目的的同时,从监察客体、监察对象及监察事项三个层面对监察全覆盖的范围作出明确规定[8]。其中,监察对象的涵盖范围直接决定了“监察全覆盖”的外延,也限定了国家监察权行使的法律边界[9]。《监察法》第15条尽管以法律条文的形式将监察对象的范围从原来的行政机关及其工作人员,扩大到所有行使公权力的公职人员,但受限于监察主体力量薄弱、基层人情关系羁绊、腐败信息捕捉滞后及办案经验缺乏等因素,监察机关对监察对象的监督未达到预期效果,亟须以人工智能等数字技术为依托,将包括基层群众性自治组织中从事管理的人员在内的公权力行使人员的廉政信息转化为数据要素,从而为监察机关及时发现职务违法或职务犯罪案件问题线索提供信息渠道,实现对所有公权力行使人员监察的全覆盖。
2.电子监察系统前期经验转化的应然需求。 在顶层设计与基层探索的推动下,我国纪检监察工作数字化、智能化及信息化建设已取得显著成绩。人工智能赋能国家监察作为国家纪检监察工作创新与人工智能等数字技术相融合的产物,其雏形源于2000年以来深圳等地方政府在电子监察领域的探索[10]。从发展历程层面观之,深圳于2004年试运行的电子监察系统作为廉政制度创新的产物,在诞生之初已具备实时监控、预警纠错、绩效评估及信息服务功能[11]。青岛于2008年启动包含政府行政权力规范运行监督与纪检监察机关业务运行两部分内容在内的“信息网络技术在重要行政权力阳光运行及纪检监察业务工作中的应用研究项目”,为其他地方建立电子监察系统提供了更为系统与全面的借鉴价值[12]。贵州于2015年启动的“数据铁笼”行动计划以大数据产业与互联网技术为依托,将政府部门的行政权力网络化与数据化,实现对政府部门行政权力运行过程的实时监督[13]。自此之后,江苏、天津、福建等省市也进行电子监察、智慧监察系统的探索,并在探索的过程中积累了丰富的实践经验。但由于各省市电子监察或智慧监察系统存在差异,阻碍了具有普遍适用性特征的智慧纪检监察信息系统建设的进程。国家纪检监察机关有必要在及时总结地方实践经验与域外优秀成果的基础上,建设覆盖全国范围的智慧纪检监察信息系统,以推动全要素、全流程数字纪检监察体系的贯通。
三、理性省思:人工智能赋能国家监察的风险研判
人工智能赋能国家监察本质上推动了公权力监督从传统监察模式向技术监察模式的阶段性跨越,在推动数字纪检监察体系构建的同时,也因算法偏见、数据泄露、数据孤岛等因素制约而受到其负面效应的冲击。
(一)“技术依赖”风险:削弱监察机关决策主体地位
监察机关作为行使国家监察职能的专责机关,拥有针对监察对象依法独立行使监督、调查、处置权力的基本权限。监察机关在承继党纪审查、行政监察与刑事侦查等职权的基础上,成为国家反腐败权力集中行使的唯一主体[14]。人工智能赋能的核心要义在于为传统国家监察模式提供数字技术支撑,以弥补“人力监督”在某些方面效能不足的缺陷,而非以数字技术取代监察机关绝对主体地位。但在人工智能赋能国家监察实践场域下,监察官是否能够始终确保自身在国家监察层面的绝对主体地位,是一个值得深入探讨的问题。一是以人工智能为代表的数字技术通过赋能国家监察,可以将公职人员行使公权力的过程转化为数据,从而揭开“隐形腐败”“微腐败”等新型腐败“神秘的面纱”,达到使公权力始终在阳光下运行的目标。但人工智能赋能国家监察在将公职人员行使公权力的过程转化为数据,实现对监察对象实时监察目的的同时,也面临着监察机关误将“数据实时监察”视为发现职务违法或职务犯罪问题线索唯一渠道的风险。二是人工智能赋能国家监察除发挥对公权力行使过程进行实时监察的功能之外,还具有自动生成法律文书、通过类案梳理为监察机关办理同类案件提供办案规范、法律适用等参照标准的辅助功能。人工智能赋能国家监察在发挥“多维度应用”功能的同时,也会引发监察机关过度依赖人工智能的技术依赖风险。在传统国家监察模式中,监察官可在深入挖掘隐藏在法律条文背后法治精神与立法意图的基础上,作出具有合法性与价值性的处置决定,实现处置结果的情理法交融。依靠机器代码、算法规则等自动形成的智能化监察建议虽融合了过往同类职务违法或职务犯罪案件的处理结果,但欠缺监察官所具有的价值判断功能。人工智能在梳理与分析职务违法或职务犯罪已办理类似案件基础上自动形成的监察建议,仅可作为监察机关作出最终决策的参考依据。若监察官在办理职务违法或职务犯罪案件过程中不能对人工智能生成的监察建议进行独立与理性思考,而是机械化地将智能化监察建议视为唯一依据,将导致人工智能赋能国家监察功能的异化。
(二)“数据壁垒”风险:削弱人工智能赋能效果
数据是人工智能赋能国家监察的基础,是变监察机关“被动监察”为“能动监察”的撬杠。在大数据时代,涵盖公权力运行轨迹、公职人员工资收入及其职务违法犯罪活动等可视化信息在内的海量数据,拓宽了监察机关发现职务违法或职务犯罪问题线索的渠道。
在具体实践过程中,受限于“数据孤岛”与“数据壁垒”等因素的影响,人工智能赋能国家监察的实际效果并未达到预期。不论是“数据孤岛”或是“数据壁垒”,二者均因阻碍各地区、各部门之间数据的关联与流通成为掣肘人工智能赋能国家监察发挥预期效果的瓶颈,
究其原因主要体现在两个方面。其一,技术性壁垒是形成“数据壁垒”或者“数据孤岛”的客观因素。人工智能赋能国家监察所依托的数据需要经历产生、收集、存储、分析及使用五个阶段,且每个阶段均与人工智能等数字技术环环相扣。在人工智能赋能国家监察场域下,实时监察与类案分析的前提条件是监察机关将公权力运行轨迹、公职人员工资收入及职务违法犯罪活动等信息通过人工智能等数字技术转化为数据。在具体实践过程中,尽管各地区、各部门已将所记录的公权力运行轨迹等信息转化为数据,但各地区、各部门所应用的数据存储、分析平台因技术差异与标准不同而无法实现数据共享,影响了人工智能赋能国家监察的实际效果。其二,观念性壁垒是形成“数据壁垒”或“数据孤岛”的主观因素。由于监察机关的监察对象覆盖所有行使公权力的公职人员,因而破除“数据孤岛”或“数据壁垒”须将包括司法机关、政府机关、事业单位等部门在内的公权力运行数据予以联通共享。但受保守心理、数据安全及安全问责等主观性因素的制约,数据管理部门对实现数据共享与数据联通产生排斥心理[15],在依法监察过程中,通过各种途径增添或巩固数据安全墙,以达到保障数据安全与阻止关键数据进入监察系统的目的。技术性壁垒与观念性壁垒主客观原因,使实践中形成各地区、各部门“单打独斗”的监察局面,这有悖于集中统一、权威高效国家监察体系构建的目标。
(三)“数据泄露”风险:危及个人隐私与国家数据安全
在“万物互联”的数字时代,蕴含海量政治、经济及财产等重要价值的数据已成为人工智能时代的“新石油”[16]。具体到国家监察领域,产生、收集、储存、分析、使用涵盖公权力运行轨迹、公职人员工资收入、职务违法犯罪活动等重要信息在内的可视化数据是人工智能赋能国家监察的基础。监察机关在运用数据碰撞分析拓宽问题线索发现渠道与实现精准监察的同时,因数据具有高流动性、可复制性等特征而面临数据泄露的潜在风险。个人隐私泄露与国家数据安全作为此类数据泄露的主要面向,具体体现在两个方面。一是从个人隐私泄露层面观之,为确保实现对监察对象公权力行使监察的全覆盖与提升自动形成监察建议的精准性,监察机关需将海量的公开数据与秘密数据作为智能监察的参数,
而这些数据涉及监察对象个人信息隐私保护的问题。《监察法》第15条规定,公职人员和有关人员代表国家行使公权力时,监察机关对监察对象行使公权力的过程实时监察,维护公权力廉洁性与社会公共利益的正当性。然而,代表国家行使公权力的公职人员和有关人员除具有国家工作人员身份外,还拥有普通公民的身份。当代表国家行使公权力的公职人员和有关人员仅代表公民个人时,被监察机关收集、存储的数据蕴含着公民个人明显且丰富的人格权益[17],若在产生、收集、存储、分析及使用过程中不当泄露,可能对公民个人的人格权益与财产权利造成不必要的损失。二是从国家数据安全层面观之,数字纪检监察体系中的人工智能算法不同于民事领域的人工智能算法,监察对象的数据信息既反映公职人员和有关人员依法履职与廉洁履职的个人实际情况,又必然涉及各种国家司法、政务、监察等公权力运行的基本情况。随着以人工智能为代表的数字技术的迅速发展,数据安全已成为总体国家安全观中的关键一环,若将此类涉及国家司法、政务、监察等公权力运行的保密数据暴露在境外,将严重威胁国家安全,尤其是在人工智能等数字技术受到西方意识形态渗透的背景下,极易因涉及国家司法、政务的相关信息的泄露而损害我国的数据主权与数据安全[18]。
(四)“算法技术”风险:弱化处置决定的公正性
随着以人工智能、大数据、互联网为代表的数字技术的加速发展,人类社会正在进入一切皆可计算的时代[19](P323)。技术红利与技术缺陷往往是相伴相生的,算法在推动国家治理智能化、高效化发展的同时,也会因自身技术缺陷而引发程序公正性问题。
现代司法强调结果合法性的实体正义与裁判过程正当性的程序正义相统一,监察机关针对职务违法或职务犯罪所作出的最终决定,需要同时兼顾实体正义与程序正义。人工智能赋能国家监察在辅助监察机关决策与实时监察问题线索的同时,因算法技术缺陷问题会对监察机关最终处置决策的公正性与正当性造成冲击。一是算法黑箱造成的不透明性可能引发决策不公的问题。算法黑箱是指基于自身固有的技术复杂性与外部技术公司的排他性,使用者只能观察到输入的数据与输出的结果,却无法知晓算法自动决策的过程[20]。监察对象对决策公平性的认知不仅取决于最终作出的处置结果,还取决于对决策过程的知情。然而,算法黑箱的存在使人工智能赋能国家监察的决策生成过程缺乏透明性,
导致监察对象在不知晓算法规则与算法过程的情况下,产生对监察机关最终决策正当性与公正性的质疑[21]。二是算法偏见可能引发决策不公的问题。算法偏见又称算法歧视,是指基于开发者的价值偏见或数据本身的倾向性,使看似客观中立的算法程序设计在实际应用中导致地域歧视、性别歧视等风险的发生[22]。从算法偏见产生的缘由层面观之,其主要包括开发者的价值偏见或数据本身的倾向性两个方面。一是数据是算法运行的基石,若因部分群体数据缺失或固有的伦理偏见等因素导致数据输入阶段产生偏差,算法输出的结果也可能暗含偏见[23]。受限于技术性壁垒与观念性壁垒主客观原因的影响,我国各部门、各地区之间并未建立数据共享机制,
无法为算法运行提供全面且客观的数据。二是算法因反映开发者的价值取向而具有较强的主观意识形态[24]。
当前,监察机关尚不具备研发人工智能系统的能力,需将研发算法系统的工作外包给其他企业,而外包企业算法系统开发者极易在选取数据、人工标注、程序设计等编写过程中掺杂个人的价值选择和思想理念[25](P51-52),从而为算法偏见的产生预留了空间。
算法偏见不仅会因问题线索数据的差异性引发对监察对象监察的程度化差异,而且会因智能化处置决定的偏差侵犯监察对象的合法权益。
四、纾解之策:人工智能赋能国家监察的规制进路
人工智能赋能国家监察所面临的“技术依赖”“数据壁垒”“数据泄露”及“算法技术”等风险,本质上均受制于现阶段数据、算法技术缺陷等客观原因与算法开发者、公职人员价值观念等主观原因。为充分发挥人工智能赋能国家监察的赋能效果,可以从系统定位、数据联通、数据保护及算法治理四个维度予以纾解。
(一)系统定位:明确人工智能在监察应用中的辅助性定位
虽然人工智能可以通过分析异常数据精准锁定问题线索与梳理职务违法犯罪类案,生成监察建议来满足纪检监察机关办案中对效率的价值追求,但以人工智能为代表的数字技术因缺乏理性、情感与法律之间的平衡能力而无法替代监察官在监察系统中的绝对主体地位。
监察官与人工智能的关系应坚持“人主机辅”与“人机耦合”的系统定位。监察官主导纪检监察工作的开展,并作出处置决定,而人工智能的作用仅在于辅助监察官纪检监察工作的开展与处置决定的作出,促进国家纪检监察工作效能的提升,即监察官在纪检监察工作中扮演领导者的角色,人工智能则扮演参与者的角色。人工智能在监察应用中“人主机辅”与“人机耦合”的系统性定位主要取决于两个方面:一方面,人工智能在国家监察领域的应用受制于监察官主观能动性、法律应用灵活性及处置决定情理融合性等监察场景本身所具有的特殊属性;另一方面,人工智能经过多年的发展虽在语音识别、自然语言处理等方面取得突破性的发展,但受限于自身技术与理论基础的缺陷仍无法模仿人类复杂的思维、丰富的情感与理性的良知[26]。除从宏观层面明确人工智能在国家监察领域中辅助性定位外,为避免人工智能在实践层面成为纪检监察工作的主体,
需对人工智能赋能国家监察的运用范围予以限定。《监察法》第11条规定,监察机关依法履行监督、调查、处置三项职能,而人工智能赋能国家监察也主要体现在
这三项职权行使过程中。但由于监督、调查及处置三项职责工作内容存在差异性,人工智能无法平等赋能各项职责领域。在监察监督阶段,在将行使公权力的公职人员与有关人员权力行使过程数据化的前提条件下,监察机关主要发挥人工智能及时发现异常数据的功能。
通过人工智能分析异常数据来及时发现问题线索仅是监察机关发现职务违法或职务犯罪案件问题线索的渠道之一,而非发现问题线索的唯一渠道。监察机关只有综合运用信访举报、异常数据监测等多种职务违法或职务犯罪问题线索发现渠道,才能实现从“被动监察”向“能动监察”的实质性跨越。在监察调查阶段,人工智能赋能主要限定于技术调查与数字化留置层面,保障被调查人在调查阶段的合法权益。在监察处置阶段,由于政务处分、监察建议等处置决定均会对被调查人的人身、名誉或财产权利造成严重的影响,须发挥人工智能梳理类案与生成法律文件的功能,为监察机关作出最终处置决定提供参考依据。人工智能赋能国家监察的事项仅限于具有明确性与规律性的事实性工作,而在具有或然性与不确定性的评价性工作中,必须确定监察官的绝对主体地位。
(二)数据联通:建立健全监察数据共享协调机制
数据共享是实现纪检监察工作数字化转型与智能化发展的基础。在大数据时代,由于公职人员的所属部门、职权配置及工作性质存在显著差异,
涵盖公权力运行轨迹、公职人员工资收入及其职务违法犯罪活动等可视化信息在内的海量数据被分别储存于不同地区、不同部门的数据库之中。
受限于各地区、各部门技术性壁垒与观念性壁垒主客观因素的影响,此种分散式数据储存模式极易形成“数据壁垒”或“数据孤岛”问题,阻碍人工智能赋能国家监察的赋能效果。为破除“数据壁垒”与“数据孤岛”,实现数据共享,充分发挥数据在国家监察领域的最大功效,须从构建国家监察数据共享平台与树立数据共享理念两个层面予以完善。一是从共享平台构建层面观之,基于区块链技术可追溯性、不可篡改性、开放性等基本特征,将涵盖共识机制、非对称加密技术、智能合约等核心技术的区块链技术引入国家监察数据储存与共享领域,构建区块链监察数据共享平台[27],不仅可以联通司法机关、政务机关、监察机关等不同部门、不同地区之间的数据库,为人工智能赋能国家监察提供海量的数据源,而且可以将人工智能与区块链技术有机结合,发挥人工智能及时发现职务违法或职务犯罪问题线索的预警功能,达到“1+1>2”的效果。
构建区块链监察数据共享平台破除“数据壁垒”或“数据孤岛”的前提条件是拥有全国统一的数据标准。国家只有在数据格式、数据访问、数据保密等方面制定统一适用的数据标准,才能保证各部门、各领域的相关数据在区块链监察数据共享平台互联互通。为规避因区块链技术“去中心化”与“去信任化”导致责任主体不明与监管缺失的风险,应构建“监察机关为主,检察机关为辅”的区块链监察数据共享平台监管机制。监察机关作为宪法赋予的国家监察职能履职主体,承担区块链监察数据共享平台监管主要责任。
检察官客观公正义务体现在理念,制度和伦理三个层面[28](P20-24)。
而对于宪法赋予法律监督权力与秉持检察官客观公正义务的检察机关而言,其作为区块链监察数据共享平台的辅助监管机构具有合理性与可能性。二是从数据共享理念层面看,
国家应制定普遍适用的公职人员数据共享工作办法,对各部门、各地区公职人员数据共享的范围、方式、责任等内容作出具象化规定;
司法、政府、监察等国家机关应定期对管理数据的工作人员开展培训与教育,打破部门本位主义、地方本位主义对监察数据共享的阻隔,从而发挥数据共享助推人工智能赋能国家监察的质效提升的功能。
(三)数据保护:夯实监察数据全流程管理保障机制
数据泄露是指个人或国家机密信息因技术或人为因素被有意或无意地泄露在危险环境中。数据的不当收集、使用与数据的过分挖掘是导致数据泄露的根本原因,而国家监察领域的数据泄露会严重危及国家数据安全与个人信息安全,应从事前预防、事中控制及事后处理三个方面实现对监察数据的全流程管理。一是从事前预防阶段看,在综合考量人工智能赋能与利益衡量的基础上,限定监察机关收集数据的范围。在国家监察领域,为实现对公职人员职务违法或职务犯罪问题线索实时监控与精准监督的目标,个人数据是监察机关所收集的主要数据类型。个人数据是指以电子或其他方式记录的与已识别或可识别的自然人有关的任何信息[29],实质上等同于《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)所规定的个人信息。基于国家监察领域的政治性、隐秘性及相对独立性等特殊属性,将监察机关收集的个人数据限定在反映公权力行使人员依法履职、秉公用权及廉洁用权等廉政数据范围之内[4]。尤其是对于无法清晰辨别廉政数据属性的个人数据,监察机关应当避免收集,以避免个人数据收集范围的泛化。二是从事中控制层面看,明确监察机关的数据管理保护义务。在数据分析阶段,监察机关应采用数据脱敏、数据加密等技术对所收集的廉政数据进行匿名化处理,避免廉政数据在数据分析阶段因算法技术缺陷导致数据泄露;在数据储存阶段,监察机关应在借鉴《中华人民共和国数据安全法》(以下简称《数据安全法》)数据分类分级保护制度的基础上,根据廉政数据的来源、敏感程度、潜在价值及危害程度等因素,将廉政数据分为核心数据、重要数据与一般数据,从而针对不同等级的数据采取差异化的数据管理保护机制。监察机关应明确所收集的监察数据的保存期限,并将符合收集目的已实现、保存期限已届满、不符合廉政数据范围、廉政数据收集违反规定等情形的个人数据及时删除,避免因不当存储导致数据泄露事件的发生。三是从事后处理层面看,由于廉政数据关涉自然人人格权益和财产权益,若数据泄露,将会对监察对象的人格权益与财产权益造成直接损害,因此,应赋予受损害的监察对象向监察机关申请国家赔偿的权利。为防止监察对象赔偿申请权的滥用,国家应对监察对象申请赔偿的时效、条件、范围及救济程序予以明确规定。
(四)算法治理:增强算法生成结果的可接受性
人工智能赋能国家监察在算法技术层面存在因算法黑箱与算法偏见而产生监察机关处置决策不公的风险。为避免因监察机关处置决策不公对监察对象的人身权益、财产权益等合法权益造成损害,必须从算法解释与算法纠偏等层面增强算法生成结果的可接受性。一是逐步推动算法可解释性。算法的复杂性、非直觉性、代码化等特征为人工智能生成结果背后的运行过程蒙上一层“神秘的面纱”,而
将算法代码、编程公式、数学模型等算法技术向社会公开,可以揭开人工智能生成结果背后的运行过程。但受制于算法模型的复杂性与专业性等特征,算法公开无法有效打消监察对象对处置决策结果公正性的质疑[30]。相较于算法公开,算法解释可以最大程度地向监察对象揭示处置决策结果的过程,增强监察对象对算法决策过程的掌控感与可理解性。从算法解释具体构建层面看,
应将人工智能赋能国家监察场域中的算法解释限定为局部解释,即监察机关根据监察对象的疑惑对处置决策结果采取有针对性的具体化解释,而非对算法模型作整体性的解释[31]。基于监察对象算法决策过程局部疑惑的现实需求与算法结果可理解性的价值追求,对于监察机关参考人工智能决策作出的处置决策结果,监察机关应根据监察对象的申请或依职权对算法决策过程的重点内容作出局部解释,充分保障监察对象的知情权与监察处置决策结果的可接受性。算法局部解释不是单向度的,而是双向度的,监察机关应通过制度设计赋予监察对象参与算法局部解释评判的权利[32]。二是提高监察数据的质量、保证数据来源的多样性与树立正确的算法价值观念。
要依托数据与算法形成的人工智能生成结果,拓宽问题线索的收集渠道与辅助监察处置决策结果的作出,提高监察数据的质量与保证数据来源的多样性,避免因数据的倾向性引发算法偏差风险。
监察机关应将《监察法》第15条规定的各类监察对象的公权力运行数据予以收集,避免因“数字鸿沟”而使部分监察对象群体数据的缺失。
并非“量多”的廉政数据进入算法模型中就能拓宽问题线索的收集渠道与辅助监察处置决策结果的准确作出,反而会因低质量数据的准入影响人工智能赋能国家监察的实际效果。监察机关须在确保监察数据完整性、准确性、客观性、多样性与及时性的基础上,进行数据清洗与数据筛选,提高准入算法模型的监察数据的质量。算法偏见本质上是人类社会偏见在人工智能系统内部的折射。为规避算法开发者个人价值取向对算法偏见的负面影响,算法开发者应培养并树立正确的技术理性、算法伦理与社会责任意识,将善良道德与客观公正内化于算法模型创新与应用的全过程,使人工智能赋能国家监察始终符合主流价值观[33]。
五、结 语:回归人工智能技术赋能的本质规律
随着人工智能、大数据、云计算等数字技术的迅速发展,国家治理数字化、智能化转型已成为必然的发展趋势。以人工智能为代表的数字技术赋能国家监察,可有效推动国家监察从“被动监察”到“能动监察”、从“个案监察”到“系统治理”的实质性跨越,实现从应然层面的“监察全覆盖”到实然层面“监察无空白”的转变。基于纪检监察工作法律应用的灵活性与处置决定情理兼容等监察场景本身所固有的特殊属性,监察官与人工智能的关系应坚持“人主机辅”与“人机耦合”的系统定位。人工智能赋能国家监察,应当秉持一种理性的认知,既要充分发挥人工智能赋能国家监察对拓宽职务违法犯罪问题线索发现渠道、辅助监察机关处置决策作出、精准破解“微腐败”及有效提升腐败源头治理、系统治理的功能,又要时刻警惕人工智能赋能国家监察可能引发的“技术依赖”“数据壁垒”“数据泄露”及“算法技术”等风险。数据作为人工智能赋能国家监察的基础要素,
在总体国家安全观视域下,对其进行全面且系统的规制已成为必然。虽然我国在数据保护领域已相继出台《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等多部与数据安全保护相关联的法律法规及政策性文件,构建了新时代我国数据合规与数据保护的主要法律架构,但其侧重于从宏观视角对数据安全问题作出规定,并未形成人工智能领域数据全流程保护的专门性立法。因此,国家立法机关应当在借鉴《欧盟人工智能法》等的基础上,针对人工智能嵌入数据产生、收集、分析、存储、使用等环节的数据安全问题制定相应的人工智能法,弥补我国在人工智能领域数据保护法律规范的空白。
参考文献:
[1]郑 曦.数字时代的刑事诉讼变革[M].北京:法律出版社,2023.
[2]杜治洲,赵雅星.大数据赋能隐性腐败治理的机理与路径[J].廉政文化研究,2023,(4).
[3]舒绍福,苏江涛.数字赋能国家监察:特征、问题与推进[J].电子政务,2022,(10).
[4]喻少如,唐成余.迈向智能监察:人工智能赋能国家监察的逻辑与进路[J].中共天津市委党校学报,2024,(2).
[5]段光鹏.人工智能赋能权力监督:图景、障碍与进路[J].湖湘论坛,2023,(1).
[6]卫跃宁,熊馥琳.职务犯罪治理视域下监察监督与检察监督的关系研究[J].青少年犯罪问题,2024,(3).
[7]薛 澜,张 楠.以数字化提升国家治理效能[N].人民日报,2023-11-03.
[8]蔡金荣.“国家监察全面覆盖”的规范结构探析[J].求实,2019,(1).
[9]李尚翼.监察对象的范围认定及识别标准辨析[J].廉政文化研究,2022,(1).
[10]邬 彬,黄大熹.电子监察:中国政府科技防腐创新[J].求索,2010,(9).
[11]阳 天,黄泽琳.科技:引发行政监察工作新变革——深圳市开发建设“行政许可电子监察系统”[J].中国监察,2004,(24).
[12]任建明.我国电子监督创新实践的研究[J].安徽师范大学学报(人文社会科学版),2011,(6).
[13]谭海波,蒙登干,王英伟.基于大数据应用的地方政府权力监督创新——以贵阳市“数据铁笼”为例[J].中国行政管理,2019,(5).
[14]王 译,李嘉飞.监察从宽处罚建议衔接刑事司法的应然限度[J].华南理工大学学报(社会科学版),2022,(1).
[15]陈 潭.政务大数据壁垒的生成与消解[J].求索,2016,(12).
[16]钱子瑜.论数据财产权的构建[J].法学家,2021,(6).
[17]程 啸.民法典编纂视野下的个人信息保护[J].中国法学,2019,(4).
[18]刘艳红.生成式人工智能的三大安全风险及法律规制——以ChatGPT为例[J].东方法学,2023,(4).
[19]徐 恪,李 沁.算法统治世界——智能经济的隐形秩序[M].北京:清华大学出版社,2017.
[20]郑 戈.人工智能与法律的未来[J].探索与争鸣,2017,(10).
[21]司林波,谭筱波.人工智能赋能政府治理转型的逻辑、边界与路径——从数字治理到智慧治理的场景转换[J].中共天津市委党校学报,2023,(5).
[22]汝绪华.算法政治:风险、发生逻辑与治理[J].厦门大学学报(哲学社会科学版),2018,(6).
[23]汪 靖.从人类偏见到算法偏见:偏见是否可以被消除[J].探索与争鸣,2021,(3).
[24]王 译,朱 琳.人工智能辅助量刑的现实风险与完善路径[J].昆明理工大学学报(社会科学版),2023,(3).
[25]马长山.迈向数字社会的法律[M].北京:法律出版社,2021.
[26]朱体正.人工智能辅助刑事裁判的不确定性风险及其防范——美国威斯康星州诉卢米斯案的启示[J].浙江社会科学,2018,(6).
[27]戚学祥.区块链技术在政府数据治理中的应用:优势、挑战与对策[J].北京理工大学学报(社会科学版),2018,(5).
[28]林钰雄.检察官论[M].北京:法律出版社,2008.
[29]程 啸.论个人数据经济利益的归属与法律保护[J].中国法学,2024,(3).
[30]徐 辉,李俊强.生成式人工智能辅助司法裁判的可能及边界限度[J].太原理工大学学报(社会科学版),2023,(6).
[31]周 翔.算法可解释性:一个技术概念的规范研究价值[J].比较法研究,2023,(3).
[32]王海燕.算法可解释性的价值及其法治化路径[J].重庆社会科学,2024,(1).
[33]刘友华.算法偏见及其规制路径研究[J].法学杂志,2019,(6).
责任编辑:崔正贤
Embedding and Transformation: Systematic Logic and Governance Strategy of Artificial Intelligence Empowering National Supervision
Wang Yi, Li Jiafei
Abstract:
Empowering national supervision with artificial intelligence is an important starting point for deepening the reform of national supervision system in the digital age. Based on the realistic goal of building a digital discipline inspection and supervision system, the system evolution logic of artificial intelligence empowering national supervision is embodied in three dimensions, namely, the value shift from case supervision to system governance, the power shift from human supervision to intelligent supervision, and the technological progress from electronic supervision system to artificial intelligence system. In promoting the digital and intelligent transformation of discipline inspection and supervision, the supervision practice faces technical application risks such as technical dependence,data barries,data leakage and algorithm technical defects. Therefore, between the instrumental rationality of artificial intelligence and the value rationality of discipline inspection and supervision, legislation should seek a relatively balanced regulatory approach. In order to solve the technical and conceptual risks of artificial intelligence empowering national supervision, we should consider the rationality and feasibility of establishing and improving the monitoring data sharing mechanism, consolidating the whole process management guarantee mechanism of monitoring data and enhancing the acceptability of the results generated by artificial intelligence in the future.
Key words:
atificial intelligence, national supervision, active supervision, data barrier