基于公共性算法制度建构的新质生产力治理
2024-07-03张宸瑜
[收稿日期]20231119
[基金项目]国家社会科学基金青年项目(22ZZC006)
[作者简介]张宸瑜(1989— ),男,蒙古族,内蒙古赤峰人,东北师范大学政法学院博士生,主要研究方向为数字治理、公共政策,邮箱:zcy20232023@126.com。
[摘 要]在数字化社会转型与国家治理能力现代化的要求下,算法作为新质生产力的代表之一,通过其公共性应用实现积极效能,但也要通过特定的制度构建来避免其带来的风险。公共性算法制度建构或许存在抽象与脱离实际之嫌,因此在新一代生成式人工智能参与数字政府建设的语境下,需要进行更加坚实的论证。首先,公共性算法能够为公共治理提供有效助力,促成政府决策的错误减少与客观增强、政府运作的体量精减与成本降低、政府监管的模式创新与多元协同、政府治理的公益追求与理性实现等效能跃迁。其次,公共性算法的运作具有三个阶段的技术联结路径,语言训练阶段是算法应用的初始环节、人机交流能够实现算法代表公共权力的多向互动、价值嵌入能够促进技术内化道德理性最终实现善治。最后,在上述三个阶段的公共性算法应用中存在特定的风险,需要构建公共性算法制度以进行调适,在语言训练中需要限制数据的可利用性、在人机交流中需要规制算法与权力、在价值嵌入中需要保障算法的道德性。
[关键词]公共性算法;生成式人工智能;数字政府;新质生产力;公共治理;算法监管
[中图分类号]F062.9 [文献标志码]A [文章编号]20963114(2024)04009715
一、 引言:公共性算法制度建构的时代需求与具体场景
社会全方位的数字化转型为国家治理能力提出了新要求,数字时代的国家理论也在数字主权、数字暴力、数字政府、数字治理等新的实践形态与现象基础上不断发展。在我国,不论是2023年公布的《党和国家机构改革方案》中全新组建的国家数据局,还是2019年党的十九届四中全会指出的“推进数字政府建设”的政策要求,政府因应数字化而展开的国家治理能力现代化的探索一直在推进与深入中。2023年,习近平总书记提出了“新质生产力”的概念。2024年我国政府工作报告中将新质生产力列为
年度十大工作任务之首[1]。“高质量发展需要新的生产力理论来指导,而新质生产力已经在实践中形成并展示出对高质量发展的强劲推动力、支撑力,需要我们从理论上进行总结、概括,用以指导新的发展实践。”[2]
各地正在积极探索公共数据开放共享的背景下,
研究如何结合以算法为代表的新质生产力,在保证社会公平的基础上提升公共治理、政府决策、政务服务的效能等问题,存在积极的实践意义与充分的时代需求[3]。
新质生产力是推动社会进步的重要力量,算法则是推进新质生产力的重要手段[4]。算法是一系列解决问题的清晰指令或规程,其包括一组有序的操作步骤,用于在有限的时间内完成特定任务或达成特定目标。
与此类似,人类思考和处理问题的逻辑往往也包括如下几个步骤:首先,清楚地定义问题,锁定问题的本质和范围;其次,收集相关的信息,包括事实层面的信息和规则应用方面的信息;再次,针对收集到的信息进行分析和评估,包括对已知信息的逻辑推理,结果预测;最后,对假设和预测进行验证和修正,保证结果的正确性和有效性。可以看出,在处理问题的概括性逻辑方面,算法的运行逻辑和人类处理问题的逻辑具有极高的相似性,这也是为什么算法可以被用于辅助人类处理问题的原理基础。上述算法处理事务的逻辑根据服务对象的特征可以向两个极端发展,从而形成个性化算法和公共性算法。前者是指针对固定个体,对一定的处理结果进行筛选和调试,最终形成最符合特定个体的结果产出,被适用于个人服务的场景;后者是指针对普遍意义上的广泛个体,以更广泛利益为导向调试结果,因此具备了公共服务属性,能有效改善公共服务,提升公共管理效率。
随着算法工具在公共事务治理中的广泛应用,算法治理逐渐演变为公共管理或治理的新方式。在这一过程中,由于算法获得了权力属性、具备了公共价值,这种公共价值需要受到保护[5]。同时由于公共性算法实施的目的就是为了更广泛的社会公共利益,因而在实施出现差错时也必然会导致更大的负面影响范围。为了避免这一结果产生,构建公正、合理、透明的公共性算法制度就显得尤为重要。对于公共性算法的应用,也会涉及数字化行政方式权力正当性的理论问题,学界有从《宪法》的行政权力正当性要求、行政程序规范性以及风险的角度展开的讨论[6]。由于算法制度一旦制定,实际的运行往往是基于算法自动开展,人类在实际运行过程中其实无法有效地实时监测到制度的运行,因而如何从理论和实操的角度避免公共性算法制度的瑕疵或缺失导致的社会风险的产生,具有相当的现实意义。
作为一种概念性的存在,公共性算法制度如何建构可能存在脱离实际的风险,而结合具体的技术落地能够提供更为清晰且明确的研究语境与分析场景。目前,以ChatGPT为代表的新一代生成式人工智能多点开花、在多领域中被积极应用,为公共治理、数字政府建设提供的助力已然不能忽视[7]。生成式人工智能通常基于深度学习和神经网络技术,特别是一些先进的生成对抗网络(GANs)和变分自编码器(VAEs)等模型[8]。这些模型通过学习大量数据集的分布特征,能够生成与原始数据类似但又不完全相同的新数据
参见《生成式人工智能服务管理办法(征求意见稿)》第2条。
。生成式人工智能在各个业务领域都有着广泛的应用,为各行各业带来了许多创新和发展机会
。在金融领域,生成式人工智能可以用于风险管理、投资分析、交易预测等方面。它可以生成逼真的金融数据,帮助分析员和交易员作出更准确的决策。在制造和工业领域,生成式人工智能可以用于产品设计、工艺优化、智能生产等方面。它可以生成逼真的产品模型和工艺流程,帮助制造商提高生产效率和产品质量。生成式人工智能在建设数字政府方面可以提高政府治理水平、优化公共服务、提升政府效率,为建设智慧城市和推动数字化转型提供重要支持和保障。
因此,本文以公共性算法制度建构为主题,意图表明公共性算法的积极效能、技术逻辑以及如何建构公共性算法制度,并且为摆脱脱离实际的可能,下文将结合新一代生成式人工智能参与数字政府建设的具体场景,分阐明新一代生成式人工智能技术对数字政府的效能跃迁式提升、具体分析内部视角上的技术联结途径、提出相应的调适路径等三个步骤,有针对性地且更为落地地展开公共性算法制度建构的三方面论证分析。
二、 算法助力:新一代生成式人工智能参与数字政府建设的效能跃迁
就数字时代的国家治理现代化而言,有学者提出了“数字治理生态”理论,其从生态论的角度解读政府数字化转型,强调治理体系的系统性和整体优化,注重治理主体的广泛包容性以及治理资源的共享与协同。在这一生态中,数字治理主体和数字治理资源两大要素系统紧密相连,共同发挥着基础性作用。在这个生态中,新质生产力表现就会突出,尤其是算法的应用,正在改变我们的生活和社会运行方式。从新一代生成式人工智能参与数字政府建设的实践来看,其能够有效契合上述新的治理生态形式,从而实现数字时代的包容、协同、智慧与可持续等价值[9]。具体来说,包括在政府决策、政府运转、政府监管以及政府治理中的多方效能。
(一) 政府决策的错误减少与客观增强
政府治理是指政府通过制定政策、管理资源、监督社会秩序、应对危机等手段,实现社会稳定和持续发展的过程。政府决策的逻辑是通过搜集、分析、权衡各种信息和利益,以及基于法律、科学和道德准则,
作
出有利于公共利益和长远发展的决策。相较于传统的政府治理和决策模式,生成式人工智能可以利用大数据分析和机器学习算法,从海量数据中发现隐藏的模式、规律和趋势。通过对数据的深度挖掘和分析,生成式人工智能可以为政府决策提供更加客观和准确的信息,降低决策的盲目性和偏差性[10]。同时,生成式人工智能可以自动生成决策方案、模拟决策结果和评估决策风险,为政府决策提供智能化的支持和指导。它可以根据政策目标、约束条件和实际情况,自动生成多种方案,并评估各种方案的利弊,帮助决策者做出更为科学和理性的决策。其次,生成式人工智能可以记录决策过程的每一个步骤和依据,自动生成决策报告和解释说明。这有助于增强政府决策的透明度和可追溯性,使决策过程更加公开和公正,减少人为干扰和操纵,保障决策的客观性和合理性。再次,生成式人工智能可以利用风险模型和预测算法,对决策可能产生的风险进行客观评估和量化分析。它可以识别潜在的风险因素和影响因素,预测风险事件的发生概率和影响程度,为政府决策提供科学依据和风险防范措施。最后,生成式人工智能可以实时监测决策执行的情况和效果,自动生成执行报告和反馈意见。这有助于及时发现和纠正决策执行中的问题和偏差,调整决策方向和策略,保证政府决策的及时性和灵活性。这些都依靠新质生产力的发展和推动,不仅提高治理效率,还优化资源配置,提高风险预防能力。总的来说,将生成式人工智能运用到政府决策中可以通过数据驱动、智能决策支持、决策过程透明化、客观风险评估和实时监测与调整等方式,有效减少政府决策的错误,增强政府决策的客观性。
第一,生成式人工智能可以从多个渠道和来源获取信息,例如社交媒体、新闻报道、专家观点等,帮助政府决策者全面了解各种信息和意见,减少片面性和盲目性,提高决策的准确性和客观性[11]。
通过对历史数据、实时数据和未来趋势的分析,生成式人工智能为决策者提供更准确、更全面的信息,降低决策出错的风险。相较于此前的生成式人工智能,新一代生成式人工智能在生成能力、语言理解和表达能力、自主学习和创新能力以及应用领域拓展等方面都有显著的进步,通过深度学习和神经网络技术发展的新一代生成式人工智能能够更加准确地模拟人类的创造力和想象力,生成更加逼真和多样化的内容。同时,通过大规模的语料库和预训练模型的训练,新一代生成式人工智能可以更好地理解自然语言的语义和语境,生成更加准确和连贯的文本内容。此外,通过引入深度强化学习和元学习等技术,新一代生成式人工智能能够从交互和反馈中不断学习和改进,实现更加智能化的生成和创新。与此相对,传统的政府决策当中,政府决策需要大量数据支持,但数据的收集可能存在不完整、不准确或不及时等问题,导致决策基础不牢,容易出现错误。同时,数据处理涉及复杂的技术和工具,如果工作人员对相关技术不熟悉或技术设备存在问题,就会影响数据处理的准确性和效率,从而影响决策的质量。因此,政府治理过程中借助人工智能技术降低失误率也具有了现实上的基础。
第二,虽然生成式人工智能在辅助政府决策方面具有一定的作用,但由于其存在的局限和不足之处,目前无法完全替代人类进行政府决策。人类在进行决策时不仅依赖于数据和算法,还依赖于丰富的生活经验、道德判断、价值观念等因素,这些都是人工智能所缺乏的。人类可以基于自身的智慧和创造力,综合考虑各种因素,作出更具深度和广度的决策,而生成式人工智能则更多地受限于程序和算法,并不具有人类的自主意识。同时,政府决策涉及的问题往往具有复杂的道德伦理和社会责任,需要考虑到公平正义、社会效益等方面的因素。生成式人工智能缺乏道德意识和社会情感,无法像人类一样从伦理和价值的角度进行思考和判断,容易出现决策偏差或不公平现象[12]。此外,生成式人工智能的决策结果往往受到算法偏差和数据偏见的影响。如果训练数据存在偏差或不完整性,或者算法本身存在设计缺陷,就会导致生成式人工智能作出不准确或不合理的决策,甚至产生歧视性结果,影响政府决策的公正性和可信度。因此,生成式人工智能虽然可以在辅助政府决策方面发挥作用,但其无法完全替代人类,未来的发展需要更多着眼在生成式人工智能和人类政府决策的结合上,以解决生成式人工智能在政府决策中的技术和伦理问题,实现人机合作、智能决策的最佳模式。
(二) 政府运转的体量精减与成本降低
随着科技的进步,新一代生成式人工智能已经成为政府优化结构、提升效率、降低成本的重要工具。通过智能化技术的应用,政府可以在多个方面实现体量的精简和公共事务运转成本的降低[13]。
传统的政府工作中,许多事务性任务需要人工处理,这不仅效率低下,而且容易出错。通过运用人工智能技术,可以实现各类审批流程的自动化处理,系统可以根据预设的规则和流程,自动对申请材料进行审核、审批,自动提取公文关键信息、自动生成公文格式、自动进行公文流转等,并给出相应的处理结果,从而提高公文处理效率和质量,实现与公众的自动化交互,如智能客服、智能问答等,快速响应公众需求。政府运转涉及大量的数据管理和分析工作,借助人工智能可以实现数据自动化处理和分析,从而更准确地掌握各项业务的运行情况和发展趋势,为决策提供科学依据。通过智能化系统,政府实现了公文的自动化处理。人工智能的数据分析帮助政府更加精准地了解公共需求,优化资源配置。政府通过对历史数据和实时数据的分析,预测未来的需求趋势,提前进行资源规划和配置,避免资源的浪费和短缺。在进行资源配置时,政府需要兼顾公平和效率,既要确保公共资源能够公平地分配给不同的社会群体,又要通过优化配置提高资源的利用效率。人工智能可以辅助政府在制定资源配置政策时充分考虑不同群体的需求和利益,寻求公平与效率的平衡。
人工智能技术还可以促进政府内部不同部门之间的协同合作。政府大部门协同合作、减少部门分支,是当代政府改革和优化的重要方向之一,合并、整合或重新构建政府部门,使其更加协同、高效和精简,从而提高政府服务的质量和效率,减少资源浪费和重复劳动[14]。通过人工智能的公共性算法实现政府大部门协同合作,减少部门分支,是一个将先进技术与政府改革相结合的创新性策略。利用人工智能的数据分析能力,可以对政府各部门的数据进行深入挖掘和分析,发现部门间的职能重叠、资源浪费以及协同合作机会,根据各部门的资源、能力和工作负荷自动分配任务,减少重复劳动和资源浪费,应用数据共享和智能算法,各部门可以更加高效地协同工作,减少重复劳动和信息壁垒。此外,人工智能可以辅助评估不同部门设置和协同方案,找出最优的部门整合和协同策略,帮助决策者更加科学地制定政府改革方案,减少改革过程中的不确定性和风险。
人工智能的决策支持系统用以帮助政府减少决策失误,智能算法为政府决策提供科学依据和风险评估,提高政府决策的准确性,降低因为决策失误而带来的额外成本。在公共行政过程中,由于决策失误、规划不当、执行不力等
导致的资源浪费、效率低下以及可能带来的社会负面影响,不仅直接增加了公共项目的财务负担,还可能损害政府形象和公信力,降低公众对公共服务的满意度。人工智能可以通过大数据分析和挖掘技术,收集并整合政府各部门、各领域的相关数据,为政府决策提供全面、准确的数据支持,并通过这些数据训练公共性算法,发现数据背后的规律、趋势和关联,为政府决策提供科学依据,构建决策模型,对政府决策的可能结果进行模拟预测和风险评估,了解不同决策方案的可能影响和风险,从而选择最优的决策方案,降低决策失误的风险。人工智能在项目实施前辅助进行智能规划和前期研究,可以提高项目的可行性和合理性,避免盲目上马和重复建设,加强项目执行过程中的监督和管理,确保项目按照既定目标和计划顺利推进,同时,通过及时发现和纠正执行过程中的偏差,实时监控决策执行的效果,并根据实际情况对决策进行优化和调整,确保决策的正确性和有效性。
(三) 政府监管的模式创新与多元协同
人工智能数字化技术是新质生产力的代表之一,它已经深入政府管理的各个方面,实现政府监管的模式创新与多元协同。人工智能的引入可以大幅提升政府监管的智能化水平,优化监管流程,加强多元主体的协同合作,从而实现更高效、精准的监管[15]。
利用人工智能的数据分析和挖掘能力,政府可以对市场行为、社会趋势等进行实时监测和预警,提前发现潜在的风险和问题,实现由事后处理向事前预防的转变,提高政府监管效率、降低监管成本、保障社会稳定具有重要意义。人工智能技术作为新质生产力的重要组成部分,为政府管理提供了更加精细化的手段,通过人工智能政府实现对公共服务的智能调度和优化管理,提高服务质量和执行效率[14]。利用人工智能的实时监测和预警系统,政府可以对关键指标进行实时跟踪和分析,一旦发现异常或潜在风险,系统可以立即发出预警,提醒相关部门及时采取措施进行,并可以根据实时监测和预警的结果,动态调整监管策略和措施。
人工智能技术可以实现监管流程的自动化,减少人为干预和错误,提高监管效率和准确性。基于预定义的监管规则和策略,人工智能可以构建智能规则引擎,自动对收集到的数据进行合规性检查,一旦发现违规或异常情况,引擎可以触发自动警报或执行预定的监管措施,机器学习算法可以对历史监管案例进行学习,以便自动对新情况进行风险评估和合规性判断,通过分析大量数据,人工智能可以提供对监管政策效果的预测,为监管机构提供科学依据来调整策略。利用Robotic Process Automation(RPA)等流程自动化工具,可以自动执行监管流程中的常规任务,并持续学习来优化这些流程,提出改进建议,减少冗余步骤,提高效率。
基于监管活动的结果,人工智能可以自动生成报告、合规证明或其他必要的文档,易于检索和审计,满足合规性的长期要求。通过自动化监管流程,政府机构不仅能够提高工作效率和准确性,还能够释放大量的人力资源,让他们专注于更复杂、更需要人类判断的监管任务,还有助于减少腐败和人为错误的可能性,提高监管的公正性和透明度。
人工智能技术还可以构建一个高效的信息共享和沟通平台,实现政府、企业、社会组织、公众等多元主体之间的实时信息交流和协同工作,自动收集、整合和发布监管信息,促进各方之间的透明度和互信[16]。
人工智能的协调和优化算法可以实现多元主体之间的智能协同:通过收集和分析各方的资源和能力数据,人工智能可以评估各方在执行特定监管任务上的优势和局限性,从而自动地为每个参与方分配最适合其资源和能力的任务,确保资源的最优配置和任务的高效执行;进一步地,可以实时监控监管活动任务完成情况、合规性水平等的进展和效果,当监管环境或目标发生变化时,系统可以自动调整协同策略,重新分配任务、修改监管规则或加强特定领域的监管力度;在面临突发事件或紧急情况时,根据预设的应急预案和协同机制,系统可以自动触发紧急响应程序,调动应急资源、协调相关方行动、发布紧急指令等,以提高迅速有效地应对危机的能力。
人工智能还可以支持社会监督和参与的机制创新。人工智能技术处理公众投诉和建议、评估监管结果以及鼓励公众参与监管政策的制定和评价,可以提高政府监管的效率和透明度,同时增强公众对监管过程的信任感和满意度。人工智能可以通过自然语言处理(NLP)技术对公众提交的投诉和建议进行文本分析,自动识别和提取投诉类型、涉及的问题领域、紧急程度等关键信息,将投诉和建议自动分类,然后将其分配给相应的监管部门或人员进行处理,还可以对处理过程进行监控和跟踪,确保每个投诉和建议都得到及时、妥善的处理[17]。通过对历史监管数据和当前监管结果的分析,公共性算法可以预测特定监管措施的效果,并评估其是否达到了预期目标,结果可以自动公示在官方网站上,供公众查阅和监督。新质生产力为政府管理模式多元化提供了强大的动力和支撑。在未来发展中,政府需要积极利用新质生产力,推动管理模式,不断创新和优化,提高治理效率和服务水平,通过在线调查、民意征集、政策讨论等功能收集公众对监管政策的意见和建议,为政府制定和调整监管政策提供参考依据。
(四) 政府治理的公益追求与理性实现
数字政府的建设必然将以增进公共利益为价值取向和最高目标。
如何以公共性为路径,是完善数字时代行政治理的重要议题。在这一过程中,新质生产力在公共利益追求领域依靠人工智能技术的运用,更加精准地掌握公共服务需求,优化资源配置,提高公共服务的质量和效率,新一代生成式人工智能由此也发挥重要的作用。如上所述,人工智能技术的运用,可以帮助政府更好地分析社会数据,预测未来趋势,从而制定更加科学、合理的政策,还可以帮助政府优化公共服务,提高行政效率,使公众能够享受到更加便捷、高效的服务[18]。从整体的视角上看,其还能够实现对于公共利益、理性治理等方面的追求。
1. 数字政府建设的公共利益追求
新一代生成式人工智能在数字政府建设中的深度融入,彰显出其对公共利益的高度追求和深远影响,具体体现可细化为以下几个层面:首先,人工智能技术凭借其强大的连通性,对政府组织架构进行了深层次的优化与重塑。这种基于技术驱动的组织重组机制,不仅推动了政府规模的合理精简,更引领了组织结构的创新与变革。在此过程中,治理主体与治理对象之间的互动交流得到了前所未有的加强,进而为数字政府实现精准化、集成化的治理模式提供了坚实的技术支撑和广阔的实践空间。其次,人工智能技术在数字政府政务服务建设中的全面应用,深刻践行了以人民为中心的发展理念。通过实现政务公开和政务办事的全过程信息可追溯化,该技术有效解决了长期困扰社会主体的办事难、办事慢、办事繁等突出问题,有助于显著提升政府服务效率和质量,打造更加高效、便捷的公共服务平台,同时也为广大人民群众深度参与数字政务、充分行使民主权利提供坚实的技术保障和强大的动力支撑。最后,在数字政府决策领域,人工智能技术的引入和应用注重前瞻性研究,有效弥补了传统决策模式在决策机制和政策评估体系等方面的不足。通过大数据分析和智能算法等技术手段的运用,数字政府的决策过程更加科学、合理,能够更好地适应复杂多变的社会环境和满足多元化的公共需求。
2. 数字政府建设的理性治理实现
人工智能在治理体系中的深度融合呈现出一个鲜明的特征,即算法决策、算法理性及算法支配正逐步替代传统的人类决策与理性能力[19]。这一转变在数字政府建设中尤为显著,其中新一代生成式人工智能以理性为基石,倡导科学、客观的决策路径,旨在达成高效决策与公共利益的最优化。智能算法系统的采纳,使得数字公共治理的决策流程更为系统化、科学化与精确化。具体而言,理性导向在数字政府建设中的具体展现可细化为多个维度。首先,凭借大数据与人工智能技术的融合应用,数字政府能够实时捕获并分析大量数据资源,进而实现基于数据驱动的决策制定,确保决策的时效性与准确性。其次,在构建决策规则与操作流程时,新一代生成式人工智能强调科学性与实证检验的重要性。它以科学研究和实证分析为决策依据,确保每项决策的合理性与可行性,从而提升了决策的科学性和可信度。最后,数字政府建设还着重于利用反馈机制与实时数据监测对决策进行持续性的评估与调整。通过不断的优化与改进,决策能够更好地契合实际需求与公众利益,由此提升政府的治理效能与公信力。综上所述,新一代生成式人工智能在数字政府建设中的应用以理性为导向,通过整合智能算法系统、强调科学性与实证检验以及利用反馈机制与实时数据监测等手段,可以推动数字公共治理的决策过程朝着更加系统化、科学化与精确化的方向发展。
三、 算法运作:新一代生成式人工智能参与数字政府建设的底层逻辑
当前,杭州正紧锣密鼓地推进“城市大脑”建设,该项目的核心在于运用了阿里云先进的人工智能技术。具体而言,政府将各类与城市治理息息相关的数据进行整合、分类,并成功接入城市大脑平台。借助强大的算法建模能力,该平台能迅速对数据进行分析处理,并实时将结果反馈至城市基础设施,从而优化公共资源配置,推动城市智能化运行。基于上述实践案例的进一步分析显示,在公共性算法的实施框架中,语言训练被赋予了举足轻重的地位,它不仅是算法应用的逻辑起点,更是确保算法有效性和适应性的关键要素。通过运用大规模的数据集与先进的深度学习技术,人们可以训练机器以更为精准地理解和生成自然语言,从而构筑起人机之间的无缝沟通纽带[20]。人机交流在公共性算法的应用生态中占据了核心位置。从人机关系的深层次视角出发,算法行政所展现的鲜明特色在于人工智能技术的深度融合,以及由此引发的传统公共管理者角色的根本性转变。这一转变对于传统公共行政范式构成了挑战,也在某种程度上推动了其范式的重构与演进。作为人机交流的核心任务之一,信息处理的根本目的在于充分利用算法技术的独特优势,以解决社会实际问题为最终导向。在这一过程中,算法可以提升信息处理的效率与准确性,并且运用其精准的分析与决策能力,为公共治理领域带来革命性的变革。
(一) 语言训练:基于数据的算法应用初始环节
新一代生成式人工智能的引入被视为提升政府治理能力和效率的关键力量,使之真正发挥作用一个核心的前提是拥有充足且高质量的公共数据,不仅用于训练算法,更加精准地理解和响应公共需求,而且还是确保算法决策具有公共性和代表性的基础。各级政府机构已经积累了人口普查、经济统计、环境监测等大量的公开数据集,在脱敏和去除保密内容后可以作为训练公共性算法的基础数据源。明确算法训练所需的数据类型和目标,确定需要哪些领域的数据,以及这些数据应满足的质量标准,进而对各级政府机构、公共事业单位等发布的公开数据集进行梳理和评估,了解来源、覆盖范围、更新频率等信息,并评估其质量、可靠性和适用性。在整合公开数据集之前,需要进行数据清洗和预处理工作,去除重复数据、处理缺失值、纠正错误数据等,以确保数据的准确性和一致性,将清洗和预处理后的数据集进行整合与融合,将不同来源、不同格式的数据整合到一个统一的数据仓库或数据库中,在此过程中注意数据的关联性和一致性,确保不同数据集之间的信息能够相互匹配和验证,建立数据质量评估体系,定期对数据集进行质量检查和评估,加强数据安全防护,采取加密、访问控制等措施,防止数据泄露和非法访问[21]。
此外,还可以通过多元方式丰富供算法训练的数据来源。通过众包平台或公民科学项目,鼓励公众积极参与数据收集,通过移动应用收集交通流量数据,或邀请公民上传环境问题的照片和描述,与企业、研究机构和非政府组织建立合作伙伴关系,共享数据和资源。在数字政府建设中,众包与公民参与是训练公共性算法的重要手段。通过广泛吸纳公众的智慧和力量,不仅可以丰富数据集,还能提高算法的公共性和代表性。为了吸引更多公众参与众包活动,需要设计易参与且有趣的众包任务,简化任务流程、提供直观易用的操作界面、设置奖励机制等方式实现。同时,还可以考虑将众包任务与公众关注的热点问题或实际需求相结合,提高任务的吸引力和实用性。为方便公众参与众包活动,需要建立政府官方网站、移动应用、社交媒体账号等公民参与平台或渠道,公开发布众包任务、收集公众数据并提供反馈,确保相关平台的稳定性和安全性,保护公众隐私和数据安全。为激励公众参与众包活动并认可他们的贡献,可以设置相应积分兑换、荣誉证书、实物奖励等形式的奖励机制。
训练公共性算法收集数据时,保证数据安全和数据脱敏是至关重要的,需要对个人隐私的保护、对敏感信息的处理以及对数据泄露风险的防范。必须采取严格的安全措施,确保数据在传输、存储和处理过程中不被未经授权的人员访问、篡改或滥用[22]。这包括使用加密技术来保护数据的机密性,实施访问控制和身份验证机制来限制对数据的访问权限,以及定期进行安全审计和漏洞扫描来及时发现和修复潜在的安全漏洞。在收集数据时,应该去除或替换掉能够直接识别个人身份的敏感信息,确保在算法训练过程中不会泄露个人隐私,同时仍然保留足够的信息用于算法的学习和分析。建立合规的数据处理流程和政策,明确数据的收集目的、使用范围、存储期限等,确保数据的合法性和合规性,定期审查数据收集、存储和处理的过程,以及监督数据访问和使用的情况,可以及时发现和解决潜在的数据安全问题。
(二) 人机交流:算法代表公共权力的多向互动
在数字政府中,公共性算法代表着公权力与公民进行交互,应该实现人机友好。新质生产力促进人际交流,丰富交流方式,优化团队协作,并通过数据驱动进行决策支持,为人们的工作和生活带来了诸多便利和优势。人机交互设计是提升公共性算法与公民交互效果的关键环节,确保公民在使用算法提供的服务时感到直观、便捷和满意。
界面设计应简洁明了,避免过多的信息和复杂的操作。重要的信息和功能应一目了然,方便公民快速找到所需内容。保持界面设计的一致性有助于公民在使用不同服务时能够快速适应,考虑到公民可能使用不同的设备访问服务,界面设计应具备响应性,能够自适应不同屏幕尺寸和设备类型。交互设计应确保公民在操作过程中感到流畅自然,减少不必要的操作步骤和等待时间,提供即时的反馈和确认信息,还可以提供个性化的操作体验和界面布局。
算法的设计、开发和应用要充分考虑公民的利益和诉求,确保算法的决策结果符合公共利益和法律法规。通过收集和分析公民在社交媒体、在线调查、公共论坛等渠道产生的数据,可以洞察公众对某一政策议题的看法、需求和期望,为政策制定者提供宝贵的参考,有助于他们更加准确地把握社会热点和民意走向。政策发布后,公共性算法可以辅助政府进行政策解读工作,将自然语言处理等技术将复杂的政策内容转化为图表、动画、短视频等易于理解的语言和形式,帮助更好地理解和接受政策。还可以根据个人信息和历史行为数据,提供个性化的政策解读和建议,提高政策传播的针对性和有效性。
公共性算法可以构建智能问答系统,通过自然语言处理技术,理解和解析公民提出的政务问题,自动从政府数据库中检索相关信息,或者通过预设的知识图谱来提供准确、及时的回答。为了确保公民能够方便地提出问题,公共性算法需要支持通过多种渠道接入政府网站、移动应用、社交媒体等。对于复杂或需要进一步处理的问题,公共性算法可以建立问题跟踪机制,确保问题得到妥善解决。公共性算法通过分析公民的历史行为数据、偏好信息以及社交媒体活动等,构建用户画像,进而建立服务推荐系统,为公民推荐与其需求和兴趣相关的公共服务。对于某些需要公民参与的公共服务流程,如行政审批、证件办理等,公共性算法可以根据公民的具体情况和需求,提供定制化的服务流程,有助于减少在办事过程中的时间和精力成本,提高政府服务效率。
为了确保公民能够充分理解、适应并积极参与这个智能化时代,开展人工智能的公民教育显得尤为重要。
教育目标为提升公民对人工智能技术的认知和理解,培养公民的信息素养和批判性思维,以及引导公民积极参与和负责任地使用人工智能技术。利用模拟实验、游戏化学习等方式,公民在互动中体验和学习人工智能技术;通过分析真实的应用案例,公民能更好地理解人工智能在实际生活中的应用和影响;邀请专家、学者和从业者,分享他们的见解和经验,能激发公民兴趣和思考。对于老年人、残疾人以及其他特殊群体,政府应提供专门智能教育服务,以确保他们能够平等地获得人工智能的知识和技能。同时,持续的人工智能技术创新是推动人工智能领域不断发展的关键。企业和研究机构需要不断投入研发资源,探索新的人工智能算法、模型和技术,提高人工智能的性能和效率,关注人工智能与数据、云计算、物联网等其他技术的融合,推动形成更加完善的人工智能技术体系。政府需要制定和实施提供研发资金支持、建立创新平台、加强知识产权保护等有利于人工智能技术创新的政策。
(三) 价值嵌入:技术内化道德理性的善治实现
随着新一代生成式人工智能技术的快速发展,其在数字政府建设中的应用越来越广泛。这种技术联结在数字政府建设中发挥着重要作用,不仅能够提高政府治理的效率和质量,也能够实现技术内化道德理性的善治。董超和王晓冬在《生成式人工智能在数字政府建设中的探索、挑战及建议》一文中指出:“基于深度学习的大模型训练往往处于‘黑盒或‘灰盒状态,利用大数据‘暴力产出的相关结果往往比较理性,但却得不到合理的解释,也缺乏对结论对错的判别手段。个体行为的决策往往取决于‘理性+感性,尤其是数字政府中‘以人为本的建设理念。而模型的‘理性决策结果可能与‘以人为本所需的‘理性+感性决策结果不相符。同时,生成式人工智能中存在的‘算法绑架‘技术依赖等风险也会给其应用带来法理、伦理类的各种挑战。”[23]公共性算法制度建构的技术联结具有复杂性、动态性和跨领域性等特征,面临着技术、法律、伦理等多方面的挑战。
技术联结将新一代生成式人工智能技术与公共性算法制度相结合以实现技术与制度的相互促进和协同发展,技术联结一方面将生成式人工智能技术嵌入到公共性算法制度中,提升制度的执行效率和准确性,另一方面通过制定和完善相关法律法规、伦理规范等,引导生成式人工智能技术在公共领域的应用,保障技术的合法性和合规性。数字政府建设需要依赖先进的技术手段,新一代生成式人工智能技术作为一种强大的工具,为数字政府建设提供强大的赋能作用,通过提供精准的数据分析、智能决策支持、自动化处理等方式,提高政府治理的效率和精准度,从而实现现代化治理的目标。
在数字政府建设中,新一代生成式人工智能技术不仅可以提高治理效率和质量,而且可以内化道德理性。具体来说,这种技术可以通过提供道德判断和决策支持,帮助政府工作人员更好地理解和遵守道德规范,从而在数字政府建设中实现道德理性的内化。新一代生成式人工智能技术通过赋能和内化道德理性,实现善治。首先,它可以提高政府治理的透明度和公正性,减少腐败和权力滥用现象的发生。其次,它可以促进政府与公众之间的互动和沟通,增强公众对政府的信任和支持。最后,它可以提高政府的服务质量,为公众提供更加便捷、高效、优质的公共服务。
新一代生成式人工智能技术为数字政府建设提供了强大的赋能作用,可以内化道德理性,实现善治。这些技术的运用,不仅有利于提高政府治理的效率和质量,也有利于推动社会公正、透明和可持续的发展。未来,我们应该继续探索和应用这些技术,充分发挥其在数字政府建设中的作用。在数字政府建设中应用新一代生成式人工智能技术时,我们也需要注意技术伦理和监管问题。首先,需要确保技术的合法性和合规性,避免出现侵犯个人隐私、数据泄露等问题。其次,需要加强技术的监管和管理,确保技术的安全性和可靠性。最后,需要关注技术的可持续发展问题,避免出现技术过时或淘汰等问题。未来应该继续探索和应用这些技术,充分发挥其在数字政府建设中的作用。
四、 制度建构:新一代生成式人工智能参与数字政府建设的完善路径
随着新质生产力的飞速发展,人工智能已成为推动数字政府建设的重要力量,特别是新一代生成式人工智能技术以其强大的数据生成、处理和分析能力为数字政府建设提供了全新的视角和工具。然而,在这一过程中,如何构建合理、有效的公共性算法制度,实现技术与治理的有机结合[24],成为一个亟待解决的问题。从治理调适的角度探讨新一代生成式人工智能参与数字政府建设中的公共性算法制度建构问题,并提出相应的治理调适策略是不可或缺的[25]。因此,有必要对技术进行合理规制,从而尽可能实现积极效能、规避消极风险。“场景化、全过程”是算法嵌入政府治理等风险防控路径,参考上述人工智能技术联结数字政府的三个流程,可以从语言训练、人机交流和价值嵌入等多个层面出发,运用多种手段对新一代生成式人工智能参与数字政府建设的过程进行调适,从而引导其在正确的发展轨道上行进,最终在确保公共性算法合理使用的同时,也实现公共利益和个人权益之间的平衡。
(一) 语言训练中的数据可利用限制
近年来,随着新质生产力的发展,新一代生成式人工智能技术迅速崛起,为数字政府建设提供了强大的技术支持。其中,语言训练作为生成式人工智能的核心环节,对于提升政府治理的智能化、精准化水平具有关键作用。然而,在实际应用中,语言训练所需的数据资源常常受到各种限制,如数据获取难度大、数据质量参差不齐、数据安全和隐私保护要求严格等,这些限制严重影响了语言训练的效果和效率[26]。学者指出:“一旦作为数字技术成果的生成式人工智能借助数字政府的公共权力平台来为资本力量、资本增值服务,就会从根本上破坏数字政府建设的公共伦理,使得数字政府成为资本‘俘获国家权力的桥梁,导致资本的价值取代人的价值。因此,生成式人工智能参与数字政府建设必须在‘消除技术资本侵蚀公共伦理的风险这一前提性基础之上进行。”[27]因此,如何在制度层面解决数据可利用性限制问题,成为推动新一代生成式人工智能在数字政府建设中发挥更大作用的关键。
新一代生成式人工智能技术,如深度学习、自然语言处理等,具有强大的数据处理和学习能力,能够自动生成高质量的文本内容,为数字政府建设提供强有力的支持。数据是数字时代的基础性要素资源。在数字政府建设中,生成式人工智能可以应用于政策文件起草、公共服务信息生成、舆情分析等多个领域,提高政府工作的透明度和效率。虽然生成式人工智能在数字政府建设中的应用前景广阔,但语言训练环节中的数据可利用性限制问题不容忽视。具体表现在以下几个方面:第一,数据获取难度大。由于数据资源的分散性和敏感性,政府部门在获取所需数据时往往面临诸多困难。同时,不同部门之间的数据共享机制不完善,也增加了数据获取的难度。第二,数据质量参差不齐。在实际应用中,数据的准确性和完整性往往受到多种因素的影响,如数据采集方法不当、数据更新不及时等。这些问题导致语言训练所需的数据质量参差不齐,影响了训练效果。第三,数据安全和隐私保护要求严格。随着数据安全和隐私保护意识的提高,政府部门在共享和使用数据时面临着严格的安全和隐私保护要求。这在一定程度上限制了数据的可利用性,给语言训练带来了挑战。
为解决语言训练中的数据可利用性限制问题,本文提出以下制度建构策略:第一,完善数据共享机制。政府部门应建立健全数据共享机制,明确数据共享的范围、方式和责任,推动不同部门之间的数据互通有无。同时,加强数据安全管理和隐私保护,确保共享数据的安全性和可靠性[28]。第二,强化数据质量管理。政府部门应建立数据质量管理体系,制定数据采集、存储、处理和使用的标准和规范。通过加强数据质量监控和评估,提高数据的准确性和完整性,为语言训练提供高质量的数据资源。第三,加强政策支持和引导。政府应出台相关政策,鼓励和支持企业、科研机构等社会力量参与数字政府建设,共同推动生成式人工智能技术的发展和应用。同时,加强对新一代生成式人工智能技术的研发和推广,提高其在数字政府建设中的普及率和应用水平。第四,建立多方协作机制。政府部门、企业、科研机构等应建立多方协作机制,共同推动数字政府建设中的数据资源共享和利用。通过加强沟通与合作,共同解决数据可利用性限制问题,推动生成式人工智能技术在数字政府建设中的广泛应用。
新一代生成式人工智能技术在数字政府建设中的应用具有广阔前景,但语言训练中的数据可利用性限制问题成为制约其发展的关键因素。完善数据共享机制、强化数据质量管理、加强政策支持和引导以及建立多方协作机制等制度建构策略,可以有效解决这些问题,推动生成式人工智能技术在数字政府建设中的深入应用和发展。
(二) 人机交流中的算法与权力规制
1. 针对算法的准入制度与司法规制
(1) 算法准入的制度细化
在此前的诸多公共事件中便存在算法准入的讨论,例如在苏州“文明码”事件中,通过智能系统为市民进行文明打分的做法就招致了对于人的尊严、社会效益等方面的非议[29]。尽管生成式人工智能具有交互性、个性化的特征,但是依然无法脱离工具属性。只有规范生成式人工智能,才能使其对政府治理的应用符合公共利益。在规范过程需要综合考虑技术、法律、伦理等方面的因素,强调对算法的规制确保生成式人工智能算法在数字政府建设中的安全可靠应用[30]。
生成式人工智能对公共领域具有潜在的风险,需要建立一套完善的算法准入制度,以确保其安全可靠地应用于数字政府建设。首先,对生成式人工智能算法进行评估和审查。审查需要对算法的原理、数据来源、数据安全性、隐私保护等进行审核,确保其符合相关法律法规和伦理要求。其次,注重对数据的质量和合规性的评估。生成式人工智能算法通常需要大量的训练数据,而这些数据的质量和来源至关重要。制定准入制度时,应明确规定数据收集和使用的合规性要求,确保算法使用的数据符合相关法律法规,并遵循隐私保护原则。最后,事先明确算法主体的权利和责任。算法治理所涉主体多元化,权责清晰能够避免因制度不清而发生的推诿现象,减少可能发生的损失。
(2) 算法规制的司法实现
《人民法院第五个五年改革纲要(2019—2023)》中指出,借用现代科技手段提高智慧法院建设水平,形成信息化建设与司法体制改革合力,共同推进审判体系和审判能力现代化。司法程序的智能化体现了“小范围开花”的通用技术的成熟。然而考虑到算法本身并非中立,在传统的物理社会,歧视比较容易被辨识,而在大数据时代,算法歧视具有较强的隐蔽性,有时甚至是无意识的。即使在人工智能时代,司法依然要通过自身手段对算法加以规制,避免将选择权与决策权直接让渡给算法[31]。
司法审查通过不同的方式抑制算法的权力,从而针对算法失范形成有规律性、有预测性的司法裁判导向,以此彰显政策指引。在美国司法实践中有两种不同模式的审查方式可以借鉴。一种是不同待遇审查模式。不同待遇审查模式的主要特点是审查算法决策者是否存在主观故意或者刻板印象,并将之作为决策因素从而对一个群体发生歧视行为[32]。美国联邦最高法院在1973年“麦克唐纳道格拉斯公司诉格林”(McDonnell Douglas Corp. v. Green)案中,确立了该模式。另一种审查模式是差异性影响审查模式。差异性影响审查模式强调算法是否产生了不公平对待,而不关注算法决策者的主观意图。这种审查模式通常用于评估涉及算法应用的歧视性行为。原告需要提供证据来证明算法对他们的不利影响,即存在差异性影响。被告可以抗辩算法使用的正当性和必要性。两种模式都能积极发挥法院的司法审查作用,可以在司法审查方面立足我国基本国情,借鉴美国司法实践,全面地评估涉及算法决策的歧视性问题,促进公正和平等的法律适用。
司法审查通过监督和审查机制确保算法决策的合法性和公正性,司法裁判则通过具体的法律案例对算法进行规制。如果说法律是个体行为的“航向”,而司法裁判则是个体行为的真正“坐标”。人们可以通过司法裁判,预测文本中的法律与实施中的法律的距离。在公共算法应用中,司法裁判可以通过解释和适用现有法律,填补法律空白,为算法决策提供法律准则和指引。面对算法与公共利益的保护和权益的平衡问题时,司法裁判可以根据具体情况,权衡各方利益,并作出平衡合理的裁决,确保公共利益得到保护。
此外,通过司法解释和案例指导制度为公共算法的应用提供法律准则和规范,维护公共利益,确保法律适用的一致性[33]。在缺乏明确的法律算法规定前提下,司法解释和案例指导制度不仅是规范算法的补充方式,也可以避免因不同法院对同一问题的解释不一而导致的混乱和不公正,推动相关法律法规的修订和完善。在立法规定之粗疏、法官能力之不足、判例制度之缺位三个原因没有消除的情况下,司法解释制度具有其存在的合理性。随着经济社会的现象不断诱发的新兴法律问题,为缺乏法之稳定性,必然存在立法规定无法涵盖之处。数字经济时代衍生的各种法律问题更凸显司法解释的重要性。案例指导制度为中国特色社会主义司法制度的重要组成部分,加强司法案例研究、推进案例指导工作不仅是提升我国司法治理能力的关键举措,更是对坚持人民至上、坚持理论创新和坚持中国道路的良好诠释。通过总结和解释案例,案例指导制度为类似争议提供解决方案,减少争议法律成本,为公共性算法的合法性和公正性提供指导和保障。
2. 针对权力的多重限制与责任明确
行政治理中存在着两种信息不对称:行政机关与治理对象的信息不对称、行政机关与行政相对人的信息不对称。算法自动化决策嵌入行政活动,一方面极大地缓解了第一组信息不对称,产生了行政权力增强效应;另一方面,算法或压缩行政活动的各个环节,或作为内部行政决策,逃避行政正当程序制度的控制。易言之,以算法提升行政行为效率往往是现代社会构建数字政府,以大数据促进社会治理的主要目的之一。在实然层面上,算法对程序的精简确实能使政府及其各部门行政效率得以提升。当效率的内涵得以强调和重构,行政法视阈内的程序性要求似乎受到冲击,进而对公民的权利甚至是基本权利有所侵蚀。譬如,隐私权在诸多国际人权公约中被确立为一项基本人权参见《公民权利和政治权利国际公约》第17条。,在我国的民事法律中同样作为公民权利被固定下来参见《中华人民共和国民法典》第1032条。。当公民进入政府管理的场域,其身份转化为行政相对人,在社会公共生活秩序中难免产生权利的让渡,数字化时代下则多表现为公民将自身的数据信息“贡献”给数字政府,以此达到政府治理的目的,这也是隐私权让渡的延伸。由此可见,现代政府在强调先进技术手段的同时不能离开传统的法理,否则政府极易成为披着现代技术外衣的古旧权力机器,进而滑向“数字利维坦”的境遇。当以行政法法理的视角重新审视算法自身及其延伸出的权力关系内涵时,国家所拥有的数字权力事实上对行政法的程序性要求提出挑战。
然而,事实上程序性并不排斥效率,只是将效率与正当的价值位阶重构,要求在保证程序正当的前提下仍然兼顾公平。同理,象征着效率的数字权力也并不应当超越政府本身兼顾程序正当的特性而存在,行政行为的各法理同样应当适用于数字权力运行的过程,以此制衡行政权力。概言之,这一动态建设过程能够分为积极和消极两个层面。积极层面要求数字政府自身严格保持数据采集行为的目的正当并指引执法行为的合目的性;消极层面则来自行政权力运行过程中外部的限制,按照运行流程,构建监督和救济权利的渠道。
(1) 目的正当原则下的数字行政权力规制
数字政府其权力运行高度依赖公民对自身数据信息的贡献,而当公民的个人信息数据一旦进入算法技术层面,数据的删除与清理工程便极易失控,也极易使公民失去“被遗忘权”。因此,与传统行政法中的比例原则相比,现代数字政府的行为建设在采集公民数据信息阶段更应该抬高数字化的行政行为自发生起的门槛,强调目的正当性并以此严格指导具体行政行为[34]。
与传统的“三阶式”比例原则内涵相比,目的正当性原则因其长时间的历史缺位而极具研究价值。概言之,公权力行为的目的不正当,即使对公民权利实行最轻微的限制也是不允许的;只有公权力行为目的正当,才可能允许限制公民权利。落实到数字政府的治理层面,出于对公民的隐私权保障需要,政府收集并处理公民个人数据信息的出发点必须能通过正当性审查,方能考虑后续步骤。譬如,如果只是为了所谓的“方便管理”,懒政怠政而“一刀切”地大量收集公民的住宅、联系方式等信息,当然不能经受住最初的目的审查,也不能产生行政行为本身的合法性依据。同样,如果行政行为目的确实正当,在执行中就必须受到正当目的范围的约束。例如,以人口普查为目的而在特定时间内收集相关公民信息,就不能同时过问公民的财产情况,因为该情况与人口普查的目的无关。并且,在后续的信息处理中,即使公民在调查中透露出与普查无关的信息并被相关人员收集,也必须被技术深度脱敏处理,如此才能符合政府行政的目的正当原则要求。
(2) 权力与权利互动关系视阈下的数字行政权力规制
权力与权利一体两面的动态关系一直是近现代政府管理权限发展研究的中心问题,随着现代行政诉权的不断完善和纠纷解决机制的多元化,权利的救济同时也成为权力限制的重要路径之一。当从前为自然人所掌握的公权力为算法系统所掌握时,对权力的制约手段也应呈现出与之相关的特殊性,“监督—问责—救济”的全流程系统也应当随着算法的自然特征而展开[35]。
历史经验表明,技术的高速发展通常而言远在制度尤其是极具滞后性的法律制度的变革之前,而信息时代的技术发展对于政府治理亦有其特殊性。早在信息时代的开端即有学者指出,建设数字政府的本质并非仅仅是把算法技术视作纯粹的器物以提升所谓的行政能效,而是政府面对信息技术所带来的新的社会典范的挑战,如何进行政府的再造,促进政府的转型,建立适应信息社会需要的新的政府治理典范,促进善治,实现善政的问题。由此观之,数字技术变革的特殊性在于不仅促进技术所服务的领域的进步,还能够反作用于政府权力重构自身,因而起到限制政府权力的作用。而在数字政府内部,较为直接的技术作用于权力重构的方式则是以算法监督算法,用更为可视化的方式对数字政府运行过程加以分析和固化,提供能够供国家机关和社会各界广泛行使监督权的信息和报告[36]。
在问责阶段,应当注意根源于数字技术专业性的责任主体多元化问题。以算法为载体的自动化决策过程中,可能引发决策者的“算法卸责”,即通过“寻找替罪羊”“避免行政裁量权”等方式逃避责任,导致了算法决策与问责制之间的巨大张力[37]。如前所述,即使数字权力在运行的过程中时常脱离自然人算法技术也只能是一类为政府所应用的行为与储存工具,其行为核心仍然是政府所掌握的权力。因此,当政府选择以数字化的方式行使权力时,无论算法自身的技术缺陷到达何种程度,其自身作出的针对行政相对人的行政行为的责任承担必须拟制于传统行政行为,不可推卸。而聚焦于行政系统内部管理中,面对庞大的公务员队伍,算法决策可以为个人处分提供依据与标准,不仅能够科学构建裁量权较大的公务员奖惩机制,还能广泛真正实现行政系统内部的“同案同判”,减少系统内部腐败的存在空间。上述两种主体都是传统意义上行政行为中具有责任承担可能的两类主体,因此数字政府的建设只是为其人员管理、证据固定以及处分裁量等提供科学依据。本文认为,提供算法的第三方科技机构应当是数字政府建设中更为特殊的一类主体。“政府与互联网平台、数字技术企业等第三方合作,政府与企业深度互嵌,在公共领域的边界愈发模糊交错。”本文认为,由于其不具有行政法意义上的行政主体地位,与政府通常签订的是平等的民事协议。因此,第三方机构所承担的责任并非行政法意义上的,而是民事责任。当作为算法提供者第三方(通常是科技企业)与政府部门同时对行政相对人的权利造成损害时,应当按照民事法律意义上共同侵权的原理予以责任划分。
从公民权利救济的环节而言,保障公民行政法意义上的诉权是监督政府数字权力的兜底方式和最后防线。当公民对行政机关提起行政诉讼,法院的主要审判依据为被告一方提供的证据。因此,法院在审理案件,认定证据时应当注意技术依赖的思维陷阱,既不能推定被告提供的算法生成数据为案件事实,也不能与其他证据出现冲突时推定其为更具真实性的证据。同时,诉权以外的救济权利同样值得关注。
(三) 价值嵌入中的算法道德性保障
新质生产力的发展带来了新的挑战,其中算法得到的新问题尤为突出。在使用人工智能技术时要充分认识到其背后的算法的工具本质和人的主体性与尊严。新一代生成式人工智能能够有效促进数字政府建设的过程中,需要加强算法的“道德性”[38]。道德因其与法律相对的模糊性而似乎常难以加以量化,因而更加难以涵摄于技术之中。将道德寓于数字政府建设的过程难以像法律法规相关建设一般显性,从立法、司法和执法等多方面给相对人以直观的感知和清晰的救济。为此,道德性嵌入算法事实上是对人主体性地位的把控,具体而言,需要对技术开发者和使用者等个人均提出一定标准。
首先,技术开发者必须将伦理纳入设计考量,不能陷入纯粹技术主义的漩涡,将政府内部的算法视作简单的技术人工物,而是应当将其视为具有复杂功能性道德的智能机器,用代码转换伦理并镶嵌其中[39]。其次,对主要为地方各级政府的使用者而言,由于我国幅员辽阔,民族众多,地域间的生活习惯与风俗大相径庭,因此所谓的道德伦理具有极高的地域性,身为本地官员的使用者必须贴近群众,考察并抽象出尤其是当地可能与一般意义上不尽相同的公序良俗以嵌入当地的数字政府算法之中,由此才能纾解基层政府治理之困。最后,应构建算法合伦理审查机制,以防止算法使用中可能出现的伦理隐患。这一审查机制应由多元主体组成的伦理审查机构负责,包括技术专家、公众、政府和协会等。同时,需要明确和规范审查程序,并明确审查不合格后所需承担的伦理责任。成立专门的伦理委员会也能将上述审查机制进行具体落实。欧盟是构建数字科技和人工智能伦理委员会的典例,为前沿科技的伦理问题提供相应的咨询与交流合作平台,其中的制度特点可以为我国所借鉴。总体而言,伦理审查制度应当注意人的伦理与技术伦理的统一,这要求科技伦理审查呈现双轨制样态,包含对技术创造与使用人员的背景调查和算法伦理程序的双项审查,二者均符合基本的道德规范,方能允许技术的投入使用。
五、 结语
公共性算法给了政府治理一种智慧化的心态,但怎样认识、面对、适应智慧化或者数字化的现状,还是一个巨大的课题。作为较为理论性、概念性的话题,在针对新质生产力的治理、通过新质生产力实现治理的目标指引下,以公共性算法及公共性算法制度为对象展开的论述需要实践案例的支撑。基于技术的当下发展与应用现状、政策话语中的论及频度,本文选取了新一代生成式人工智能参与数字政府建设的具体场景展开论证。新一代生成式人工智能的参与,不仅为数字政府建设注入了新的活力,也推动了政府决策、运作、监管和治理等方面的效能跃迁,但其背后也存在相应的风险需要进行深入分析。从逻辑进路上看,本文意图通过效能跃迁、底层逻辑两个层面的拆解阐释公共性算法对于我国国家治理能力提升的重要作用与运作方式,并从不同的技术环节出发针对性地提出相应的治理调适意见。
展望未来,公共性算法的运用及其制度建构将成为数字政府建设的重要方向之一。因此,需要在实践中不断探索和完善相关规范,确保算法通过技术理性助力政府治理的同时,也符合公共道德理性以及法律的更新要求。未来在公共性算法的制度建构中,应当坚持对于算法的主导和控制权,强调算法对于公共治理的辅助作用,以多元共治、多方并举的方式规范公共算法的设计、运用,引导其在良性的轨道上发展,促进实现公共治理能力与治理体系的现代化。
参考文献:
[1]习近平经济思想研究中心.新质生产力的内涵特征和发展重点[EB/OL].(20240301)[20240512]. http://opinion.people.com.cn/n1/2024/0301/c100340186428.html.
[2]人民日报.习近平在中共中央政治局第十一次集体学习时强调 加快发展新质生产力 扎实推进高质量发展[EB/OL].(20240202)[20240512]. https://theory.jschina.com.cn/yaowen/202402/t20240202_8204829.shtml
[3]周文,何雨晴.新质生产力:中国式现代化的新动能与新路径[J].财经问题研究,2024(4):315.
[4]米加宁,李大宇,董昌其.算力驱动的新质生产力:本质特征、基础逻辑与国家治理现代化[J].公共管理学报,2024(2):114.
[5]袁康.可信算法的法律规制[J].东方法学,2021(3):521.
[6]孙清白.人工智能算法的“公共性”应用风险及其二元规制[J].行政法学研究,2020(4):5866.
[7]杜振雷,刘金婷,史金鹏.ChatGPT及其核心技术在科技名词规范化中的应用潜力与挑战[J].中国科技术语,2023(4):4554.
[8]陈永伟.超越ChatGPT:生成式AI的机遇、风险与挑战[J].山东大学学报(哲学社会科学版),2023(3):127143.
[9]王锡锌,章永乐.我国行政决策模式之转型——从管理主义模式到参与式治理模式[J].法商研究,2010(5):312.
[10]张欣.生成式人工智能的算法治理挑战与治理型监管[J].现代法学,2023(3):108123.
[11]支振锋.生成式人工智能大模型的信息内容治理[J].政法论坛,2023(4):3448.
[12]刘宇轩,张乾友.“人工智能+”政府决策:挑战与应对[J].贵州社会科学,2021(4):1421.
[13]张夏恒.类ChatGPT人工智能技术嵌入数字政府治理:价值、风险及其防控[J].电子政务,2023(4):4556.
[14]陈潭,王颖.人工智能时代政府监管的实践转向[J].中南大学学报(社会科学版),2023(2):136144.
[15]段永彪,董新宇,徐文鹏.人工智能赋能政府监管的影响因素与实现机制——基于社会技术系统理论的多案例研究[J/OL].电子政务. https://link.cnki.net/urlid/11.5181.TP.20240108.0913.012.
[16]崔中良,王慧莉.人工智能研究中实现人机交互的哲学基础——从梅洛·庞蒂融合社交式的他心直接感知探讨[J].西安交通大学学报(社会科学版),2019(1):130137.
[17]蒋雪颖,许静.人机交互中的生成式人工智能新闻:主体赋能、危机与应对[J].河南社会科学,2023(12):105113.
[18]庞金友.人工智能与未来政治的可能样态[J].探索,2020(6):8496.
[19]倪梁康.人工智能:计算还是思考?[J].浙江社会科学,2023(2):2022.
[20]喻国明,陈艳明,普文越.智能算法与公共性:问题的误读与解题的关键[J].中国编辑,2020(5):1017.
[21]朱宝丽.数据正义、算法歧视与规制[J].征信,2023(3):812.
[22]安晋城.算法透明层次论[J].法学研究,2023(2):5266.
[23]董超,王晓冬.生成式人工智能在数字政府建设中的探索、挑战及建议[J].数字经济,2023(11):3639.
[24]贾若祥,窦红涛.新质生产力:内涵特征、重大意义及发展重点[J].北京行政学院学报,2024(2):3142.
[25]顾男飞.生成式人工智能的智能涌现、风险规制与产业调控[J].荆楚法学,2023(3):7083.
[26]刘艳红.生成式人工智能的三大安全风险及法律规制——以ChatGPT为例[J].东方法学,2023(4):3043.
[27]庞洋.生成式人工智能嵌入数字政府建设的系统性分析[J].学术交流,2023(8):148162.
[28]商建刚.从保护到流通:我国数据治理范式反思[J].苏州大学学报(哲学社会科学版),2024(1):100110.
[29]昌诚,张毅,王启飞.面向公共价值创造的算法治理与算法规制[J].中国行政管理,2022(10):1220.
[30]汪太贤,唐祎.人工智能嵌入政府治理:算法图景、价值问题与回归路径[J].中国科技论坛,2023(2):104113.
[31]张涛.自动化系统中算法偏见的法律规制[J].大连理工大学学报(社会科学版),2020(4):92102.
[32]郑智航,徐昭曦.大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例[J].比较法研究,2019(4):111122.
[33]贺海仁.规范与理由:我国指导性案例的文本价值与功能重构[J].北方法学,2022(4):521.
[34]谭九生,胡健雄.比例原则规约算法行政的法理基础与路径[J].理论月刊,2023(3):123134.
[35]邹开亮,刘祖兵.试论数据算法权力的异化及法律应对[J].宁夏大学学报(人文社会科学版),2023(4):112120
[36]黄锫.数字平台算法侵害的行政法律责任论纲[J].比较法研究,2023(6):184198.
[37]彭理强.论算法决策中的设计者责任[J].伦理学研究,2023(5):133140.
[38]贾丽民,郭潞蓉.唯物史观视域下“新质生产力”的主体动力源探析[J].理论探讨,2024(2):8694.
[39]曹博.算法歧视的类型界分与规制范式重构[J].现代法学,2021(4):115126.
[责任编辑:苗竹青,黄 燕]
New Quality Productive Forces Governance Based on Public Algorithm System Construction:
A Case Study of the Engagement of Next-Generation Generative Artificial Intelligence in Digital Government Construction
ZHANG Chenyu
(School of Political Science and Law, Northeast Normal University, Changchun 130117, China)
Abstract: Under the requirements of digital social transformation and modernization of national governance capacity, algorithms, as one of the representatives of new quality productive forces, can achieve positive effects through their public applications, but also need specific institutional construction to avoid corresponding risks. Not to mention that the problem of public algorithm institutional construction may be suspected of being abstract and detached. In the context of the participation of a new generation of generative artificial intelligence in the construction of digital government, more solid arguments
should
be made. Firstly, public algorithms can provide effective assistance for public governance, specifically resulting in such performance transitions as reducing errors and enhancing objectivity in government decision-making, streamlining and reducing the cost of government operations, innovating and collaborating in government supervision modes, pursuing public welfare and realizing rationality in government governance. Secondly, the operation of public algorithms has three stages of technological connection paths. The language training stage is the initial link of algorithm application based on data. Human-computer communication can achieve multi-directional interaction between algorithms representing public power. Value embedding can promote the internalization of technology and moral rationality, ultimately achieving good governance. Finally, there are specific risks in the application of public algorithms in the above three stages, which require the construction of public algorithm systems for adjustment. In language training, it is necessary to limit the availability of data, in human-computer communication, it is necessary to regulate algorithms and power, while in value embedding, it is necessary to ensure the morality of algorithms.
Key Words: public algorithm; generative artificial intelligence; digital government; new quality productive forces; public governance; algorithm regulation