生成式人工智能嵌入数字政府建设的系统性分析

庞 洋

(东北师范大学 马克思主义学院,长春 130024;哈尔滨职业技术学院 马克思主义学院,哈尔滨 150081)

党的十九届四中全会提出“建立健全运用互联网、大数据、人工智能等技术手段进行行政管理的制度规则”,而数字政府建设的持续推进需要不断利用新的技术革命成果。继2022年11月美国OpenAI公司推出聊天机器人程序ChatGPT(Chat Generative Pre-trained Transformer)之后,国内多家互联网科技公司也陆续推出了更多的生成式人工智能产品,例如百度的文心一言、阿里巴巴的通义千问、华为的盘古大模型等。这些产品的核心技术支撑被统称为生成式人工智能。按照国家互联网信息办公室2023年4月11日发布的《生成式人工智能服务管理办法(征求意见稿)》第二条的表述,生成式人工智能是指“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”;2023年7月10日正式出台的《生成式人工智能服务管理暂行办法》则在附则中说明,生成式人工智能技术是指“具有文本、图片、音频、视频等内容生成能力的模型及相关技术”。

目前学界对生成式人工智能的探讨主要关注两大方面:一是生成式人工智能在各行各业的应用前景,其中讨论最多的是生成式人工智能为教育领域革新创造的机遇[1-3];二是生成式人工智能的应用可能引发的风险,备受关注的大致包括著作权风险[4]16-33、国家安全风险[5]、法律规制风险[4]16-33;[6]等。总体来看,目前关于生成式人工智能的研究主要还是以ChatGPT为核心而展开的,且鲜少涉及数字政府建设领域(1)尽管也有学者对生成式人工智能在数字政府建设领域的应用展开了初步探讨,但他们也主要是围绕ChatGPT来展开的。其中,比较具有代表性的论文主要有两篇:周智博.ChatGPT模型引入我国数字政府建设:功能、风险及其规制[J].山东大学学报(哲学社会科学版),2023(3):144-154;张夏恒.类ChatGPT人工智能技术嵌入数字政府治理:价值、风险及其防控[J].电子政务,2023(4):45-56.。但事实上,ChatGPT并不对中国用户开放,从严格意义上讲,“将ChatGPT运用到我国数字政府建设中”可能并不切合实际。不过,以ChatGPT为基础原型,越来越多的生成式人工智能产品开始涌现,因而,生成式人工智能进入我国数字政府建设中不仅是大势所趋,更是数字政府建设本身技术革新的需求所在。因此,我国数字政府建设的技术突破应当着眼于ChatGPT之后衍生的一系列生成式人工智能产品。《生成式人工智能服务管理暂行办法》的出台也从侧面说明了国家对生成式人工智能发展“支持和鼓励”的主基调。在此背景下,探讨如何利用生成式人工智能技术来推进数字政府建设,从而为新时代国家治理现代化提供最新的技术驱动,就具有重要意义。

一、数字政府的技术迭代与能力攀升——生成式人工智能的现实作用

生成式人工智能在自然语言理解和处理、内容生成、知识更新三个方面实现了较大跨度的技术升级。将生成式人工智能运用到数字政府建设中,能够克服以往人工智能的诸多弊端,促进政府服务能力的提升,从而更高效地实现社会治理目标。

(一)“身临其境”——数字政府借助生成式人工智能实现沟通升级

在以往人工智能技术的运用中,存在一个很明显的缺陷,即机器算法仅能够根据对话者的提问而从已有的答案数据库当中提取相关回答,这些回答是由设计者根据各种可能的情境而提前设置好并内嵌于智能算法之内的,其问题在于:一方面,这种弱人工智能往往并不能真正有效地理解对话者提出的问题,可能产生错误理解;另一方面,对话者提出的个性化问题往往并不能得到解决,凸显出“人工智能不智能”的窘境。而生成式人工智能通过“基于人类反馈的强化学习技术”(Reinforcement Learning with Human Feedback,RLHF),在对自然语言的理解和处理上实现了技术跃迁。RLHF技术一方面使得人工智能算法能够清晰地理解用户的提问,另一方面通过模仿人类思维的联想和关注机制而使得生成式人工智能作出的回答能够与人类思维一致,不仅能够回应一般性问题,还能有效解决对话者提出的个性化问题。生成式人工智能的这种技术跃迁在数字政府建设的内、外两个层面上都能有效辅助政府提供公共服务。

在数字政府建设的内部层面上,生成式人工智能的自然语言理解能力和处理能力的提升有助于政府内部不同部门之间协调沟通,破除“部门孤岛”和“数据孤岛”现象。数字政府建设的一大特征在于政府部门之间公共数据开放共享,由数据驱动部门间协调能力的提升,从而更好地为公众提供服务。但在数字政府建设初期,“数据孤岛”问题给部门间数据沟通和协调造成了较大困扰[7]。利用生成式人工智能,不仅可实现各个部门之间的数据联结,还能以自然语言方式向有使用需求的其他部门人员阐明专业性部门的数据,从而打破不同部门工作人员之间的专业知识壁垒和专业语言壁垒。

在数字政府建设的外部层面上,生成式人工智能的自然语言理解和处理能力有助于节省政府人力成本,有效提升政府对外公共服务效能。其一,如上所述,囿于弱人工智能的技术限制,当前很多地区的数字政府服务存在“人工智能不智能”的问题。面对公众复杂的公共服务需求,原有的智能算法技术并不能有效地理解人类语言,这就限制了智能技术参与公共服务的覆盖面的扩展。而生成式人工智能则可以凭借自身超强的自然语言理解能力和生成能力,克服当前数字政府中机器翻译、自动问答、智能服务等数字化政务服务项目对语言的理解能力的局限,从而提升智能化政务服务的质量和效率。其二,面对公众个性化的服务需求,生成式人工智能基于RLHF技术,能够轻松应对。譬如,在个人税务办理服务中,每个主体的专项扣除、专项附加扣除以及依法确定的其他扣除金额都不一样,呈现出极大的个体化差异,而一般公众又欠缺税法知识和税法运用能力,难以明晰自己的应扣除金额,部分情况下甚至因为对法律条文的不理解而放弃自己的专项附加扣除,减损了法律赋予纳税人的权益。生成式人工智能有助于解决公共服务中的这种个性化问题,通过与用户的对话来不断强化学习,并根据前后对话背景等给出有效反馈,从而促进数字政府从“对话智能体”(conversational agent)向“涉身对话智能”(embodied conversational agent)的转型[8]145。

(二)量变质变——数字政府借助生成式人工智能实现效率进化

有研究发现,ChatGPT在文本理解和生成等自然语言处理任务上有较大的进步,如在文本修正能力、长文本输出能力、生成内容个性化和输出形式多元化等方面实现了技术的跃迁。从技术层面分析,这得益于深度神经网络、大型语言研究模型的不断发展,即海量数据加上巨大的算力催生了这样一个大型语言模型。在一定程度上,也正是因为文本生成能力的跃迁,生成式人工智能对于促进数字政府建设、提升公共服务效果的积极作用更加显著,其具体表现至少有以下四个方面:

第一,文本生成能力的跃迁有利于提高数字政府的治理效率。政府治理效率是指政府治理中产出与投入的比率。随着我国行政体制的不断改革,政府的行政管理效率不断提高,但毋庸讳言,与民众对政府效率的期待相比仍有差距,党的二十大报告也提出要“提高行政效率”。如何更有效地提高政府治理效率,是我们必须面对的问题。实际上,生成式人工智能的应用便有利于促进上述需求的满足和目标的实现。这是因为,以ChatGPT为代表的生成式人工智能为数字政府治理提供了新的工具,能够让公职人员较为轻松快速地展开工作、履行职能。在公职人员输入工作需求后,系统能直接替他们进行资料总结甚至完成初稿写作,把他们从烦琐的文字工作中解放出来。当前,美国、英国、日本和新加坡等国政府部门已经明确发出了与ChatGPT合作的信号。以新加坡为例,政府正在开发一套类似于ChatGPT的系统,以辅助公职人员草拟报告和演讲稿等一系列政务文档。这不仅可以有效提升政府部门工作效率,还能解决相关工作人员能力不足等问题。

第二,文本生成能力的跃迁有利于降低数字政府的管理成本。诚如学者所言:“政府治理成本反映在政府治理体系运行的方方面面,又以政府运行成本、资源配置成本及社会摩擦成本为主。政府治理成本支出的高效化是政府治理的核心,是公众满意的必要条件。”[9]48具体而言,管理成本因文本生成能力跃迁而降低的表现有以下几方面:一是降低学习成本。ChatGPT等生成式人工智能具有强大的文本生成能力,可以帮助行政机关更加轻松地获取行政程序中所需要的相关文本和内容,而不需要再投入人力、物力、财力对行政人员进行某些专门培训。二是降低组织成本。实际上,上文所言的治理效率的提升与组织成本的降低是事物的一体两面,在效率明显提高之后,自然就意味着人员和组织体系的精简,就能够大幅度降低政府组织成本和运行成本。三是降低维护成本。文本生成能力的自主自发性更强了,则学习过程无须人的介入就能灵活应用所学知识解决实际问题[10]。因此,并不需要再投入过多的成本来实现对文字生成能力的维护。而且,基于系统的高度智能化,还能降低行政管理过程中发生低级错误的概率,这也是降低维护成本的一大表现。

第三,文本生成能力的跃迁有利于增进数字政务的精细化。党的二十大报告提出完善“精细化服务”。我国目前正处于全面深化改革的关键时期,人民的个性化需求不断增多,这就要求我们转变法治政府的治理思路,实现数字政府的精细化治理。实际上,人工智能文本生成能力的跃迁对于数字政府的精细化治理就大有裨益。“低门槛、多元化、智能化始终是ChatGPT模型的最大优势,强大的语言算法系统,能够让ChatGPT模型全方位了解不同学历背景、不同年龄阶段、不同专业能力的行政相对人需求。”[8]147也就是说,生成式人工智能可在充分兼顾不同主体特征和需求的基础上,根据提问者的不同问题和要求,智能化地生成相应文本内容。举例而言,在数字政府行政过程中,生成式人工智能会在有效理解行政相对人和具体事实等个性化因素的基础上生成规则与事实相融合的说理性文书内容,提升文书的说理性和精细化程度。此外,生成式人工智能融入数字政府后,文书的准确性和内容丰富性随之增强,从而使政府的思路更为开阔,这也为数字政府的精细化奠定了重要基础。

第四,文本生成能力的跃迁有利于控制数字政府的规模。政府规模是指各级政府和各个部门数量的总和。“数字政府规模取决于数字政府对治理范围、数量的界定及其政务的复杂程度,又与各级政府及各个部门在具体运行中涉及数据的分析与把握存在显著的关联。”[9]46在数字政府构建过程中,要注重对数字政府规模的控制,防止形成结构过于精简或过于庞大的数字政府。实际上,文本生成能力是有效控制数字政府规模的重要技术支撑。这是因为,生成式人工智能可为数字政府提供以下方面的帮助:一是辅助性的资料收集、信息发布、行政问询等政务工作可由生成式人工智能予以替代;二是诸多简单的文书写作工作可由生成式人工智能完成,如写一些简单的文件、方案、发言稿、汇报材料、总结材料等常规文稿不需要再由人工进行。当这些工作由生成式人工智能替代时,治理主体就可以从简单事务中解放出来,继而可以减少部分编制和工作人员数量,进一步实现行政机构的精简化。

(三)知识升级——数字政府借助生成式人工智能实现认知跃迁

数字政府建设需要紧跟技术应用的发展,并借助新技术来及时应对新知识和新问题。传统人工智能技术由于缺乏自主学习能力,在应对新的社会领域和问题时存在困难。而生成式人工智能在知识更新方面具有显著优势,可在数字政府建设中助力应对新知识、新技术和新问题所带来的挑战。

首先,生成式人工智能的知识更新能力集中体现于其参数量的高速膨胀。这对于数字政府建设具有重要意义,因为这种知识更新能力有助于行政机关及时了解和学习新知识。以ChatGPT为例,其前身是2018年OpenAI公司发布的第一个GPT模型,它被称为GPT-1。随后的GPT-2、GPT-3、InstructGPT分别在2019年、2020年和2022年3月发布。每一代技术更新都带来了不同的功能,从最初基于文本的回答逐渐升级到能够回答基于图像的问题。与技术更新相伴的是参数量的剧增,从GPT-1的1.17亿个参数迅速膨胀到GPT-3的1 750亿个参数。目前,ChatGPT使用了全球互联网三分之二的数据来进行训练,并且随着知识的更新而不断扩大数据范围。除此之外,与传统人工智能技术相比,生成式人工智能通过利用持续输入的大量数据来获取丰富的知识,不需要研究人员进行先期编程,而是通过使用合成的新数据来进行迭代训练,从而改进模型的性能。这就意味着生成式人工智能能够不断升级自身,并以高效及时的方式进行知识的分析、归纳和输出,从而满足数字政府建设对新知识的需求。

其次,生成式人工智能的知识更新能力跃迁体现在其类比推理能力上。这一能力对数字政府建设具有重要意义,因为类比推理能够帮助行政机关提升对新技术的运用和应对能力。生成式人工智能的类比推理能力是指其强大的抽象、归纳和拓展数据的能力。在缺乏一致性标准答案的情况下,通过这种类比推理可得出相应的结论。研究表明,生成式人工智能的类比推理通过整体计算的方式来解决问题,其能力源于训练数据的海量规模和多样性[11]。因此,行政机关面临新技术的利益最大化与风险规避之间的权衡且无法根据现有经验得出确定性结论时,可以运用生成式人工智能的类比推理能力,在智能社会治理中探索新技术的利用方式和规制方法。

最后,生成式人工智能的知识更新能力体现在其泛化能力上。这一能力对数字政府建设也有重要意义,因为这种泛化可帮助行政机关增强解决新问题的能力。生成式人工智能的“泛化能力”[12]是指其在新的数据和任务上的优异表现,即能通过普适性、广泛性和通用性的应用来实现多样的任务。这意味着,在数字政府的实际应用中,生成式人工智能可依靠其泛化能力来应对复杂社会中的新问题,并借助学习和应用场景的迁移,在智能涌现的基础上灵活应变,以应对不断变化的情境。

二、数字政府运用生成式人工智能的前置基础和伦理限制

为了确保生成式人工智能在数字政府建设中的技术赋能不偏离正确方向,必须明确生成式人工智能参与数字政府建设的目标导向。只有当生成式人工智能的实际应用与数字政府建设的目标导向一致时,才能确保技术的应用不会削弱人和国家的自主性。在数字政府建设中运用生成式人工智能技术的根本目标是建设人文数字政府,直接目标是实现高效的数字政府,而最终的长期目标则是构建智慧型数字政府。

(一)人民中心——数字政府与人文政府的交汇

目前,有关生成式人工智能对数字政府建设的作用的讨论主要集中在提升政府效率上,包括提高决策效率、治理效率、服务效率和监督效率[9]47-49。有学者指出:“利用数字化提升组织效率、扩展竞争机会虽然不错,但是远远不够。数字化建设应指向更广的经济和社会建设目标,服务于企业、居民及其经济和社会问题解决,把人的创造性从被动的受控中释放出来。”[13]

党的二十大报告强调必须坚持人民至上,“站稳人民立场、把握人民愿望、尊重人民创造、集中人民智慧”。这意味着,数字政府建设的根本目标是为人民群众追求和向往美好生活服务,而实现这一目标的路径在于坚持以人民为中心的发展理念,利用数字技术实现人的主体性、创造性和自主价值。通过建设人文数字政府,我们可以实现民众参与、权益保障、社会公正和民生福祉的提升。

一方面,建设人文数字政府意味着人的价值在效率价值中占据优势地位。生成式人工智能参与数字政府建设的一个重要意义在于提升政府的工作效率。然而,在这一过程中,存在着人的尊严价值、隐私价值、自主意志与效率价值之间的张力。例如,作为一个大语言模型,ChatGPT的高效智能展现(scale up)离不开海量数据,而这些数据中不可避免地包含着未经同意而收集的大量个人敏感信息。在未经同意的情况下大量收集个人敏感信息严重侵犯了人的尊严价值。同时,生成式人工智能的回答质量与提问者提供的具体背景知识数量以及任务准确度之间存在着正相关关系。提问者提供的背景知识多、任务准确度高,生成式人工智能就能生成更高质量的答案。这意味着,生成式人工智能的效率价值往往是以牺牲人的隐私价值为代价的。在生成式人工智能参与数字政府建设的过程中,当与人相关的价值跟效率价值发生冲突,并且必须在二者之间作出选择时,我们务必坚持“人的价值优先”原则。此外,生成式人工智能的“智能”是基于大型模型的“涌现”,但是,“为何能够涌现,其涌现的相变点受哪些因素影响,目前均为未知”[14]。在“涌现”原理未知且算法不可解释的情况下,“数据偏差”“算法黑箱”等传统问题仍然对人的尊严价值构成威胁。

另一方面,建设人文数字政府意味着公共伦理在技术资本运行逻辑中占据优势。目前,由于成本高昂,生成式人工智能产品主要是由微软、谷歌、Meta、百度、阿里巴巴等国内外科技资本巨头开发的。由于技术资本的逻辑与数字政府的人本建设逻辑、公共行政属性和公共伦理价值追求之间存在紧张关系,生成式人工智能参与数字政府建设不可避免地面临技术资本侵入的风险。一旦作为数字技术成果的生成式人工智能借助数字政府的公共权力平台来为资本力量、资本增值服务,就会从根本上破坏数字政府建设的公共伦理,使得数字政府成为资本“俘获”国家权力的桥梁,导致资本的价值取代人的价值。因此,生成式人工智能参与数字政府建设必须在“消除技术资本侵蚀公共伦理的风险”这一前提性基础之上进行。

(二)效率优化——数字政府与传统政府的分离点

效率始终是现代国家治理追求的主要目标之一,也是现代数字科技赋能数字政府建设最为重要的领域。我国在数字政府建设历程中,始终高度重视利用最新的数字科技成果来提升政府效率。就生成式人工智能而言,与以往的人工智能技术相比,其生成文本、图片、音频、视频、PPT、算法等内容的强大能力优势可大幅度优化数字政府的工作模式,以前所未有的力度促进数字政府的效率提升。因此,助力高效数字政府建设是生成式人工智能参与数字政府建设的直接目标和工作重心。具体来说,生成式人工智能的不同生成内容在不同领域有助于政府工作模式的优化,从而促成高效数字政府建设目标的实现。

第一,生成式人工智能促进数字政府文本生成效率提升。生成式人工智能的文本生成能力助力高效数字政府建设主要体现于优化政府内部文书工作模式和优化政务服务对象政务文书填写模式两方面。一方面,优化政府内部文书工作模式[15],提升文书生成和处理的效率。文书是行政信息的基本载体,行政信息的精准上传下达都高度依赖于文书的生成效率和文字质量。其一,如果文书不能高效生成,就会导致行政信息传输的迟滞,影响行政目标的实现。将生成式人工智能引入政务文书撰写流程,使之成为政府内部文书工作模式的组成部分,能够有效提升文书生成效率。具体来说,在政府内部文书工作模式中,可以区分高度模式化的文书工作和个性化的文书工作。对于高度模式化文书的生成,可以充分发挥生成式人工智能的模式化文字生成能力优势,采取向生成式人工智能输入基本信息而由生成式人工智能批量生成初稿的操作方式;对于个性化文书的生成,则仍然主要依靠传统的文书撰写模式。其二,如果文书不能精准表达需要承载的信息,就可能导致向上传递的行政信息被扭曲而对依赖精准信息来作出的行政决策造成负面影响,或者向下传递的行政信息被误读而使上层行政决策的意志无法得到准确贯彻。为了解决这一问题,行政机关内部文书工作模式中通常设置了人工校对环节。今后如将具有强大文字纠错能力的生成式人工智能引入政务文书校对流程,作为文书校对的首道流程,显然有助于提升政务文书的校对效率。另一方面,优化政务服务对象政务文书填写模式,提升办事效率和政务服务效率。在政务服务中,服务对象通常需要通过文书方式向行政机关表达诉求。因此,政务服务对象也存在着了解政务文书撰写要求、实际撰写政务文书的需求。把掌握了海量信息的生成式人工智能以线上方式引入政务服务对象“了解政务文书撰写要求”的环节,能够有效帮助政务服务对象随时随地迅速了解政务文书撰写要求,以便及时准备好相应的材料,减少在此阶段的沟通成本和交通成本。政务服务对象撰写的政务文书中,模式化文书的比例较高,行政机关可以充分发挥生成式人工智能在模式化文字生成领域的优势,提供生成式人工智能辅助政务服务对象撰写政务文书的技术性服务。

第二,生成式人工智能促进数字政府图片、音频、视频、PPT生成效率提升。行政机关的政务信息载体是随着新技术的发明而不断扩展的。随着照相机、电子音响、电影、电视、电脑、投影仪的陆续发明和普及应用,无论是在行政机关内部的行政流程中,还是在行政信息的外部传达中,图片、音频、视频和PPT都逐渐成为重要的信息载体。行政机关需要的图片、音频、视频等素材可以分为原始素材和加工素材。原始素材的形成较为简单,往往由行政机关内部工作人员运用相关设备直接生成,或者以民众提供素材的方式获取。而在原始素材基础上通过加工得到的素材往往由行政机关的专门部门进行加工制作,或者由行政机关委托第三方进行制作。将具有强大的图片、音频、视频、PPT生成能力的生成式人工智能引入数字政府建设,能够优化图片、音频、视频、PPT的加工模式。一方面,行政机关的一般工作人员可以利用生成式人工智能进行图片、音频、视频、PPT的初步加工,这就意味着一些原本由行政机关专门部门负责的图片、音频、视频、PPT处理工作能够由行政机关的一般工作人员完成,从而有效提升此类素材加工的效率。另一方面,原本委托第三方机构或个人加工制作的素材,在生成式人工智能的帮助下也可转由行政机关专门部门制作,从而降低行政机关采购第三方服务的经济成本和与第三方进行沟通的时间成本。概言之,把生成式人工智能引入行政机关的图片、音频、视频、PPT制作中,会改变传统的以“专门部门+委托第三方”为主的工作模式,形成以“一般工作人员+专门部门”为主的新工作模式,只需把超出生成式人工智能处理能力的少数复杂工作委托第三方制作。

第三,生成式人工智能促进数字政府算法生成效率提升。数字政府建设进入智能时代以后,利用算法技术生成的程序或软件来优化政府组织内部工作形态、增强公共服务便利性越来越重要,各地行政机关及其工作部门开发了大量的政务App或政务小程序,供内部和外部使用。由于行政机关缺乏算法生成能力,这些政务App或政务小程序主要是以行政机关采购第三方服务的方式进行建设的,甚至这些政务App或政务小程序的日常运营和维护工作都是由第三方服务商提供的,行政机关主要通过提出技术目标、进行风险监管的方式参与到政务App或政务小程序建设之中。生成式人工智能具有算法生成和算法检查的强大能力,这就意味着一些简单的算法可由行政机关的工作人员运用生成式人工智能直接生成。将生成式人工智能引入数字政府算法工作模式中,能够有效增强行政机关直接生成政务工作所需算法和检查第三方服务商提供的算法的能力。这将改变传统的“第三方建设+政府监督”的数字政府算法工作模式,政府借助生成式人工智能技术而具有了直接的初步算法生成能力。

(三)智慧决策——数字政府与新型政府的立足点

利用数字技术来辅助政务决策的“智慧数字政府”是数字政府建设的重要目标。尽管生成式人工智能技术取得了巨大的技术跃迁,但目前的人工智能技术还将在较长时期内处于弱人工智能阶段,生成式人工智能在参与政府决策的过程中仍然只能扮演辅助性的角色。生成式人工智能通过赋能于民主决策、科学决策来造就智慧数字政府,这仍然是生成式人工智能参与数字政府建设的长期目标。智慧数字政府建设的长期目标对生成式人工智能参与数字政府建设发挥着指引作用。

一方面,正确的政务决策的作出依赖于对信息的充分、精准掌握。我国在20世纪90年代启动电子政务建设的目的之一,就在于利用现代信息技术打破中央政府与地方政府之间、地方上级政府与下级政府之间的信息壁垒,使得上级政府能够根据真实的信息作出科学决策。生成式人工智能具有强大的信息自主检索和自主收集能力,能够在传统科层制由下至上传递信息的基础上,从互联网中更加全面地收集来自社会的可供决策参考的信息。在这个意义上,生成式人工智能具有从根本上打破行政科层制中不同级别间的信息壁垒、突破信息收集中的视野局限的可能性。生成式人工智能在参与智慧数字政府建设的过程中具有独特的社情民意反馈优势,使民主决策获得技术助力。因此,强化信息检索和信息收集能力是未来生成式人工智能参与智慧数字政府建设、赋能科学决策的最为重要的方向。

另一方面,正确的政务决策的作出还依赖于对实际情况的科学分析和判断。如前所述,目前的生成式人工智能技术所生成的结论是由大模型“涌现”的,而“涌现”的机理尚不明确。这就意味着传统人工智能参与政务决策时面临的“算法黑箱”“算法歧视”等问题在生成式人工智能参与政务决策的过程中依旧存在。除此之外,生成式人工智能所给结论的可信性仍然无法保障,在受到错误指引的情况下尤其如此。例如,ChatGPT作出的回复常常是“一本正经的胡说八道”,其回答的语句看似通畅、合理,但其回答的结论往往与实际情况大相径庭。概言之,目前的大模型还不能提供合理的证据来进行可信性的验证。这就导致生成式人工智能在赋能政务决策的过程中给出的结论难以满足政务决策的科学性要求,难以通过政务决策的科学性检验。在现有的技术发展水平下,生成式人工智能无法实质性地参与到政务决策的分析判断和结论生成环节,其分析结论仅供政务决策者参考,决策者应谨慎对待。

因此,在当前和今后相当长一段时间内的技术条件下,生成式人工智能通过赋能政务决策来实现推动智慧数字政府建设的目标,其主要的作用领域是政务决策的信息检索和信息收集环节,即为决策者提供丰富、全面的决策信息。

三、数字政府借助生成式人工智能的可行路径和制度方案

生成式人工智能参与数字政府建设虽然尚未真正进入实践阶段,但在我国技术驱动数字政府建设的数字政府发展逻辑下,在生成式人工智能理想目标的牵引下,前景是十分广阔的。目前,生成式人工智能从理想目标落实到应用实践还面临着诸多困难和风险。因此,需要探索生成式人工智能参与数字政府建设的切实有效的可行路径,以期人工智能参与数字政府建设的理想目标早日实现。

(一)权利确认与权利保障——人文数字政府的应有之义

我国数字政府建设的显著特征在于强调人在数字政府建设中的根本价值和核心地位,即数字政府建设的落脚点在于通过数字技术而在治理中更好地实现民众的主体性,充分满足人民群众对未来美好生活的向往。因此,在生成式人工智能参与数字政府建设的过程中必须将保障人民各项权利置于首位,要围绕民众权利的充分实现设计生成式人工智能参与数字政府建设的主要路径。国家网信办联合国家发改委、教育部、科技部、工信部、公安部、广电总局公布的《生成式人工智能服务管理暂行办法》在第四条中规定了生成式人工智能服务应当保障的民众权利,主要包括平等权、知识产权、人格权和个人信息权益。而生成式人工智能参与数字政府建设主要涉及这四类权利中的平等权、人格权和个人信息权益。我们很有必要按照《生成式人工智能服务管理暂行办法》的要求,结合生成式人工智能参与数字政府建设的目标和生成式人工智能的技术特点,深入探究生成式人工智能参与数字政府建设的权利保障路径。

一方面,在生成式人工智能参与数字政府建设的过程中,应当有效保障民众的人格权和个人信息权益。其一,要在生成式人工智能的训练过程中有效保障民众的人格权和个人信息权益。生成式人工智能需要经过海量数据的训练,才能够实现智能“涌现”。生成式人工智能训练中所用的海量数据必然包含着一些应当通过知情、同意才能够获取的敏感信息。而训练专门应用于数字政府建设的大模型时,往往需要使用政府数据库中掌握的包括个人肖像、家庭住址、血型等人格信息和敏感个人信息在内的海量数据。根据《个人信息保护法》中个人信息处理一般规则的规定,在利用这些信息来训练生成式人工智能的过程中,要确保这些信息只能用于公共利益目的,而且需要在经过脱敏处理的基础上使用。其二,在生成式人工智能提供政务服务的过程中,要按照《个人信息保护法》中国家机关处理个人信息的一般规定和特别规定,充分保障民众的个人信息权益。生成式人工智能在服务过程中会难以避免地自动收集提问信息并向服务器传输,对此,应当将其智能收集个人信息的内容和范围充分告知应用该服务的民众,防止民众在提问中不慎泄露敏感个人信息而被生成式人工智能掌握个人秘密或隐私。要对应用于政务服务的生成式人工智能收集信息的程序和范围进行限度设置,使生成式人工智能严格遵守法律、行政法规所规定的权限和程序,在履行法定职责所必需的范围和限度内收集信息。

另一方面,在生成式人工智能参与数字政府建设的过程中,应当充分保障民众的平等权利。《生成式人工智能服务管理暂行办法》第四条中“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”的规定同样适用于行政机关。与生成式人工智能服务的一般提供者相比,行政机关以公共利益为导向、以实现人的主体性为价值目标而开展生成式人工智能的应用,理所当然地要采取更为严格的措施来保障民众的平等权利。其一,要在专门应用于数字政府建设的生成式人工智能的训练过程中,建立更为严格的训练数据筛选和审核机制,将具有歧视倾向、违背社会主义核心价值观的数据及时排除,从数据根源上尽可能消除生成式人工智能生成歧视性内容的可能。其二,投入政务应用前,对参与政务服务的生成式人工智能的模型生成和优化过程进行审查、备案。如果审查发现模型算法及其优化过程中存在歧视风险,则禁止将该模型投入政务应用;如果暂未发现歧视风险,则对该模型的算法进行备案。其三,在生成式人工智能应用于政务服务后,如果其生成了歧视性的内容,则应当第一时间暂停其政务应用,并结合备案的模型算法对该模型加以有效的修改。

(二)效率优化与责任分配——传统数字政府的迭代方向

生成式人工智能作为数字政府建设的有效手段,虽然提升了政府工作效率,但由于技术发展水平的限制,在实际操作中仍然存在发生运算错误的可能。因此,在数字政府建设的大背景下,既要充分利用数字计算能力来实现政府服务效率的提升,又要确保数字算法的准确性。为此,如何规避生成式人工智能可能产生的错误以及当错误发生时如何进行责任分配等问题也是我们要关注的内容。

一方面,从生成式人工智能的运行机制出发,其结论的作出依赖于以现实素材数据的收集为基础而展开的算法逻辑推演。由于生成式人工智能的发展仍处于初期阶段,其数据库不可能充分收集并掌握人类所有领域的所有知识。即便其收集了足够的数据信息,也仍然面临“大模型预训练所需要的天文级数据,不可能全部进行准确性验证,而如果数据不准确或缺失,必然影响到结果的可靠性”[16]的问题。与此同时,生成式人工智能的算法逻辑也尚未经受市场和实践的充分考验,因此,对于一些冷门的或者具有较强专业性的话题,生成式人工智能在实践运用中往往会出现逻辑和内容上的错误。政府事务具有公共性,其服务对象具有普遍性,一旦生成式人工智能系统的运算结果存在问题,则既会在社会上造成普遍性的严重后果,又会对政府的公信力产生冲击。因此,充分利用人工智能系统的高效算力,同时保证运算结论的正确性,是数字政府建设顺利开展的两个重要方面。与运算程序的专业性、抽象性和隐蔽性相比,运算结论更为直接、可察,因此,政府应当建立对生成式人工智能系统所给答案的人工审核机制,进行实质性审核,确保政务的顺利展开。

另一方面,人工智能对政府事务的处理改变了传统的人与人互相交接的政务工作模式,当这种算法科技运行出现错误并导致危害结果发生时,在责任的认定和承担上就涉及生产、销售和使用等不同流程的多方主体。由生成式人工智能引致的社会风险“具有极强的不确定性、无边界性和规模化效应,其绝非人类个体用户或社交网络平台所能防范和处置的,强有力的法律监管更为必要”[17]。对生成式人工智能的监督管理的落实离不开政府的主体性优势,“监管机构应加强事前、事中、事后全链条监管,保障生成式人工智能技术的发展和安全”[18]。具体而言,在生成式人工智能系统的生产环节,政府部门应当对其生产主体、运算逻辑等各方面实施规范化管理,例如可以通过准入制度对生产厂家的资质进行规范审查,以避免智能系统出现政治立场、算法偏见等问题。在智能系统的使用环节,应当对智能系统实行定期检查评估,建立起多方主体在多环节的共同监督机制,确保运算程序所涉及的政府、社会、个人信息的安全。在事后环节,应当完善和细化追责机制,对可能出现的损害后果根据不同责任主体的参与程度进行明确的责任划分,确保事事留痕,事事可追查。

(三)助力发展与维护安全——新型数字政府的均衡导向

我国政府的服务对象是全国人民,政府职能涉及国家、社会和个人发展的各种细枝末节。为了实现政府治理的有效性和效率性,政府的数字化建设必然涉及对相关数据信息的抓取和分析。如果政府的数据安全发生问题,则整个国家和社会的运行乃至个人的生活都将透明地暴露在敌对势力的观察之下,给国家安全造成严重威胁。生成式人工智能的应用“对于国家数据所可能带来的法律风险,应该基于总体国家安全观的理念进行统筹规划”[19]。

从宏观层面而言,政府在数字化建设中的数据安全问题主要涉及两个方面:一方面是以“技术中立”为外衣而隐藏着的算法偏见风险。算法偏见具有一定的隐蔽性,其对公众认知的引导也是潜移默化的。“在国家层面,以ChatGPT为代表的生成式人工智能基于西方价值观和思维导向建立,其回答也通常迎合西方立场和喜好……可以说,ChatGPT具备明显的偏见,并会潜移默化影响用户,动摇国民意识形态,形成新的国家安全风险。”[20]6为了规避算法偏见可能导致的不良后果,我们就不能在政府的数字化建设中实行彻底的技术“拿来主义”。“应该从根本上入手,在软硬件关键技术上实现突破,夺取技术的制高点。”[21]另一方面是数字政府的数据泄露风险。生成式人工智能的数据具有流动性特点,不受国境和地区边界的限制,而数据在流动中就会有泄露的风险。“为满足我国数据跨境流动国家安全的要求,生成式人工智能必须明确数据跨境流动的原则,确保对一般数据和敏感数据进行区分,且重要数据的流动应按照要求进行审批。”[20]14-15通过算法逻辑的内在监督和政府对数据流动的外在监管,才能保证生成式人工智能对政府数字化转型的正向推动作用。

在具体操作层面,由于相关企业在数字科技上的技术优势,当前我国的政府数字化转型是以政府引导、企业主导、公众参与的模式展开的。不同主体在政府数字化建设中有各自的优势和缺点:政府具有强大的组织和执行能力,能够保证数字安全监管及处罚活动的顺利开展,但在数字技术的专业性上却存在欠缺;社会相关企业作为政府数字化转型的主导者,具有技术上的优势和话语权,但由于企业的营利本性,企业私利与公共利益之间难免存在一定程度的张力;人民群众尽管不具有政府和企业的上述优势,但却是政府数字化转型的最直接的体验者,其朴素的价值观是衡量生成式人工智能系统运算逻辑正义与否、结论合理与否的最直接依据。因此,政府数字化转型中的安全保障就要依托不同主体的优势,构建一种互相联结的多元共治体系。既要“构建科技企业自我规制与政府监管的衔接互动机制”[22]118,又要“为专业性非营利组织和用户社群参与人工智能治理创造制度环境,探索符合我国发展特点的协同治理范式,促进社会监督与政府监管的协同联动”[22]118,从而促进不同主体监督监管优势的互补。通过对数字政府建设的不同环节中的各类主体进行相应的权责规制,积极听取不同群体的不同诉求,才能够最大化地保证数字政府建设的安全和均衡。

四、结束语

高度便捷的生成式人工智能的出现和爆火让人们看到了强人工智能时代到来的可能,然而,技术的发展离不开伦理的反思,即便该项技术是具有高度革新意义的。有鉴于此,必须加强数字政府的人文倾向和发展路径研究。《生成式人工智能服务管理暂行办法》的出台不仅代表着我国已然对生成式人工智能的应用和发展产生警惕,同时也意味着我国对这项人工智能技术的发展持乐观态度。因而,应当将生成式人工智能纳入数字政府建设和发展的框架之中。可以预见的是,未来部署于政府中的人工智能技术和应用于社会中的人工智能技术之间会存在较大的样态差异,二者应当区别看待、分别规制,其中,对前者的伦理限制应当更为充分、提前。