APP下载

论人工智能辅助地方立法的法律风险及其规制

2022-11-24徐亚文陈路易

关键词:规制工作者算法

徐亚文,陈路易

(武汉大学 法学院,武汉 430072)

人工智能与法的结合是法律科技发展的客观趋势。在地方立法领域,国家也逐步推进立法工作的智能化与现代化。2017年《新一代人工智能发展规划》提出要“开发适用政府服务与决策的人工智能平台,研制面向开放环境的决策引擎”。2020年全国人大常委会的“立法计划”和“工作要点”更是首次提出要建设全国统一的备案审查信息平台,形成联结人大机关的电子政务网络。为了落实中央决策部署,近年来中国法律大数据联盟、国家法律法规数据库等各类人工智能平台陆续建立,各个省市纷纷开展地方立法与人工智能结合的有益尝试,如天津市人大常委会使用的北大法宝智能备案审查系统、上海市建立的政府立法信息平台、浙江省政府联合浙江大学成立的立法研究院,以及多地建立的立法项目库等。通过大数据、知识图谱、自然语言系统等人工智能技术搜集、分析立法数据和信息,地方立法的成本显著降低,质量和效率明显提高。[1]但是人工智能是一种高度专业性和复杂性的技术手段,在特定的应用场景中往往呈现两幅面孔:一是以生产和赋权为代表的慈祥面孔,二是以侵入和约束为代表的阴暗面孔。[2]它在为地方立法带来巨大便利的同时,也使相关法律风险同步出现。基于此,本文立足于“数字法治”下人工智能辅助地方立法的先试先行,分析地方立法智能化可能带来的法律风险,并探索规制立法人工智能应用的合理路径。

一、人工智能辅助地方立法的价值分析

党的十九大报告提出要坚持科学立法、民主立法、依法立法,以良法促进发展、保障善治。国家对立法工作的要求越来越高,任务也越来越重。[3]在“信息爆炸”的智能化时代,依靠传统人工方式的地方立法工作者面临巨大的工作量和人才储备匮乏的窘境,很多地方立法的出台虽在一定程度上实现了社会关系的依法治理,但也暴露出立法矛盾、粗糙、重复、抄袭、无特色等问题,难以实现良法善治的目标。而人工智能作为集当下信息革命的最新成果于一身的技术,能够在数据学习的基础上通过自然语言系统进行推理、规划、决策、交流和行动,具备像人类一样思考的潜力,弥补人类思维的短板。[4]近年来,伴随着立法公开和法律数据库的建立,越来越多的法律数据可以被搜集和利用。立法可以被计算,部分立法决策也可以由人工智能代劳。立法人工智能开始成为地方立法工作者的工具,甚至变为“伙伴”,给地方立法工作带来诸多便利。[5]170

一方面,人工智能天然的信息搜集、分析、评价和预测功能可以辅助地方立法工作者做出高效科学的立法决策,因为这样的决策是基于数据理性而非立法工作者的经验或主观感受。首先,在信息搜集上,“大数据时代,公共决策最重要的依据将是系统的数据,而不是个人经验和长官意志”[6]。受制于地方立法工作者的认知水平和客观条件,以往的地方立法工作者难以频繁或一次性处理超量信息。而大数据的采集和储存处理技术可以帮助地方立法机关在全样本研究的基础上寻求多元化信息来源,实时捕捉、全面搜集、及时记录与立法议题相关的资料,并在此基础上开展数据清洗工作,保留有利用价值、有潜在利用价值的立法资料,剔除无价值的立法资料,改变以往简化立法的做法,推动立法的精细化。其次,在法律草案编纂上,以北大法宝智能辅助草案生成系统为例,地方立法机关只要按照规则输入特定的主题、标准、要求和立法调研信息,便可得到一部可供参考的草案文本。除此之外,立法人工智能还可以高效纠正错别字,改进句式和文本结构,有效消除地方立法中存在的抄袭、抵触和文本缺陷的弊端。再次,在法律备案上,自2014年天津市人大首次使用北大法宝智能备案审查系统后,河南、河北、黑龙江等省市纷纷展开应用,实现了文件报备、备案、审查、归档、收集审查要求和审查建议的全流程管理,实现了对地方法律规范实时、动态和追溯式的审查,有效提高了备案审查的科学性和效率,维护了法律尊严和国家法制的统一。最后,在立法评估上,传统的立法评估存在主体单一化和主观化、数据缺失、数据失真、结论形式化等弊端,立法人工智能可以通过数据模型的建构,就某项问题进行交叉对比以及定性、定量分析,形成结构化、可视化的评估报告,为地方立法评估活动提供科学参考。

另一方面,立法人工智能高度的开放性和联结性能够扩大立法民主参与的渠道,辅助地方立法工作者充分听取民意。以往地方立法实现民主参与的环节主要是公开立法草案征求意见,方式主要为基层调研、问卷调查、召开论证会和听证会等。受制于成本和时间,公众参与立法的范围十分有限,有些地方甚至存在“作秀”嫌疑,民主参与机制流于形式。而立法人工智能可以有效扩大公众的立法参与渠道,高效整合公众的立法意见。在人工智能时代,权力结构呈现“去中心化”的特征,民众可以在抖音、微博、微信等网络空间表达自己的见解。爬虫技术和数据API(应用程序编程接口)技术能够迅速、全面地从互联网上采集这些评论意见并自动分类、排重和常识校对,并且通过互联网等技术实现各地共享,方便地方立法机关汲取民智。[7]另外,通过大数据的挖掘分析和可视化技术,地方立法可以对合理或不合理的民众意见进行广泛收集和精细整理。立法意见的整理分析是一项重要的系统工程。一部法律草案的征集意见稿可以收到数十万条的立法意见。这对于受制于认知能力和客观条件的地方立法工作者无疑是一个巨大的挑战。在大数据技术的帮助下,地方立法机关可以大幅度降低计算成本并对公民意见进行实时有效的反馈。

二、人工智能辅助地方立法的法律风险

由于技术的双刃剑属性,人工智能辅助地方立法过程中必然伴随着消极影响,尤其是科技异化问题。[8]马克思在《1844年经济学哲学手稿》中通过劳动异化较为详细地阐释了异化的内涵——人道主义思想体系基本概念的异化即为人道主义的对立面。在主客二分的前提下,主体在实践中认识和改造客体,最终实现主客体相统一。但异化导致主客体对立,客体开始操控和驱使主体,主体非但没有实现自我发展,反而被物化和贬低。在人工智能时代,科技异化成为异化理论的重要表现形式之一。具体到人工智能辅助地方立法领域,科技异化是指经由人工智能作用过的立法活动,不但没有产出高质量的立法成果,对规范对象发挥应有的指引、预测、评价、教育等积极功能,反而构成一股“反我”的力量,压抑、束缚和否定立法效果的发挥,产生一系列与人们预期相反的负面效果。当前人工智能辅助地方立法的程度尚浅,正面、积极的影响占据上风。但随着人工智能的不断革新,二者结合的趋势可能愈发广泛和深入。在此过程中,人工智能异化所带来的负面效果便成为避无可避的问题。根据《中华人民共和国立法法》的规定,地方立法需要遵守依法立法、民主立法和科学立法原则。[9]而立法人工智能的应用可能会反作用于地方立法,影响地方立法过程和地方立法成果的合法性、民主性和科学性。

(一)地方立法的合法性风险

地方立法的合法性风险主要集中在数据的收集和处理环节。数据的收集和处理是伴随地方立法全程的必备环节。立法人工智能的应用则将这一环节放到了更加突出和重要的位置,这使地方立法在获得便捷性的同时,也无形中放大了其在数据收集和处理中的弊端。

一方面,立法人工智能对数据的收集和处理可能使地方立法成果继续复刻甚至加深社会存在的歧视或偏见,难以贯彻宪法和法律规定的法律面前人人平等原则。在计算机领域流行着一句话:数据的质量和特征决定了模型的上限,模型的选择决定了它最后能否逼近这个上限。这句话同样适用于立法人工智能的运作。从数据收集来看,立法人工智能收集的数据本身存在歧视和偏见问题。第一,原始数据是或先进、或落后的人类社会价值观念的反映或折射,本身带有歧视或偏见。经由立法人工智能程序收集的数据加工而成的信息,也不可避免带有歧视或偏见,那么地方立法的平等公正便很难得到保障。谷歌公司曾开发了一款人工智能面试官,辅助企业HR招募录用人才。尽管它在数学意义上有不错的表现,但在模拟测试阶段仍表现出性别歧视和种族歧视。这些歧视便来源于人工智能面试官的学习对象——人类面试官。[10]正所谓“垃圾进,垃圾出”,偏颇的数据输入一定会导致错误的结果。立法人工智能不是人脑,面对本身存在主观性的数据,人类可以能动性地判断或接受社会规则的制约,从而不断修正自己的行为模式。而立法人工智能只能根据既定的算法模式悄无声息地不断重复甚至扩大这种偏见或歧视,这就会导致输出的结果继续复制已存在的不平等并通过立法获得合法性。第二,在大数据时代,社会少数群体和弱势群体很难发出自己的声音,容易被湮灭在时代的数据潮流之中。立法人工智能只能收集可以看到的数据资料,对于这些弱势群体,单凭技术手段很难发掘出来。借助立法人工智能产出的立法结果进一步加剧了这些群体的弱势地位,导致立法的“隐性歧视”,还没有充分积累个人信息的社会主体将会被排除在更多商业服务以外。[11]从数据的处理来看,数据需要经过算法转化才能输出有参考价值的立法信息。从数据的分类、编码再到程序建模、数据训练,每一个环节都离不开研发者的加工。然而这些研发者并非立法领域的专家或其他法律职业者,在算法转化过程中可能无意识地将个人偏见带入机器学习中。经过算法深度学习,这种歧视或偏见可能被放大,从而输出对地方立法工作者带有误导性的参考信息,最终影响地方立法内容的公平公正。

另一方面,立法人工智能在进行数据收集和处理时可能导致整个地方立法过程伴随着泄露个人信息和侵犯个人隐私的风险。立法人工智能极大地增强了地方立法工作者的信息处理能力,这就为官方介入私人空间开辟了通道。地方立法工作者利用立法人工智能可以轻易地搜集、整理和利用来自各方面的数据,不仅仅包括已经公开的法规文本、司法裁判文书等,还可能包括非公开的软件后台运行数据等。尽管受法律调整的数据是对个人信息进行加工处理和脱敏以后的衍生信息,并不与信息主体直接关联,但数据本质上仍是信息的综合,并非绝对不能与信息主体关联。[12]一旦这些信息或隐私在地方立法过程中被不当外泄或利用,便会对公民的合法权益造成极大损害。目前便存在某些地方立法机关在立法草案征集环节利用大数据技术对提出立法意见的对象的相关数据进行挖掘分析,依据画像模型所体现出来的信息决定是否采纳该群体的意见。[13]71这明显超出了个人信息的使用范围,严重侵害了公民的合法权益。

(二)地方立法的民主性风险

根据《中华人民共和国立法法》第5条规定,立法应当体现人民的意志,发扬社会主义民主,坚持立法公开,保障人民通过多种途径参与立法活动。民主立法原则要求地方立法过程要充分实现公众的参与和监督,保证立法公开;地方立法成果要充分体现公众的意志和利益,为人民服务。然而立法人工智能的应用可能对地方立法过程和结果的民主性产生负面影响。

一方面,人工智能辅助地方立法可能排斥公众对地方立法过程的实质参与与监督。诚然立法人工智能的应用有利于从形式上拓宽公众参与立法、表达意见的渠道,但这只是民主立法的一个方面。立法人工智能对民主造成的危害更多体现在其专业阻隔性和不透明性导致公众在地方立法过程中无法实现对地方立法过程的实质理解与参与,更遑论进行有效的监督。因为地方立法工作者根据智能输出的结果所做的一系列立法决策并非建立在多方讨论、信息透明的基础上,其中必然包含“不稳定、不公平和不劳而获的因素”[14]。一是立法人工智能数据库的构建、算法设计和程序编写、数据参数权重、定量分析方法的选择等内容都不能由公众知情和选择,也很难通过人类理解的术语进行解释,从而降低了立法的可解释性。二是立法人工智能拥有强大的数据处理和智能分析系统,相比之下,民众缺乏必要的专业知识和技能,很难表达其利益需要或看法建议,同地方立法机关开展辩论和协商。到最后,公众虽参与了立法,却无法真正理解立法结果背后的决策机理,流于表面的参与和监督容易造成公众对立法结果的认同感和信任感降低。

另一方面,人工智能辅助地方立法可能造成“立法劫持”,使地方立法成果不能充分体现公众的意志和利益。[5]164地方立法中虽伴随着价值协调和妥协,但应始终以人民的利益为终极价值取向。除了地方立法过程中对公众实质参与的排斥会影响立法成果的民主性外,在人工智能时代,诸如阿里巴巴、华为、谷歌等高科技公司成为推动智能技术生产和发展的主力军,他们拥有雄厚的资金,也往往掌握甚至垄断着该领域绝大部分先进技术。在应用人工智能的过程中,地方立法与高科技公司进行合作是有必要的,但如果应用于地方立法的大数据技术或数据库被利益群体操控,地方立法工作者便不得不依靠他们来跨越技术鸿沟,而这些科技公司有可能利用其科技实力趁机干扰地方立法,以保护其在该领域的既得利益或垄断地位,从而使地方立法偏离制定的基本目的,无法实现对公众利益的保障,地方立法成果便很难体现民主原则。

(三)地方立法的科学性风险

科学立法原则要求地方立法立足于实践,科学合理地规定公民、法人和其他组织的权利义务。立法人工智能的应用也对地方立法过程和地方立法结果的科学性产生了不利影响。

立法人工智能给地方立法过程造成的科学性风险主要聚焦在地方立法工作者身上。以往法律的制定主要依靠地方立法工作者主动搜集、筛选、分析信息,做出科学的立法评估、预测和决断。地方立法工作者作为法律职业的重要群体之一,需要遵守“审慎规范”的职业伦理要求,谨慎评估地方立法可能造成的影响并平衡利弊得失。[15]然而在信息爆炸的时代背景下,地方立法工作者可能基于对科技的盲从或懒惰心理,将输出的智能结果机械地反映到立法决策和法律制定中。[16]例如当前便存在某些地方借助智能技术手段“东拼西凑”其他地方的规范性文件组合为毫无特色的地方立法的现象。立法人工智能输出的结果并非科学的结果。一方面,立法人工智能存在技术短板,不能反映与立法有关的社会全貌。比如立法人工智能重要的数据来源之一是网络爬虫技术对“微数据”进行搜索和相关性分析,但它爬取的数据有可能是人为炒作的“信息流量”或“热度”,如易受人为因素操控的“微博热搜”现象,而偏冷门事件的背后可能才是真正重要的信息。立法人工智能并不能正确辨别媒体报道的“噱头”,如果地方立法工作者在利用信息时不加以分辨,制定的地方立法就会偏离社会实际。另一方面,立法活动是一项极为重视人文精神且专属于“人”的独特活动。代表人文精神的地方立法与代表技术理性的立法人工智能之间存在难以跨越的鸿沟:立法人工智能只能通过数据的检索、挖掘和分析节约立法工作者部分脑力劳动,却无法理解立法背后复杂的社会关系。因为立法并非单纯的理性计算,还包含相互冲突的法的价值选择、政策因素考量和情感色彩,所以对于如何取舍和排序,只有具备深厚专业知识的立法工作者才能胜任。长期沉溺于立法人工智能带来的高效便捷会导致地方立法工作者形成“路径依赖”,长此以往立法洞察力与判断能力便会被逐渐削弱,本可以在地方立法过程中通过审慎注意的义务规避的风险便无法得以规避。

立法过程的科学性是立法产出成果可靠性的保证。但是,即便地方立法工作者在立法过程中尽到了审慎义务,新技术的应用还是会给立法成果带来难以预料、难以避免的科学性风险。这种科学性风险一方面源于智能技术本身的不确定性。人工智能根植于算法,然而算法是一项晦涩难懂的技术,尤其是在与人造神经网络系统等前沿科技结合后,深度学习可以引发算法迭代并通过大数据量化放大。这个过程极为复杂,就算是研发者团队也无法知晓其运作过程,也即“算法黑箱”现象。由此输出的智能结果便很难判断是否可靠,是否偏离了设定目标。以此智能结果为决策依据的地方立法亦需要承担这些不确定风险,从而给地方立法的科学性带来极大挑战。科学性风险另一方面源于立法技术与智能技术间的专业阻隔性。目前法律职业群体普遍缺乏基础的自然科学素养,立法领域的大数据、算法等智能技术人才更为稀缺。立法和智能系统开发都属于专业性活动,技术人员需要了解该产品服务的立法环节在整个立法程序中的位置和作用、与其他立法环节的关系以及立法的整体运作,地方立法工作者需要具备将立法需求进行信息化描述的能力。但从目前来看,二者之间存在沟通壁垒,法律语言和概念又具有模糊性和争议性,更加剧了开发一套科学专业的立法人工智能的难度。另外,立法人工智能的推理模式是基于数据的相关性推算,而非经过因果关系的推理,因而也会不可避免地产生错误,影响地方立法的科学性。

三、人工智能辅助地方立法风险的协同规制

科技发展的最终目的是实践应用,否则便失去了存在的意义。以往科技法治的经验证明,科技只有被有效转化,赋能经济社会的迅速发展,才能实现造福人类社会的价值。对于拥有极大发展前景的立法人工智能,不能因噎废食,而应积极、乐观地接纳,同时也需要意识到人工智能在应用上具有其他科技无法比拟的迭代效应。虽然立法人工智能造福地方立法工作,但也会给地方立法造成诸多意想不到的负外部性后果。[17]对此需要前瞻性地预防、约束和引导,最大限度降低可能产生的法律风险,实现立法人工智能应用安全、可靠、可控发展。

人工智能辅助地方立法是一项典型的赋能科技活动,表现为“立法人工智能+地方立法场景”的二层结合关系。[18]前者属于赋能行动,蕴含效率价值,表明立法人工智能给地方立法带来效率的提升和成本的降低;后者属于被赋权的事项,蕴含应用场景的本体价值。从这个意义上说,对人工智能辅助地方立法引发的法律风险的规制需要达到立法人工智能赋能行动产生的效率价值与地方立法本体价值的合理平衡。这就需要深入具体的应用场景,对地方立法和人工智能的规律特性及现实状况进行精准分析,既要采取措施避免因追求效率提升而产生科技异化风险,影响地方立法的价值定位、风险设定和边界秩序,又要避免故步自封,致使对相关法律风险的规制挤压立法人工智能的正常发展空间,影响法律科技对法治建设的支撑和帮助。

目前国内外形成了诸多关于人工智能赋能某种场景的风险治理范式:传统的行政命令控制式、无须批准式、审慎监管式、元规制模式和协同治理模式。人工智能的发展日新月异,行政命令控制式下,传统的科层制政府治理结构往往不能快速回应社会关系的发展变化,而且还存在难以跨越的技术壁垒,很容易导致干预不当或干预不足,影响人工智能的进步或是加剧赋能事项本身的异化风险。美日等国采取无须批准式:除非有充足的案例证明某一类智能程序的危害性,否则该智能程序的研发都被默认为允许;英法采取审慎监管式,更关注以数据为基础的机器学习对公民隐私和自由造成的危害,只有在被证明没有危险的条件下,某一项新技术或商业模式才能够被使用。[19]这两种模式都存在很大弊端。前者预设的是规制主体事后监管的有效性,当事后监管失效时,公共政策便无法解决已造成的风险后果;后者存在天然的逻辑漏洞和实践上的不可操作性:算法运作往往具有不可预测性,其危险系数更是很难证立,长此以往将严重阻碍人工智能的发展。元规制模式实质上与美日的无须批准式并无区别,它包括两个维度:一方面,规制主体需要划定一个基础目标和底线,具体规制的内容和方式由被规制者自行制定;另一方面,规制主体应把更多精力放在提升学习能力上,当行业自治发生偏差且无法调节时,再采取必要手段维护公共秩序。[20]元规制模式赋予人工智能自治的优先权,但人工智能赋能科技活动不同于传统的技术专业活动,等到自我规制失灵时再介入,很可能已造成无法挽回的严重后果。

以上模式要么无法合理规制人工智能应用带来的风险,要么严重阻碍了人工智能的成长,都不是可资借鉴的理想模式。无论是事前监管、事后监管,还是自证危险,其都沿用了传统的单一主体的治理模式,一律将人工智能视为被监管的对象。然而在人工智能辅助地方立法领域,对法律风险的规制往往包含诸多高度专业性和复杂性的问题,传统的治理主体并不具备深厚的人工智能专业知识,相关技术性人才也处于紧缺状态,在规制时显得力不从心,很容易造成无须批准式或元规制模式下片面追求立法效率而导致地方立法价值本位位移或审慎监管式下立法人工智能发展举步维艰,难以有效辅助地方立法工作的开展。举个例子,算法是人工智能辅助地方立法发挥效用的关键要素之一。它关系着立法相关数据信息的搜集和预测的质量,影响着立法决策的科学性。但对算法的规制往往涉及法律、道德、专业技术等多层面的问题,政府不再像管理传统行业那样享有决策的权威地位。如果立法人工智能算法设计与开发得不到合理规制,地方立法过程和结果的合法性、民主性与科学性就得不到保障;如果对算法程序研发的管控过于严厉,立法人工智能便很难实现赋能行动的效率价值。这些治理范式已然无法应对人工智能时代所引发的复杂风险。

与其他治理范式不同,协同治理模式将社会视为一个由公民、法人、政府等诸多治理主体构成的开放复杂的系统整体,主张治理主体的多元化和治理权威的多样化,提倡各个子系统在利益依赖的基础上共同参与规则制定,实现信息共享、互利互惠、责任共担、深度交互的目标,最终达成更高级别的整体治理效应。[21]人工智能辅助地方立法也形成了由地方立法机关、研发企业、公民等不同主体构成的系统整体,这些主体间彼此联结,相互影响,作用力此消彼长,共同形塑了智能化地方立法的最终样态。在这个系统中,人工智能辅助地方立法引发的法律风险具有高度复杂性,单个主体都不具备化解全部或某一类风险的完备知识,但法律风险却与每个主体息息相关。同时,人工智能辅助地方立法牵涉多方利益主体,各个子系统利益的差异和博弈也导致该领域很难形成稳定有序的治理结构。如果不形成治理合力,很容易导致风险规制过程中的价值失衡,影响地方立法的完善和进步。这就使构建该领域的协同治理规则体系显得尤为重要。结合立法人工智能带来的相关法律风险,笔者认为可以从主体协同、利益整合和信息交流这三个宏观层面着手,分别构建多元主体协同治理体系、多元利益协同整合体系和多元信息协同整合体系,为地方立法合法性、民主性和科学性风险治理制定基本的规制框架,实现立法人工智能赋能行动的效率价值与地方立法的本体价值的整体平衡。

第一,多元主体协同治理体系。政府并非由专业技术人员构成,即便引进专家辅助,也需要一定的时间,因而很容易导致法律风险管控不当。合理的做法是,在履行法定职责基础上,政府可以调动更广泛的社会力量,形成技术治理的决策权威联盟[22],促进该领域的自组织系统的形成,提升人工智能辅助地方立法的容错能力,实现治理效能的“帕累托改进”。

就官方治理层面,政府作为行政管理主体和立法主体之一,在对相关法律风险的规制中占据主导地位。首先,政府可以尝试依托国家信息中心构建一个立法人工智能发展委员会,负责统一组织和实施立法人工智能研发前的审查、研发中的监督和研发后的评估,从技术层面整体把控算法开发的公平公正和数据产权、应用、交易、共享的规定,尽力避免算法黑箱、技术独裁、隐私侵犯等风险的出现。其次,从长远来看,为了有效规制立法人工智能,缩小技术专家与立法专家间的沟通鸿沟,政府有必要有针对性地搭建人才培养渠道,加强对外包公司技术人员的法律专业和道德伦理培训,加强高校内跨学科人才培养与输送,保证技术人员对立法需求、程序有足够的了解,也保证地方立法工作者充分了解立法人工智能的运作机理。最后,政府需要突破制度性障碍,减少公权力对其他治理主体的“挤出效应”,坚持有所为有所不为,着力培育其他治理主体和搭建平台,如研发企业、行业协会等,促进治理规则的共同参与,弥补政府由于技术、专业、人力等造成的治理缺失。[23]

对于研发机构而言,首先,研发机构需要在遵循国家规定的算法、数据规则和各项技术标准的基础上做出自我监管的承诺,对立法人工智能产品的质量安全与性能承担相应的义务和责任。其次,研发机构也要重视其他社会规范功能的发挥。当前人工智能处于发展初期,在各项法律尚不健全的情况下,研发企业需要加强道德责任感和道德自律。例如谷歌公司颁布《谷歌AI的原则》,明确规定本公司未来坚持的四大伦理底线,这便可以在一定程度上填补政府治理和法律规范的漏洞。[24]另外,行业协会可以在法律规范的指导下细化或补充统一的算法研发和数据管理规则、科学伦理标准等。法律不可能事无巨细地规定技术研发过程中的所有问题,行业自治规则可以有效填补这方面的空缺。最后,没有公众参与便失去了协同的基础和对象。要充分保障公民的知情权、参与权和表达权,及时了解公众的诉求和愿望,以便调整规制法律风险的解决方案。这样一来,便形成了以政府为核心,研发机构、行业协会、公众等主体共同参与的治理系统。彼此通过对话与协商,就算法、数据规则的制定、法律风险的预警和评估等方面促进协同合作,推动人工智能立法治理迈向更高级别的有序状态。

第二,多元利益整合协同体系。如何建立公平合理的利益格局,构建系统、稳健的多元利益整合机制是有效化解法律风险的关键。面对人工智能辅助地方立法过程中公共利益、私人利益的此消彼长,关键在于构建通畅的利益表达机制、公平的利益分配机制、有效的利益冲突协调机制和规范的利益补偿机制。首先,在地方立法过程中,可以完善公众听证制度、专家论证制度、政策公示制度等,以保证公民、研发企业等不同利益主体的要求得以通畅表达,加强人工智能辅助立法活动的公众参与,以便更好调整立法人工智能治理的策略。其次,为了实现利益的公平分配,还需要充分发挥市场调节和宏观调控的双重作用,在多元主体协同治理的基础上公正有序地配置各类主体的资源,避免高科技人才的过度集中造成私人企业对智能技术的垄断,对算法实行严格规制,对数据进行严格管理,以避免高科技企业借助合作之机不当干预地方立法活动,发生“立法劫持”现象。最后,在人工智能辅助地方立法过程中,不可避免地存在公共利益与私人利益之间或私人利益之间的冲突,此时当然以公共利益为主,同时可以充分发挥地方立法工作者的主观能动性,对因技术或数据的弱势地位而遭到隐性歧视的群体予以合情合理的补偿,避免社会矛盾的激化。

第三,多元信息整合协同体系。对法律风险的规制需要健全信息分享、指导、合作与监督机制,搭建信息沟通平台。信息共享程度作为该领域治理的重要序参量对子系统间的协同运动产生重要影响。没有畅通无阻的信息沟通,各个子系统便无法实现协同运动。构建多元信息协同机制主要从地方立法机关、研发机构和公民这三类信息源着手,彼此间建立程序化、制度化的信息交流机制,利用现代科技手段从专业技术信息、立法信息和民情信息这三个方面构建覆盖全面、协同共享的信息网络。首先,地方立法工作者需要意识到推动科技与法律的共治,不仅是科技手段和法律手段的结合,更需要法律科学与自然科学的交叉、法学家和科学家的交流,共同推动科技朝普惠向善的方向发展。[25]对此,地方立法工作者需要同研发机构保持定期交流,结合本地实际情况合理传达立法的技术诉求。例如,针对当前立法数据库不完备的情况,地方立法机关和研发机构可以通力合作构建信息跟踪动态数据库,为地方立法提供充足的资料。除此之外,地方立法工作者还需要多途径扩大立法信息来源,通过实地调研充分挖掘本地特色立法资源,通过搭建社情民意平台等及时掌握公众的实际诉求和立法的重难点。其次,研发机构可以借助交流机会充分把握立法的全部流程和某个环节在其中的作用和位置,这是立法人工智能研发的信息基础。同时研发机构还可以就某项立法需求进行针对性的技术开发和设计。例如针对智能辅助立法过程中产生的技术理性与人文关怀的鸿沟,研发机构可以尝试在算法中导入立法价值伦理准则,着力开发一套“道德算法”。[26]法安天下,德润人心。一般情况下,在法律规范缺位时,往往需要伦理道德发挥先导作用,规制和约束新型的社会关系。科技比较发达的美国、德国、欧盟、日本对人工智能的规制研究多是从伦理规范出发。例如,德国的伦理委员会便遵循这个思路提出了一项人工智能报告,该报告中列举了以人的生命安全为核心的20条伦理意见并要求算法设计者遵守这些伦理规则。[27]道德算法有利于缩小技术设计与立法价值关切的差距,使算法运作过程无限接近专业的立法思维,充分保障公民的权利自由。最后,在智能化时代,构建一个“人人有责、人人尽责、人人享有”的智能社会治理共同体是应对新时代科技发展的应有之义。公民也需要积极参与到立法人工智能赋能活动的法律风险治理中,作为直接利益相关者充分表达对人工智能辅助地方立法的意见和合理诉求。

上述内容主要从构建多元主体治理、多元信息共享、多元利益整合体系这三方面促进各个子系统的协同运动以提升整体治理效能,以期从宏观层面为规制地方立法的合法性、民主性和科学性风险提供基本框架。对于该体系尚未针对性顾及或仅从宏观层面提出抽象解决措施的法律风险,还需各主体在协同治理体系基础上进一步采取规制措施。

首先,对于立法人工智能在数据收集和处理过程中可能导致的立法结果歧视或偏见问题,开发一套“道德算法”诚然有效,通过为智能算法附加伦理规则和价值敏感设计,将关涉立法活动的伦理价值和行为方式转化为智能产品可以理解的数据模型,然而智能技术虽然可以避开社会歧视与偏见,但道德算法是一个复杂的整体性工程,涉及概念和规则的研究和转化、模型的构建、专业人才的缺失等难题,技术从设计到研发再到检验也要耗费很长时间。此时有必要从其他方面同时着手,例如从源头——数据提供者出发,增设相关伦理义务。立法人工智能收集的数据主要来源于两个方面,一是各地方机关或事业单位观测和记录的数据,二是企业自身积累的业务数据。这些主体尤其是地方机关和事业单位,需要注重多渠道多维度提供数据,保证数据的全面性和系统性。例如在收集立法意见模块,地方立法工作者在利用智能技术分析网络舆情的同时,还需要进行实际观测和调研,二者相互补充和印证,方可作为下一个立法环节的参考。对于立法人工智能在数据收集和处理过程中可能导致的泄露个人信息与侵犯个人隐私问题,一方面,上述数据提供者在为立法人工智能的运作提供数据时需要满足无侵权、无权利负担、内容真实、程序合法等基本义务;另一方面,立法人工智能作为数据处理者需要秉持最基本的“善良处理”原则,依照个人信息保护的惯例,在每次地方立法完成后允许数据主体就已提出的立法意见或建议予以删除。另外,立法人工智能也需要特别注意对个体与特定数据的模糊处理,并将此项任务贯穿其工作的整个生命周期,从而保障公民法人隐私信息不被侵犯。[13]70要使立法人工智能做到这一点,需要研发机关与地方立法工作者通力合作,将保护隐私的立法需求导入智能算法的研发过程中。

其次,为了畅通公民的实质参与和监督渠道,一方面,地方立法的智能化需要特别注意提高立法的可解释性。第一,考虑到现阶段的技术水平和应对能力,在两害相权取其轻的思维逻辑下,为了实现立法人工智能的算法、决策过程公开透明和风险的合理预测评估,最好避免使用深度学习模型和关联性数据,以防止对输出结果难以预判和解释的局面。第二,对智能立法成果进行事后解释是有必要的。在立法后可以披露包括正在优化的目标函数、方法和算法的输入变量等相关规范[28],并通过可视化技术对机器立法的相关逻辑以自然语言进行解释,保证公民享有实质上的知情权。第三,根据现有的技术标准,对可以解释的算法以公众理解的自然语言进行充分解释,对依照现有技术不能解释的算法,需要在整个生命周期内对其不断进行矫正和优化并予以公示,包括事前对输入数据的质量控制和事后对立法人工智能性能的测试和验证,尽力规避技术不确定性带来的风险,保证公民享有充分的知情权、参与权与监督权。另一方面,为了保证公民对地方立法的实质性参与,增强对立法的信任,还需要确立民主原则高于科学技术的价值位阶。也即当智能化分析结果同民主的认知冲突时,应当在充分保障公众或者公众的代表知晓该领域的实质知识的基础上,通过民主机制做出决断,给予民众充分的辩论空间。即便是在有充分明确的证据证明民主决策是错误的情况下,也只能通过民主议事规则说服公众及其代表,严禁通过压迫手段强制改变民主决策的结果。[29]

最后,为了提高地方立法的科学性,除了从技术端和人才输送端强化立法人工智能产出结果的科学性外,还需要地方立法工作者将审慎规范贯彻地方立法的全过程,坚持爱因斯坦“科技以人为本”的告诫和工具主义思维。具体而言,第一,地方立法工作者需要加强对各个立法程序场景的梳理,秉持温和理性的“人机合作观”,而不是非此即彼的“人机代替观”[30],明确智能立法产品在不同程序中的介入程度和具体方式。对于如立法数据、意见的分析、归类等可计算、具有高度模式化的立法事务,地方立法工作者可以允许人工智能代替性介入,并施以必要的监督。对于涉及政策考量、价值判断和能动创新的立法环节,应当强调地方立法工作者的主导性。人工智能作为辅助性的工具,其产出的结果为立法活动提供正向参考或反向预警。第二,地方立法工作者可以着手建立一套统一的规范化工作流程,克服对立法人工智能的依赖可能性,具体内容包括以下四个方面。一为启动标准。立法人工智能的应用不应设置强制性标准,而应根据实际工作需要决定是否应用智能分析结果。二为参考标准。可以明确规定智能化分析结果只能作为重要参考,而非唯一依据。规范性文件制定、备案审查和监督仍由地方立法工作者在广泛听取民意和专家意见的基础上决定。三为说明标准。凡在地方立法的重要环节中采纳了人工智能的分析结果,地方立法工作者都需要对采纳结果的科学性、客观性和必要性进行理由说明,制作陈述报告,并将不同于智能分析结果的意见和建议予以记录备案。四为责任标准。可以根据最新出台的《关键信息基础设施保护条例》,建立地方立法过程中相关部门和运营者的安全保护和监督管理责任机制,使相关责任主体扮演好“产品经理”、“算法质疑者”等角色。

四、结 语

除了关注立法人工智能带来的价值功能和法律风险,也需要认识到人工智能辅助地方立法尚处于初步阶段,各类配套的基础设施和制度体系建设仍不完善。地方立法智能化还面临着地方财政投入不足,部门间和地区间数据共享不通畅,立法人工智能应用范围狭窄、推广不足等现状,未来仍有很长的路要走。[31]地方立法智能化是由一系列子集组成的长期过程,从技术发展的客观规律来看,单点智能容易实现,但系统智能的实质性突破则需要较长时间。目前乃至将来的很长时间,人工智能也只能对模式化、可计算的立法环节进行代入式介入。未来地方立法智能化发展趋势如何不得而知,但对此消沉以待是不可取的。人工智能技术席卷各行各业,对此不应逆流而上,从而导致技术红利的错失;同时,对此过分乐观并抱有非理性预期也是不可取的,这会使我们陷入“唯技术论”的漩涡和预期之外的失望。对待人工智能辅助地方立法这一问题,需要怀着包容开放的心态,勇于接受新事物带来的机遇,并采取积极措施应对可能的挑战。地方立法智能化可以作为全国范围内推广立法智能化的先试先行,以产出高质量的立法成果、提高社会治理能力和增进人民幸福利益为根本出发点,在改革中不断探索人工智能赋能地方立法的新经验,在发展中不断评估立法与智能化结合的发展前景,坚持立法的本质追求和价值衡量的技术非自足性,实现科技造福人类的终极目的。

猜你喜欢

规制工作者算法
网约车平台责任条款的识别方法——基于解释进路的正当规制
控制股东滥用权利规制的司法观察及漏洞填补
哪种算法简便
关爱工作者之歌
2019年度山西最美科技工作者
Travellng thg World Full—time for Rree
完善地方政府行政作为法律规制的思考
算法框图的补全
算法初步知识盘点
亚健康科技工作者