人工智能企业的权力生产及其政治影响

梅立润

(武汉大学马克思主义学院,湖北 武汉 430072)

人类社会漫长的政治发展进程中充满了权力生产与权力转移现象。自国家产生以来,国家与权力就形成了一体两面的关系,国家是权力的主要代名词,权力是国家的核心象征。基本上没有人会质疑国家拥有最广泛和最正当的权力,也基本上不存在能够与国家相媲美的权力主体。出于发展和治理的需要,国家虽然会在部门体系内部实行分权,或将部分权力授予国家部门体系之外的其他主体,但国家始终是权力的核心,权力配置的主动权依然牢牢掌握在国家手中。随着人工智能专项战略的密集出台、新创人工智能企业的不断出现、人工智能领域投融资的持续火热以及人工智能应用场景的日益丰富,人类社会开始迈入人工智能时代。在人工智能时代,作为人工智能技术关键成分的数据与算法,逐渐成为权力生产的新要素,谁掌握更充分的数据和更先进的算法,谁就可能拥有更多或更大的权力,技术的赋权效应得以彰显。技术赋权可能催生与国家竞争的新权力主体,权力转移现象可能再度发生。

一、数据与算法：人工智能时代权力的新来源

人类社会的发展与权力有着天生的粘连。在人类社会漫长的发展进程中,构成权力生产的要素不断地发生变化,权力不停地流转,这意味着,并不是谁获得了权力,就将永远坐拥权力。生活在一个技术色彩浓厚的时代,人们对技术及其关键成分作为一种重要的权力生产要素或者说对技术的赋权效应,早已司空见惯。在人工智能时代,权力生产的要素将再次迎来转变,技术的赋权效应将再次彰显,权力也将再次发生转移。

人类社会充满了权力现象。虽然权力是一个颇为古老且使用频率很高的概念,但也是一个“在本质上可争议”的概念,想要得到没有争议的理解权力的方式充满难度[1]。“无论中西,权力的词源含义说到底都是指影响,表示一个人影响他人的能力和力量。”[2]将权力视为某种影响力是权力界定的惯常用法,实际上,“惯常用法也构成了一种真正的限制,完全背离惯常用法的界定只会成为孤芳自赏的纯粹私人语言。”[3]以惯常用法来看待权力,将权力视为某种影响力,紧接而来的问题是,什么可以带来“影响力”?莫里斯·迪韦尔热曾指出,“影响是建立在各种不同因素之上的,如物质力量、进行奖惩的可能条件、财产、威望、拥戴、标准、价值等等。”[4]丹尼斯·朗则意识到,资源是权力的基础[5],而达尔列举出了更为具体的可供权力生产的“资源清单”,包括：个人自己的时间;获取金钱、借贷和财富的机会;对工作机会的掌控;对信息的控制;自尊或社会地位;拥有个人魅力、知名度、合理性、合法性;与公职相称的权利;作为社会某个阶层的成员博得他人支持的能力;在职业、社会地位、宗教、种族血统等方面的相似性[6]。

虽然许多要素都单独或组合地成为过权力的重要来源,但在不同时期,权力的来源会因时而变,不同要素对权力生产的贡献率也会有所不同。“在二战时期,我们认为钢铁、轮船和飞机是权力的源泉。在核武时代,我们也是如此。如今在信息时代,我们开始重新确认权力的来源。”[7]“一个比黄金、货币和土地更灵活的无形的财富和权力基础正在形成。这个新基础以思想、技术和通讯占优势为标志,一句话,以‘信息’为标志。”[8]换言之,信息的权力属性在人类步入信息社会后愈发明显[9],甚至在21世纪将成为权力最重要的来源[10]。随着人工智能时代的到来,权力生产要素将再次发生转变,“智能技术将成为重要的‘权力’元素”[11]。

数据是人工智能的根基。“如果说人工智能是婴孩,大数据就是奶粉。人工智能的核心在于数据支持,人工智能的发展需要学习大量知识和经验,这些知识和经验其实就是数据,人工智能越是深度发展,所需要学习的数据量就越大、越具体。”[12]新一轮人工智能发展浪潮的兴起在很大程度上正是得益于数据基础的改善,移动互联时代的到来,使得来自网络搜索、电子商务、社会媒体、科学研究等不同领域的海量数据迅速累积,为人工智能的飞跃提供了充足的养分[13]。正因如此,数据的价值和重要性开始飙升。早在2006年,就有学者意识到“数据是新石油”[14]。近些年,这种认知得到了更为广泛的支持,比如《经济学人》2017年刊出的一篇文章就指出,“世界上最宝贵的资源不再是石油,而是数据”[15]。有人甚至认为,随着数据的新用途被不断提出,数据已经成为实现人们梦想的“万灵药”[16]。可以说,谁拥有更充分和更优质的数据,谁就可能在人工智能时代拥有更大的影响力或权力。数据成了人工智能时代权力生产的要素之一,“我们完全有理由说,数据不仅仅是新时代的原油、火药,数据就是权力。”[17]

“从技术的角度来看,算法本质上是基于特定的数学模型,将输入转化为输出结果的系列计算步骤,也就是说,它本质上是一种复杂的计算结构与计算过程。”[18]如果说数据是人工智能的基础,那么算法就是人工智能的“灵魂”[19],算法控制着数据的流动并实现所谓的“智能”[20],算法让数据的价值得以彰显。如果将数据视为“金矿石”,那么算法就是“炼金术”。更为关键的是,在人工智能时代,万事万物皆可数据化,数据成为信息与社会利益的载体,社会资源的分配往往需要基于对海量数据的分析,而分析海量数据又需要依赖于算法,这使得社会资源的分配权力不得不逐渐让位于算法,算法由此逐渐脱离数学工具的角色,并发展成为一种重要的新兴社会力量[21]。这种“新兴社会力量”在选择、判断和决策方面具有独特的优势,对现实生活的诸多方面都会产生显著影响。“一种比‘代码(算法)是法律’更具有启发性的表达是‘代码(算法)就是权力’：它能让我们去做只有武力、强制、影响力和操纵才会让我们就范的事情”[22]。这也意味着,在人工智能时代,谁掌握更先进和更高级的算法,谁就可能拥有更大的影响力或权力,算法同样成为人工智能时代权力生产的要素之一。

二、技术优势与辅助治理：人工智能企业的权力生产

数据与算法在人工智能时代成为权力生产的新要素。问题在于,作为人工智能技术关键成分的数据与算法,并不会均衡地被不同主体所掌握。一方面,获取海量、优质的数据往往是绝大多数人无法做到的;另一方面,设计先进、高级的算法或者利用优秀的算法对庞大的数据集进行充分的价值挖掘,绝大多数人同样也无法做到。换言之,在人工智能时代,由于数据获取与数据处理能力的不均衡,只有少数更有能力获取和分析数据的人,才会享受到人工智能的技术赋权红利。

从理论上来说,“人工智能技术十分复杂、投资巨大,需要巨大数量的数据集合来创建人工智能场景应用,只有政府或者大的科技型公司才有能力垄断资源、垄断数据。”[11]然而现实情况是,“政府相对于某些巨头科技公司来说,在大数据研发、应用和人才方面都略逊一筹。”[23]因为“现有人类社会大数据的生产主要来自各类应用平台,人们的工作和生活、学习、娱乐等消费记录都通过各类应用平台传递到云端,而这些应用平台的研发者和运行者属于少数互联网企业。”[24]即是说,虽然政府在理论上有能力“垄断数据”,但实际上,是大型科技公司或少数互联网企业,而不是国家和政府掌握着“更多的数据”。恰如有的研究者所言,“作为新时代的原油、火药、权力基础,一部分数据掌握在国家相关机构手中,但更多的、每时每刻都在更新的数据掌握在少数网络科技巨头的手中”[17]。另外,算法研发的门槛偏高,要想设计出优秀的算法,需要巨大的资金投入、专业的研究团队、扎实的前期技术基础等支撑,只有少数大型科技公司和互联网企业才有这样足够的“动机”和“实力”,将巨量资源投入到算法设计。因此,许多优秀算法也主要掌握在少数大型科技公司和互联网企业手中。

算法是人工智能的“灵魂”,是人工智能的技术内核。随着人工智能时代不断从概念走向实践,“算法在现代社会愈发重要,通过挖掘分析和创新使数据产生了更大价值,提高了企业的运行效率,优化了产品和服务的质量,提高了现代社会的自动化程度,影响着社会生活的各个方面,显著提高了社会的运转效率和人们智能化生活的水平,甚至通过预测和辅助决策等功能决定着人类社会未来的走向。”[25]不可否认,当前的人工智能应用或算法应用主要集中于经济领域和社会领域,或用来促进一系列产业的转型与升级,或用来为社会大众提供方便适宜、体验优良的各种生活服务。不过在“算法统治的世界”[26],算法的作用最终会从经济、社会领域逐渐扩散乃至渗透到国家治理领域。一方面,这符合历次科技革命中标志性技术作用扩散的轨迹规律。鉴于治理的广泛关联性影响,国家在决定是否将新技术应用于治理事务中时会更审慎。这虽在一定程度上延缓了新技术的治理应用进程,但并不至于完全封阻这种进程。另一方面,这也契合现代国家治理的回应性特征。毕竟当人工智能带来更佳的生产与生活体验之后,社会大众可能出现期待转移,开始期待国家利用人工智能提供同样的治理体验和公共服务体验。而且,社会大众的心理预期会随之水涨船高,一旦国家达成了民众的期待,就只能按照“百尺竿头更进一步”的逻辑,继续努力提供比之前更好的治理体验和公共服务体验。在国家治理越来越注重回应社会期待与关切的环境中,这种期待转移在某种程度上会倒逼国家不断扩大人工智能在国家治理领域中的应用范围。实际上,算法与国家治理的结合已经日益成为一种潮流。不管是在中国还是其他国家,“机器学习在公共管理部门的使用似乎越来越普遍。各级政府实体越来越多地使用自动化系统和增强系统来提高公共管理部门业务的效率,或为更复杂的政策问题和方案决策提供技术支持。”[27]

算法嵌入国家治理是大势所趋,也是提升国家治理效度的科学尝试。利用算法为治理决策提供新鲜全面的信息支持,识别政策问题并模拟解决方案,监测社会问题,预判社会风险等事例都已经屡见不鲜。“借助于海量的大数据和具备强大计算能力的硬件设备,拥有深度学习算法的人工智能机器可以通过自主学习和强化训练来不断提升自身的能力,解决很多人类难以有效应对的治理难题。”[28]由于人工智能企业在数据与算法方面拥有独特优势,国家在解决社会公共问题时往往需要人工智能企业提供技术支持或技术辅助,人工智能企业因此成为国家治理需要依靠的重要力量。有人甚至认为,在人工智能时代,“政府在理论上仍然是最大的‘公共性’组织,但是实现公共任务的技术路线和工具,将更多依赖于广泛的协同合作……随着数字革命和人工智能技术的进步,未来可能有更多政府职能将被新技术方案或新技术机构革新或替代。”[29]其实,人工智能企业为国家治理提供技术支持或技术辅助的例子不在少数。比如,2020年6月,北京百分点信息科技有限公司自主研发的“智能政府决策系统(Deep Governor)”在中国国际大数据产业博览会上全新发布。该系统的核心功能包括数据融合治理、全局态势感知、自由数据探索分析、预测预警和数据共享,能够支持智能交互式增强分析以及实现对决策业务的事前判断、事中控制和事后反馈,为提高国家科学决策水平,助推数字政府建设和“数据治国”提供了坚实的技术支撑。还比如,阿里云、浪潮集团等云计算和人工智能科技公司,通过辅助建设城市大脑提高了众多城市治理的精细化与智慧化水平。

总的来说,在人工智能时代,数据与算法成为权力生产的新要素。少数大型科技公司和互联网企业在数据与算法方面拥有独特的技术优势,实际上就等于掌握着独特的技术型权力,即数据权力和算法权力,而且这是一种内生型权力。由于少数大型科技公司和互联网企业已经摇身一变成为人工智能企业,因此也可以说,人工智能的技术赋权红利最终被各种各样的人工智能企业所吸纳。另外,在人工智能时代,许多社会公共问题虽然表面上是由国家运用权力予以解决,但实际上越来越需要人工智能企业提供数据和算法支撑,人工智能企业在某种意义上成为国家治理的“幕后操作手”。在为国家治理提供技术支持或技术辅助的过程中,人工智能企业在某种程度上也获得了国家“委托”的部分权力,开始凭借先进的技术逐渐介入众多公共事务,并发展成为重要的公共治理主体。不过,人工智能企业这种因为辅助国家治理而获得的权力带有明显的条件限制,是一种典型的外获型权力。

三、人工智能企业权力增长的政治影响

稳定的技术优势和滚滚向前的时代趋势还可能使人工智能企业不断获得更多的内生型权力与外获型权力,人工智能企业权力的不断增长会带来什么影响?这是人工智能时代国家治理需要敏捷预判的问题。

1.从单中心到多中心：国家治理权力结构的变化

从人类社会发展的漫长历史事实来看,权力是比国家更早出现的现象,不过在国家产生之后,权力似乎就成了国家的天然标签,国家也成了权力的代名词,这一点从诸多关于国家起源的论证中可以得到证明。在诸多论者看来,源于特定的需要,国家的存在总是与完成某种任务、解决某种问题、实现某种目的息息相关。不是为了帮助每个人过上自足优良的生活,就是为了克服自然弊端或缓和社会矛盾,以避免在无谓斗争中把自己和社会消灭。正是在承担特定责任或者说在完成特定任务、解决特定问题、实现特定目的的过程中,国家才实现了对权力的获取,与此同时也成了权力中心。随着社会发展,社会公共事务和社会问题也变得更为多样、多变和复杂,由于没有任何其他主体能够比国家更全面有效地处理这些事务,因此国家长期以来甚至一直以来都是绝对权力中心,没有任何其他主体能够拥有与国家相媲美的治理权力。换言之,人类社会的国家治理权力结构长期处于单中心状态。

治理浪潮的兴起曾一度在理念与实践双向层面,对国家的绝对权力中心地位产生了冲击。正如王浦劬所说,西方学者在20世纪末赋予治理以新的含义时,带有明显的弱化政治权力甚至是去除政治权威的倾向,大多主张通过向社会授权或者说放权于社会来实现国家与社会多元共治以及社会的多元自我治理,虽然西方治理理论发展至今已形成多个流派,但是立足于社会中心主义,取向于多中心社会自我治理,主张去除或者弱化国家权威,却是其基本政治主张和倾向[30]。然而国家治理概念的盛行,似乎意味着国家的绝对权力中心地位再次得到了巩固,因为“在治理前面加一个主语‘国家’,它跟一般讲的治理有很大的区别,它避免单纯讲治理产生的去国家化、去政党化、去政府化的倾向。”[31]如果治理强调的是国家在多维度上的后退,那么国家治理强调的就是向国家回退,就是再次看到了国家在处理多样多变以及复杂的社会公共事务和社会问题中的作用。尽管随着国家治理体系的日益开放,不少国家之外的其他主体也能够参与处理这些事务,或者说获得了部分国家治理权力,但是都还不足以作为独立的治理权力中心而存在。

然而,随着人工智能时代的到来,人工智能企业可以凭借其拥有的数据与算法优势自行进行权力生产,以及在辅助国家治理的过程中另获部分权力,从而有可能成为新权力中心,这会对传统的国家单中心式治理权力结构产生冲击。有人就意识到,“随着大数据技术在政府治理方面嵌入程度的不断加深,政府将更加依赖这些巨头公司,政府在利用企业开发的智能平台处理政务时,后台产生的大量数据也会被企业所俘获,从而进一步加剧权力结构的不对称性。因此,在人工智能时代,表面上看政府依旧是权力的行使者,但实际上其权力地位正在遭受来自互联网巨头的严重挑战。”[23]虽说人工智能企业可能会挑战或弱化国家的权力中心地位,但这并不代表国家权力中心地位会彻底消逝。换言之,在人工智能时代,国家治理权力中心的变化并不是非此即彼的单项选择题,即A是权力中心,B就不是权力中心,而是一个多项选择题,即A可以是权力中心,B也可以是权力中心,C还可以是权力中心。概言之,在人工智能时代的国家治理事业中,国家作为治理权力中心的传统地位虽经受冲击,但是并未完全垮掉。一些代表性的人工智能企业可以成为新权力中心,国家治理权力结构从国家单中心式结构转变为多中心结构。

人类社会对权力的警惕由来已久,权力有作恶以及滥用的自然本性这一认知被广为接受。如果在人工智能时代到来之前,人们警惕的是实实在在的国家及其权力,那么在人工智能时代,人们需要警惕的则是人工智能企业及其权力。毕竟连具有独特使命与责任的国家都需要被警惕,更何况是以追求利润为根本目标的人工智能企业呢?如果人工智能企业在提供技术辅助时,在设计算法环节嵌入企业私利的考虑,那么依赖于该算法的特定国家治理行动就可能难以达致预期效果。如果说在人工智能时代到来之前,人们常见的权力寻租形式是国家向社会、市场、企业、个人寻租,那么在人工智能时代,权力寻租形式可能变为人工智能企业向国家、其他企业、个人寻租。

2.从权责同体到权责分离：国家治理问责难题的出现

通过分工划定不同主体的职权范围,并且对特定主体履职不当、用权不力进行问责是一个政治体系健康运行的基础。国家治理是一项颇为繁琐复杂的工程,国家治理的展开既需要各种国家部门履行好各自职权,也需要对国家部门的过错行为进行问责。权责同体或者说让拥有特定职权的主体承担履职不当、用权不力的责任,是现代社会通行的基本政治规则。长期以来,通过明确划定职权边界以及建立健全一系列与履职用权责任认定或追究相关的制度、规则、标准、程序,国家各种部门总体上能够有序有效履职用权,国家也能够在其出现过错时及时清晰锁定责任对象,权责同体的基本政治规则得以普遍遵循。

随着人工智能技术发展段位的不断提高和应用范围的不断扩大,国家治理的数字化转型和智能化转型进程也不断加快,“循数治国”和“算法治理”日趋成为备受理论与实践双向推崇的治理样态。在此过程中,许多国家部门的行动越来越注重遵循算法的指示,“行政决策中人类形式上的参与无法掩盖算法作出实质决策的真相”[21]。不过算法也可能产生不可预测的后果。一方面,算法是为解决问题而生的,随着社会问题越来越多且越来越复杂,算法设计的难度也在不断增加。过去由几百行、几千行或几万行代码组成的算法就可以解决问题,而如今可能需要几十万行、几百万行甚至上亿行代码,在此过程中难免会有所疏漏,从而使算法产生一些不可预测的后果。另一方面,算法毕竟是由人设计的,算法的优劣很大程度上取决于算法设计者的认知能力、知识水平。然而,人的能力是有限的,算法设计者很难掌握与特定问题相关的所有知识,因此在算法设计过程中很可能出现某些偏差,最终使得算法后果不堪设想。再者,针对特定问题而设计出来的算法带有一定的稳定性,但是特定问题的发展态势会受各种自然和社会环境因素变化的影响,而算法设计者很难全面了解和控制环境的变化,因此设计出来的算法可能难以解决已经发生了变化的问题,“强行匹配”只会使得算法的后果不可预测[32]。换言之,由于算法本身的复杂程度日益提高、算法设计者的认知局限以及环境的动态变化,算法可能出现失误,从而造成不可预测的后果。虽然算法失误并不是新鲜事,但关键问题是,依据算法指示而行动的国家部门可能也会因此出现失误,从而造成影响更为广泛的负面后果。

国家治理影响广泛的特性使得国家治理更不容有失,严肃问责可以倒逼国家部门尽职履责,尽可能减少治理失误。问题在于,当治理失误是由算法失误导致时,到底该向谁问责?从理论上来说,应该直接问责于相关国家部门,但由于国家在解决社会公共问题时已将部分权力“委托”给人工智能企业,而且企业的这部分“授权”会随国家治理算法依赖程度的加深而不断增长,因此,责任似乎更应归咎于人工智能企业。然而,由于算法可以自我学习与升级,因此即使是人工智能企业或算法设计者本身有时都无法完全清楚算法为何那般决策。即是说,在数据输入与结果输出之间,人们明知存在一个计算环节,然而却无法洞悉计算的逻辑与过程,这就形成了所谓的“算法黑箱”。恰如有的研究者所言,“算法的使用在实际传播中形成了一道认知门槛,使得普通公众无法清晰了解其中的运作流程,好像是在面对一个无法看到内部的黑洞。”[33]“算法黑箱”的存在,同样使得人工智能企业或算法设计者可以找到卸责的理由。随着卸责链条的拉长,最终导致无法找到合适的对象来为算法失误的后果负责。权责分离或者说责任模糊,使得问责的大棒高高举起却又难以挥下,国家治理陷入问责难题。有学者意识到,“即使因算法缺陷导致决策失误,或者公众对算法决策的结果不满意,行政人员往往倾向于把责任诿过算法或算法开发公司,而对算法或算法开发公司又难以司法审查,责任主体模糊往往使得算法决策陷入审查难、问责难的窘境。”[34]强行问责是许多人想到的解决办法,不过结果可能得不偿失,因为强行问责相关国家部门,容易抑制国家部门采用新技术的动力,强行问责人工智能企业或算法设计者,又容易消解市场与国家进行技术合作的信心。

总体而言,以特定职权作为各种国家部门行动的方向指引,以问责纠偏来校正各种国家部门的行动选择,是保证国家治理有力有序有效的重要机制支撑。不过在国家治理走向算法化的时代,当出现治理失误时,“算法黑箱”和卸责链条的存在会使得责任归属模糊化或使权责同体的基本政治规则遭受冲击,本应为治理失误负责的职权主体,很可能找到卸责理由而侥幸避责,出现权责分离或问责空转现象。谁的责任,谁来负责,问责于谁将成为一个难题。

四、结论与思考

人类社会充满了技术与权力的身影,技术发展与权力生产之间有着千丝万缕的联系。人工智能时代的到来,使得数据与算法成为新的权力生产要素,人工智能企业因为在数据与算法方面占有独特优势而内生出部分技术型权力,加之这些企业受国家治理倚重而另获国家“委托”的部分权力,由此可能会形成国家与人工智能企业联合治理的局面。随着人工智能技术不断发展升级,以及在国家治理算法依赖程度不断加深的情况下,人工智能企业的权力有可能会继续增长,这就意味着其介入国家治理事务的范围会不断扩大,可能会成为除国家之外的新权力中心。这必然会改变传统的国家治理权力结构,使之从国家单中心式结构转变为多中心结构。然而,鉴于算法可能出现失误以及“算法黑箱”和卸责链条的存在,人工智能企业权力的不断增长还可能使权责同体的基本政治规则遭到破坏,催生权责分离现象或引发问责难题。当然,除了促使国家治理权力结构改变和催生权责分离现象,人工智能企业权力的不断增长还会产生其他政治影响,只不过上述影响更为明显且直接。这意味着,人工智能企业权力增长的政治影响还有潜在的学术挖掘空间,有待持续细致的实践观察。

新权力中心在多大概率上会出现,既取决于国家与人工智能企业的技术实力对比,也取决于国家治理对人工智能企业的技术依赖程度。如果人工智能企业在数据与算法方面拥有更显著的技术优势,国家治理对人工智能企业的技术依赖程度较高,那么其就会有更多的机会与空间实现权力获取,新权力中心就很有可能出现;相反,如果国家在数据与算法方面拥有不输于人工智能企业的实力,或者只是小范围、低程度地依赖人工智能企业的技术支持或技术辅助,那么新权力中心出现的可能性就会低很多。在此意义上,国家在应对新权力中心出现方面具有较大的进退空间,因为国家可以张弛有度地推进技术研发,以增强技术相对优势,也可以幅度自控地减少对人工智能企业的技术依赖。虽说如此,但也需要未雨绸缪,对人工智能企业辅助国家治理“做好最坏的打算”,因为“公共管理部门人工智能系统的部署和应用所带来的问题,很多是高度政治性和饱含主观价值偏载的,因此在这些技术扩展所涉及的各个领域,我们都应当特别注意”[27],毕竟企业逐利的本性加上庞大的权力让人“不得不防”。尽管有人不情愿以某种不好的预设去假想人工智能企业在辅助国家治理时可能发生的事情,不过国家治理的广泛关联性已经超越了情不情愿的问题。以“无赖假设”推测人工智能企业有助于国家在与人工智能企业展开治理合作时提高警惕,以更周全的方案推动人工智能企业辅助国家治理,避免国家面对“出乎意料”的情况时手足无措、自乱阵脚。

相对于应对新权力中心所具有的较大进退空间,国家在应对问责难题时就没有多少回旋余地,只要人工智能企业介入国家治理,就一定要注意可能由“算法黑箱”和卸责链条引发的权责分离现象。换言之,国家对新权力中心是否会出现可以选择性地关注,对权责分离现象或问责难题却是一定要关注。应对人工智能时代的权责分离现象或问责难题,治本之法就是规避算法失误,因为规避算法失误就等于规避了治理失误,从源头上掐断了卸责的链条。规避算法失误,促使人工智能企业高度自律,是最为节约成本的方式。人工智能企业高度自律指的是人工智能企业在设计相关算法时主动精益求精,不刻意设计存有漏洞的算法,而要促使人工智能企业形成高度自律,国家还需要匹配系列制度。一是备案与试点制。任何人工智能企业在为国家提供治理算法支持时,都需要将算法的核心设计精神、关键代码等向国家相关机构备案说明,并且尽可能在小范围内先进行使用试验。备案说明既是一种承诺压力,也是提供责任认定的线索与证据。二是随机抽查检验制。针对人工智能企业为国家治理提供的特定算法,国家需要不定时进行算法抽查检验,这样既能防止人工智能企业“备用分离”,单方面擅自调整算法,也能防止算法在自我学习过程中“变坏”而无人知晓。三是服务积分制。对于辅助国家治理效果非常好、一般、不好、很差的算法及企业,国家可以考虑记不同分数,经过多轮合作之后形成一个动态积分榜。国家定期统计积分,对于积分低的人工智能企业,国家要压缩其技术支持的空间和机会,甚至“一票否决”,对于积分高的人工智能企业,国家可以考虑增进与其合作的频率。