人工智能：治理技术与技术治理的关系、风险及应对

(苏州大学政治与公共管理学院 江苏苏州 215123)

随着AI技术的飞速发展，今天，一个基本的社会事实是，我们已经步入到一个新时代：人工智能时代。人工智能作为一种技术手段，甚至是一项社会治理技术，对人类行为和人类社会组织形态及其本身都将产生深刻影响。因此，在这样的重大历史变革之下，人工智能对社会治理而言到底意味着什么，是一个值得思考、且有待讨论的议题。在此语境下，需要关注的问题是，在现代国家的制度框架——国家权力体系与公民权利保障机制中，社会治理技术的发展对社会治理的影响是双向的，双向或者互动模式的影响是否一定是均衡、稳定的，其非均衡样态的根源、性质和风险是什么以及如何应对。本文以人工智能为切入点，分析其作为社会治理技术在本体论和方法论上的差异对社会治理产生的双向影响并尝试回答上述问题。

一、人工智能作为治理技术与社会治理的关系

在社会科学领域，既有的人工智能研究中存在着从本体论和方法论两个不同的、相互影响的取向来理解人工智能技术对人类社会产生的影响的研究方向。前者是指人工智能本身作为一项新兴技术仍处于不断完善和发展阶段，技术漏洞和理论缺陷已经对人类社会造成困扰；后者是指将人工智能作为一种技术手段应用于社会治理过程，尝试以先进技术帮助提高政府治理公共事务的能效，促进政府信息公开、数据共享，扩大公民参与等。正是对人工智能的两种不同取向的认知，可能导致社会治理技术的嵌入将技术的不完备性一并嵌于社会治理过程中而产生“次生伤害”。

(一)人工智能作为社会治理的一项技术

技术进步和社会治理变迁，与生产力性质和技术工具及其段位保持着双向递进关系。在一定程度上，技术进步会倒逼社会治理创新；相反，社会发展的阶段性与情境性决定了对社会治理工具的抉择。从历时态视角看，人类社会大致经历了农业社会、工业社会，并正在面向泛在社会。如此，我们可以通过考察技术演变与社会治理形态演进的“历时性坐标”，来看待方法论视角下的人工智能作为一项社会治理技术对社会治理形态演变产生的作用。

技术进步推动社会转型，改变了社会治理情境，技术段位的发展从根本上限制了其影响社会治理的程度。“人类取得的每一项划时代技术创新都会带来工具跃迁并将其转化为社会治理形态演进。”[1]在农耕文明早期，人类群体通过简单的手工工具和生产方式从事初级的、简单的能满足基本需求的生产生活实践，那时的工具虽然有效促进了劳动生产，但仅作为人手的延伸，决定了那时的社会治理是比较粗鄙和富有价值理性的。以这样的生产力性质和“价值性逻辑”为基础的传统社会治理形态塑造了“古代臣民”群体屈服于“公共善”的道德性治理逻辑，以此实现直接、有效的社会统治——“一方面是‘集体性自由’，另一方面是个人被共同体所吞没”[2]。工业革命将人类送进了机器时代，人类开发、利用机器和能源创造出繁荣的城市文明，人类社会逐步从“传统”转向“现代”并且奠定了社会治理形态的现代性特征。特别是两次工业革命之后，越来越复杂的机器将“人手”的功能在时空维度无限延伸，“时”与“空”的分离与延伸成为现代生活的独特特征，“由技术成就和官僚专业队伍组成的体系，编织着我们生活于其中的物质和社会环境的博大范围”[3]。

反之，社会治理情境或演变趋势决定社会治理技术的选择，“社会决定治理，有什么样的社会就有什么样的治理”，“社会治理技术的变化不是自说自话的，这种治理技术的转变是由社会以及社会变迁的情境所决定的”[4]。互联网、物联网、大数据与云计算、人工智能等信息通讯技术的发展，形塑出一个以科技网络为技术指导的，由泛在网全面影响、改造的社会实体，有些学者将其称之为“泛在社会”[5]。泛在社会具有其他社会形态所不具有的特征。其一，社会治理速度快。泛在社会要求加快信息收集、储存、运算、调用的速度，能够快速及时地发现和处理问题。其二，社会整合能力提高。泛在社会强调要将诸多社会要素串联起来，为社会治理主体了解社会动向、整合社会资源、提高治理效率提供了基础。其三，社会的虚拟化和精细化取向。泛在社会中人与人、人与物、物与物的关系是以数据的形式记录与保存的，这些个性化、翔实的数据为治理主体做出科学决策提供了依据。以数据扩容和算法优化为发展逻辑的人工智能技术迎合了治理泛在社会的基本需求。因此，泛在社会需要人工智能作为新的社会治理手段，强调将科学原理与科学技术嵌入社会治理之中。“泛在社会是一个技术化程度更高的社会，不仅是自然技术，而且社会技术也被广泛运用，因而要对泛在社会进行更好的治理，技术治理必然要受到重视。”[6]

(二)人工智能作为社会治理的对象

在社会科学语境下，人工智能研究是将人工智能作为一个客观实在和相对独立的研究主体和研究对象来对待，以“着重了解当前国内外人工智能领域前沿的技术水平、伦理问题和法律现状，剖析人工智能领域面对的技术、伦理和法律问题，探讨解决技术瓶颈、伦理困境和法律滞后的对策”[7]。所以，在中国当下的社会科学语境下，人工智能的本体论研究本质是试图回答“如何理解人工智能带给人类世界的机遇和挑战，如何认识人工智能引发的一系列社会影响和治理困境，如何确立人工智能时代精准治理的方向与原则”等核心问题。[8]

随着AI技术的跳跃式发展，越来越多的人认识到“是否应该接受人工智能已经不是一个问题，人们要回答的是，如何应用人工智能造福人类，并及时应对人工智能带给传统安全、法律、道德和政治等观念和现实的冲击与挑战”[8]。这些挑战在社会治理过程中主要表现在以下方面。第一，安全困境。人工智能时代的安全困境主要体现在人身安全、数据安全和隐私安全三个方面。2018年3月发生了世界上首例无人驾驶汽车的交通事故。人工智能可能会威胁人类生命，尤其是将该技术用于军事。人工智能时代下，人类生活印迹的数据化为政府政策制定提供依据，但对数据的获取、存储以及使用的合法性和正当性缺乏监督，这将会形成数据和隐私安全风险。第二，法律困境。人工智能正悄然改变着传统农业社会产生的政治—法律结构。正如吉登斯所言：“专业知识体系侵入日常生活之方方面面，这种异化现象便削弱了先前就存在的本土控制形式”[9]。因此，现代法律制度和法制体系建设“能否成功应对人工智能所带来的新的风险和不确定性，能否在人工智能时代继续维持秩序与变革、守护与创新、价值与事实之间的动态平衡，这是今天的法律人所必须面对的紧迫问题”[10]。第三，伦理困境。在哲学或伦理学中，讨论的问题是人工智能或“类人机器”是不是人，是否具有人的主体地位、法律地位和道德地位，能否像人一样享有权利义务关系、做出自主的道德判断[11]。

总之，人工智能的发展不仅仅是科学技术领域的自我革新，更是人类社会自身发展的结果。“人工智能时代的到来，不仅开启了万物感知的新纪元，进一步提升了人类的社会生产能力，同时也给作为公共治理主体的政府及其治理模式的变革与创新带来新的机遇。”[12]

二、人工智能嵌入社会治理中潜在的双向功能

人工智能的重大成就并不局限于科技领域，也外溢到了社会科学领域。它的发展对经济生产和科技进步具有重要作用，同时，也对社会政治领域，尤其是社会治理智能化、专业化具有重大影响。

(一)人工智能的生产功能

生产功能是指人工智能技术发展对经济领域的正向作用——发展“智能经济”。“智能经济的出现紧紧依托人工智能的发展，在社会经济发展中，随着人类知识的拓展以及信息网络的出现，逐渐出现了利用技术替代人类劳动和传统资源的模式。”[13]人工智能的发展应该时刻以经济应用和社会公共服务为导向，将国家科技战略布局和经济与社会实体成长相结合，以此培育出强大的市场与社会共同体。如何发挥我国人工智能产业的正面效应，大力发展传统制造业与服务业、基础设施建设以及金融行业等领域的“智能突破”，利用大数据、人工智能等科技手段打造“智慧中国”已成为中国经济发展的战略制高点。

人工智能经过几十年的发展在技术领域已取得重大成果，它正在改变人类生活方式。2016年至今，世界范围内人工智能技术取得重大突破。在荷兰，全球首款无人驾驶公交车正式投入运营；AlphaGO以4：1战胜李世石；IBM基于深度学习的医疗机器人Watson可以诊治罕见白血病；亚马逊开展无人零售业务等等。而在中国，人工智能产业也迅速发展，处于上升阶段，阿里巴巴、百度等企业在人工智能领域取得重要成就。“在2016年中国人工智能产业规模已突破100亿元，在2017年达到152.10亿元，预计2019年将增长至344.30亿元”，根据中国人工智能产业专题报告中的统计数据，“中国人工智能相关专利申请数从2010年开始出现持续增长，于2014年达到19197项，并于2015年开始大幅增长，达到28022项，2016年，中国人工智能相关专利年申请数为29023项”[14]。

(二)人工智能的赋权功能

“技术赋权是技术能够给用户、开发者和投资者带来诸多现实的和潜在的发展机遇，比如能够降低服务成本、提高办事效率、便利公民参与公共事务的治理、推动政府的民主化、增进社会福祉等。”[15]人工智能技术的赋权功能具有双向性，既是集体化的也是个体化的，即人工智能技术不仅能够对国家权力体系赋权，也能为公民权利建立保障机制。在现代国家治理体系中，国家权力运行体系与公民权利保障体系是一种双向互动的共生体。人工智能为国家权力对个人和社会的监管提供了信息基础，借助人工智能可以提高国家权力能效和延伸权力范围，正如吉登斯所言：“民族—国家的行政力量，如果没有信息基础作为自反性的自我调节的手段，就无法生存下去。”[16]反之，人工智能也为建立公民权利保障机制创造了条件。首先，技术手段的介入使得政府弱化了对暴力机器的依赖，人工智能发展“加速推动了政府数据开放运动，实现数据共享”[17]，技术赋权逆转了政府与公民在信息平等与共享方面的势差，政府不再是一个“黑箱”而能被公民和社会组织监督，政府主动运用技术手段为民众搭建利益表达的平台和渠道。“国家监控领域逐渐成为公民为自己的权利而进行斗争的场所。”[18]其次，人工智能的技术嵌入有利于民意收集，是公民参与决策、政府吸纳民意的重要实现形式，能够为实现政府与民共治的社会治理格局提供助力。因此，总体上来说，人工智能的赋权功能有助于“完善党委领导、政府负责、社会协同、公民参与的社会治理体制创新”[19]。

(三)人工智能的约束功能

技术在增进社会福祉、提高社会治理绩效上的贡献不言而喻，但是技术治理具有的社会风险限制了技术无限拓展的可能。人工智能作为社会治理的重要工具，虽然向国家与公民双向赋权，但是，国家选择新的治理技术的前提是保障该技术社会风险的可控性。换言之，约束功能是指人工智能在政治社会中潜在的管控和制约功能，它会限制技术使用的有效性和广延性。这种约束功能主要体现在三个方面。从人工智能的科技本身来看，人工智能的“算法”被固定意味着公民必须接受这一“算法”而无法超越或改变。这种机械性钳制了治理主体在社会治理过程中的能动性，人受制于机器。从社会治理的目的来看，国家引入人工智能的目的是为应对外部社会的不确定性，以期更好地实现社会治理。但国家掌握制定算法规则的强制性权力，通过技术后台以实现国家对日常用户的监控。用户必须被动遵守技术平台制定的规则，却无力改变规则。因此，以人工智能技术为透视镜看到的公民社会可能只是政府自己的剪影。如为杜绝电信诈骗，公安部与腾讯公司合作建立了“麒麟系统”，以更好地监管全国范围内的基站。从社会治理的效用来看，“技术和技术平台具有短期跃进效应和长期固化效应”[20]。由于技术革新与体制转型无法同步实现，技术在治理领域的发展和应用会受到体制的约束。从短期的效果来看，人工智能“的确能够以‘跃进’的方式提升体制效率和体制韧性，但是这种提升效应是短期的，不仅难以持续，而且还会造成体制的长期固化”[20]。所以，人工智能技术的成熟与广泛应用会产生技术依赖，将社会治理过程简化并固化为购买机器设备、制定技术平台规则、建设基础设施、培训技术人员和技术手段常规化的过程。

(四)人工智能的侵入功能

侵入功能是指人工智能技术本身的负面特质随其作为社会治理技术而侵入到人类社会之中并引起社会风险的负面作用。现代技术研发具有资本扩张倾向，并将消费社会的价值观带入到了人类社会之中[21]。显而易见，人工智能时代的来临，技术研发产生的社会收益在企业、国家与民众之间的分配是不均衡的。从事人工智能技术研发的企业从技术应用和技术治理中获利颇多；而作为消费者的公共部门和市民承担着大部分的治理成本和社会风险，他们除了被迫适应和接受之外别无选择[22]。另外，政府的资金支持和政策支持对人工智能的研发具有重大作用，但是技术的开发和专利却落入到了一些大型跨国企业手中，如阿里巴巴、Google、IBM等，且技术的“涓滴效应”是缓慢的，而这种技术垄断将会扩大各主体之间的数据鸿沟和技术鸿沟，产生获利不均现象。这些逐利的大型跨国公司为谋求利润最大化，它们会将消费价值和理念植入到人工智能产品中去，又通过技术功能外溢将资本和消费社会的价值灌输到民众的行为和社会秩序之中，从而造成社会治理效能异化。除此之外，人工智能技术的不完善而导致的安全困境，如数据信息安全、人身安全问题、隐私安全问题等也令人担忧[8]。总之，人工智能本身的技术困境是导致侵入功能的重要原因，如何克服这些问题不仅是在技术上寻求突破和革新的技术性命题，更是政府如何规避风险、增进效益的政治性和社会性命题。

如上所述，人工智能在社会治理过程中的应用具有双向性。首先，这种双向性来自于对人工智能技术的本体论与方法论两种取向的认知差异。本体论视角下的人工智能技术发展对促进科学技术进步和繁荣经济生产具有重要作用；方法论视角下的人工智能将其自身的工具性价值延伸到政治社会领域，对社会治理过程产生影响。两种不同的视角对人工智能发挥功能的方式、途径和作用领域具有迥异的要求和影响。其次，这种双向性也取决于人工智能技术本身的成熟度，即技术段位的高低决定着社会治理效果的好坏。人工智能的技术突破不但会对经济生产与科技发展产生正向作用(生产与赋权)，这种正向性的技术外溢同样适用于政治社会领域的治理活动。因此，人工智能功能的双向性并不完全意味着在社会治理过程中发挥着均衡有效的社会价值，相反，技术发展的阶段性和不确定性同样会对经济生产和政治社会领域产生掣肘(侵入与约束)。

三、人工智能在社会治理中的非均衡特性及其风险

在理想意义上，社会治理技术的四项功能在社会治理过程中应该是一种“双峰对峙”的平衡样态，但是“信息技术不仅是一把双刃剑，而且可能是一把双刃不平衡的剑”[18]。从技术发展历时态观之，人工智能技术在经济领域的发展可以弥合现有技术漏洞而导致的技术缺陷或社会问题。而以技术应用的共时态观之，技术功能外溢能够双面作用于社会和经济领域，但是技术本身却不保证技术嵌入后的均衡样态，这种负外部性常常是由技术本身缺陷所决定的。所以，人工智能也不能保证它在社会治理中的双向运用可以达到平衡。

(一)人工智能技术赋权与约束的非对称性

人工智能技术向政府与公民双向赋权的同时，也强化了对他们的双向约束，但赋权与约束之间并不是完全对称的。技术并不是中立的、价值无涉的，特别是当公共权力与技术相结合时会产生深刻的政治影响。这体现在虽然社会控制与维护社会安定是社会治理的重要目标，但是拥有公共权力和公共资源的国家政府在掌握和运用人工智能技术时将拥有巨大优势，可以在国家控制体系中利用技术优势来收集和存储公民信息，对公民的行为进行监管。相反，“相对于国家行政系统在国家监控体系中对信息技术的强势运用，公民权利保障机制中的网络技术维权完全处于弱势。这样，信息技术在国家制度框架——国家监控体系和公民权利保障机制中的运用就处于极不平衡的格局”[18]。人工智能技术对公民的权利保障赋权是有限的。民众对人工智能技术的使用还不全是为了民主监督与利益表达，主要是为了满足日益多元化日常生活的需求，如智能教育、智能人居、智能驾驶等等[23]。因此，人工智能时代的社会治理仍将以政府、国家为主导。

(二)人工智能的技术嵌入与行政吸纳的有限性

如果对第一点分析可以被接受的话，我们就不能将人工智能技术赋权和约束的非对称性的原因简单归结为技术自身可获得性在公民与国家之间的不对等分配，换言之，这个问题不是一个技术性问题，而是应该被视为政治性的。所以人工智能作为治理技术在嵌入社会治理过程中，是政府面对“泛在社会”特征的自主选择，政府并不想将技术参与推向制度化参与的对立面，而是希望通过平台建设将网络参与、网络问政等技术参与手段纳入到政府自身系统之中，以实现决策的民主化与科学化。政府通过对平台规则的编码与建构把政府意志编入技术平台之中，公民作为平台和技术的使用者只能遵守平台规则而无法跨越和重建。这种对民意的吸纳不同于金耀基认为的政府将社会精英或精英团体代表的政治力量的利益吸收进行政决策的结构中[24]，这种行政吸纳展现出被动性政治纳入的特征，即想要使用平台技术，就必须要遵守平台背后的政治性规则。因此，人工智能技术行政吸纳的有限性就源于政治性规则本质是国家意志的体现，是国家权力与公民权利之间的博弈，更是公民权利保障机制与国家权力监控机制之间的失衡。

(三)技术治理时代社会政治力量之间的张力与不确定性

技术治理时代，社会国家力量之间的关系更加复杂了。技术嵌入带来的赋权功能提高了各社会主体的地位，同时侵入与约束功能是国家运用技术加强了对公民的监督和管理，然后公民继续用技术来解脱国家权力的束缚，周而复始。“信息技术不仅孕育着走向数字民主的巨大潜力，而且潜伏着滑向‘数字利维坦’的现实风险。”[18]36人工智能技术在社会领域的应用，彻底改变了人际交往机制，社会政治力量之间的关系潜藏在数据、机器之后，新型关系模式冲击着权力结构边界、权利行动的范围以及原有的社会规范。“新技术重塑着‘国家—社会’关系，在新技术环境下，巨大的‘利维坦’与更多新人群、新组织、新社会力量的关系，将变得陌生起来，社会权力的无序运行对国家政治安全施加了严峻考验。”[25]137人工智能技术为传统科层制的权力体系制造出难以触及的隐秘空间。传统政治空间最为明显的特点是谁都无法逾越的政治边界如地域区划、部门分工等等。而人工智能、“互联网+”等科学技术在数据、网络的掩护下正在创造一些很隐蔽的政治空间，西方甚至将此标榜为民主政治的沃土，对这些空间尽管有一些监管，但这些空间仍然被视为是无界的，并挑战着传统政治权力的运行。

这三个层面的非均衡性样态，不仅强化了国家、社会团体与公民在社会治理结构中的非平衡格局，而且造成了国家权力运行和公民权利保障机制互动中新的社会风险——“技术利维坦”。“技术利维坦”的社会风险在于当科学技术广泛应用于社会领域时，其功能的双向—非均衡性会将自身的特质嵌入社会治理过程，在用技术解决社会的、政治的问题时，又给社会带来新的问题。技术问题可能只能依靠更多的、更先进的技术来解决，在“技术利维坦”控制之下的社会治理会具有较强的路径依赖。但在人工智能时代，人们要面对的或许已经不再是是否要接受人工智能的问题，而是如何以科学理性的方式去应用人工智能来造福全人类的问题。

四、人工智能的风险控制与应对

受限于人工智能技术段位和政府公共政策的策略性选择，人工智能影响社会治理的可能范围与程度以及人工智能与治理主体之间的互动，仍有更多的想象空间。由于人类社会步入人工智能时代不久，它对中国目前社会治理进程的实际影响并未完全显露出来，但是，注重未雨绸缪的领导集团与其等到人工智能技术发展成熟后倒逼社会治理体系和治理能力，倒不如提前做好准备，正视人工智能在社会治理中的双向功能，以便当其实际影响显露之际能够从容应对。如果我们认识到以人工智能为技术基础的社会治理所根植的双向—非均衡性样态，就会发现想要超越其社会风险实际上是个非常严峻的改革挑战。十九大报告指出，我们当前“迫切需要推动互联网、大数据、人工智能和实体经济深度融合，借以提高保障和改善民生水平，加强和创新社会治理”[19]30，“提高社会治理社会化、法治化、智能化、专业化水平”[19]49。人工智能时代的到来为政府创新社会治理模式提出了新的要求，政府作为社会治理重要主体应该以更积极的姿态应对人工智能技术对社会治理造成的影响，并提高社会治理体系与治理能力的智能化。

第一，政府部门或者决策机构应该建立预判机制，学术科研单位应当做好理论预案，预测人工智能发展前景以及对社会治理的影响。从上文对人工智能在社会治理中的功能与风险分析可以看到，“虽然新技术在早期都充满了有意义的前景，但是其最终结果却有着极大的不确定性……技术发展为人类打开了认识新世界的大门，而这个新世界的轮廓却是未知的”①。人工智能在社会治理领域中确实潜藏着巨大的“有意义的前景”，但是我们不得不提防这只“技术利维坦”的出现。因此，面对人工智能带来的“前景”和“巨兽”，国家会如何抉择还有待时间的检验，但是对人工智能与社会治理发展趋势的研判仍然值得关注。

第二，注重人工智能人才培养，特别是注重政府人员和企业社会组织对人工智能的技术知识和技术运用的培训。人工智能技术尚处于起步阶段，它的生产功能将创造更多经济财富，对该技术的掌握与研发必将成为未来科技发展的核心之一。因此，要注重对该领域的人才培养，政府要重新考虑公共教育与企业培训的计划与方式，有必要在高校建立人工智能研究院或研究型智库，以培养专业的技术型人才。

第三，努力推进社会治理主体之间的合作协同，促成人工智能技术治理主体合作化，信息共享化。以进一步发展技术手段为基础，构建智能治理的多元合作模式，不断提升人类“善智”能力。有效遏制“技术利维坦”的消极影响的关键在于“调整人类社会与数字技术之间的互动关系，实现数字技术与整个现代社会的共存、共融与共生”[26]。从政治安全和社会稳定的视角来看，在人工智能时代，国家权力的合法性与社会治理的有效性取决于政府对一切社会风险的防控能力。为提高权力主体和治理结构“善智”与“善治”能力，“除了需要一个广泛的利益分享机制之外，还需要更加广阔的决策空间，以便于在面临不确定性考验时，有更多利益一致的参与者共同参与风险的研判，从而共同制定规则并建立一个高效的预警机制”[25]。

注释：

① 转引自：梅立润.人工智能如何影响国家治理：一项预判性分析[J].湖北社会科学，2018(8):20-28。原文参见：徐越如.技术魔力的揭秘者：温纳的技术政治哲学研究[J].科学技术与辩证法，2007(3):74-78。