人工智能时代的技术扩张与社会保护

摘      要：人工智能技术承载着社会发展的愿景，但人脸识别技术一定程度上却滥觞于相悖的结果。“中国人脸识别第一案”唤起社会对人工智能技术问题的反思，其实质是技术扩张和社会保护“双向运动”的较量。结合案例重构“双向运动”新模型可发现：市场资本扩张逻辑裹挟人脸识别技术与社会撕裂是根源，市场资本生产与技术逐利分工导致社会被需求，市场资本流动催促技术转化带來社会风险，市场资本存续依赖技术决策引导社会“商品化”，市场资本竞争扩大技术竞技致使社会“机械化”。社会转型内生的利益公平、不确定性降低、主体性决策和公共价值诉求催生了社会自发保护，层层倒逼政府介入。政社联手构筑的“反向运动”以“技术重嵌社会”来规范市场资本，在利益共契、权力制衡、决策重塑和秩序维系方面矫正人工智能技术是未来趋势，亦有利于重归技术初衷。

关  键  词：双向运动;人工智能;人脸识别技术;技术扩张;社会保护

中图分类号：D925.1        文献标识码：A        文章编号：1007-8207（2021）06-0095-14

收稿日期：2021-03-25

作者简介：陈春润，华南师范大学政治与公共管理学院硕士研究生，研究方向为城市治理、公共政策。

一、问题的提出

伴随着大数据、5G、区块链等新一代信息技术的逐渐成熟，人工智能将对全球格局产生巨大影响。2017年，人工智能首次被写入政府工作报告，国务院印发的《新一代人工智能发展规划》也提出了分三步走的战略目标：“第一步，到2020年人工智能总体技术和应用与世界先进水平同步;第二步，到2025年人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平;第三步，到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心，智能经济、智能社会取得明显成效，为跻身创新型国家前列和经济强国奠定重要基础”。随着相应政策的落实，作为人工智能的标志性技术，生物识别技术大规模落地，人脸识别技术以无可比拟的优势成为社会转型需求的重要选择（见图1、图2）。人脸识别通过已储备的人脸图像数据库对特定的静动态图像或视频进行验证和匹配已知身份，[1]正在为社会创造价值。如重庆江北机场安检识别设备仅10分钟便抓获潜逃1380天的“北大弑母案”嫌疑人，使犯罪分子无处遁形;医院借助算法对人脸数据分析检测遗传疾病，帮助盲人识别聊天对象表情;2020年新冠疫情爆发，人脸识别门禁配合红外线无接触测温、无人机等视觉交互场景被广泛应用。人脸识别对一系列问题的成功解决使其逐渐获得社会前所未有的认可，数几十年前出行需要介绍信，现今“刷脸”即可顺利出行。

图1 2019-2021年中国生物特征识别规模增速[2]

图2 2015-2021年中国人脸识别规模增速[3]

人类社会创造人工智能承载着解决社会需求的目的，本质是使社会发展得更好，[4]然而在实践过程中，多有不尽人意之处。支付宝和微信的人脸识别推出、银行APP和柜台嵌入人脸识别、小区的人脸识别门禁、公司换上人脸打卡机，其无节制的扩张在带来了空前的效率和财富同时，一定程度上背离了服务于社会的初衷。由于人脸识别是以人工智能算法为技术支持，以大数据分析为手段，人工智能算法容易异化为“赛维坦”，[5]大数据将异化为“数字利维坦”。[6]从人脸识别趋势来看，人类难以操控之势已显现：人脸照片被以5000张不足10元的价格交易，陌陌ZAO换脸软件的“强盗协议”同意授予ZAO与其关联公司以及ZAO用户“在全球范围内免费、不可撤销、永久、可转授和可再许可”的权利，济南看房者戴头盔防刷脸揭开了黑暗利益的链条，等等。《人脸识别应用公众调研报告（2020）》也分析了人脸识别技术滥用对人类造成的伤害和引起的担忧。

技术本身并不存在恶意，但是人工智能对社会带来的伤害难免令人担忧， “中国人脸识别第一案”引起了社会对人工智能技术应用的深思，郭兵与杭州野生动物世界（以下简称“动物世界”）的冲突是人工智能与个人权利保护产生了矛盾。2019年10月，杭州野生动物世界在“零公众基础”情况下更换了人脸识别入园方式，因担忧隐私、人身和财产等权利被侵犯，协调无果后郭兵起诉了动物世界。自此，“中国人脸识别第一案”屡登网络热搜，就人脸识别技术问题和权利保护两难抉择激起舆论热议，随后“刷脸”事件、信息安全和其它人工智能问题被频频曝光，各地反抗技术以保护个人权利呼声不断，各地政府也叫停了一些“刷脸”场景，案件延续至2021年4月。期间，社会、政府、市场（技术）均牵连其中。究其本质，这场抗争是技术扩张与社会个体权利的较量，透露出人们对人工智能发展的矛盾态度。这一议题极具现实意义，但令人遗憾的是，迄今对人工智能的研究仍限于科学技术问题的铺述，鲜涉社会层面的思考。为何人脸识别触发了与社会发展初衷相悖的结果？社会保护何以发生？如何校正人工智能技术应用行为？以“中国人脸识别第一案”为例深入分析，解开困惑，既是现实需要，更是推进人工智能治理现代化的中国探索。

二、理论分析框架

（一）既有文献之争

关于技术问题的争论经久不衰，智能时代背景下人工智能成为核心，围绕市场决定论、社会影响论和政府监管论层面铺开。市场是技术扩张的引擎，国外学者们偏好技术自由主义，如亚当·斯密（英）信仰人天生倾向交易来寻求利益最大化，赫伯特·斯宾塞（英）、路德维希·冯·米塞斯（奥地利）和沃尔特·李普曼（美）等人重复着利益交换的市场理性经济人模型。深受影响的学者们也偏好技术“成本—收益”的市场论，其研究包括两个方向：一是将人工智能视为满足市场需求的新技术工具，提高生产效率而带来经济增长。[7]许多研究者还认为人工智能进化取决于市场运行成本需求，习惯从技术事实探讨市场收益对策。二是从市场资本增值角度思考技术的发展，但意见不一。一方面，秉承弗里德里希·奥古斯特·冯·哈耶克（英）关于市场自发的理念，认为技术市场秩序能自我调节。人工智能技术需要市场资本来投资，即便是乔布斯的苹果手机技术或马云网购推广技术也离不开雄厚的资本，而人工智能作为资本密集型技术[8]可以提高市场的投资回报。另一方面，也有人关注到市场资本摄取利润导致技术异化和垄断的问题，[9]对技术赶超有正面激励效应，但也可能抑制技术创新。市场决定论认为技术是市场需求刺激与技术价值回报的结果，容易忽视技术的“市场资本”困局。

与将人工智能看作是市场决定的技术的视角不同，有学者主张融入社会维度的分析。如德国学者弗里德里希·李斯特、卡尔·欧根·杜林、斐迪南·滕尼斯等主张社会要有意设计经济市场和社会制度。如今，市场技术战胜社会成为关键问题，马克思曾认为机器将社会人排挤出生产领域，[10]《人类简史》作者尤瓦尔·赫拉利（以色列）预测人工智能将造就社会“无用阶层”，远超出了米歇爾·福柯（法）所指“知识序列崩溃”和哲学上的“人的抹去”，库兹韦尔也预言人工智能可能超出“奇点”[11]改变人性。从亨利·基辛格（美）到斯蒂芬·威廉·霍金（英）等人都担忧智能力量会被用于不道德、非正义和有害的目的。技术的巨大利益链带来信息失控、委琐化和泡沫化世界，人类沦为信息奴隶，被信息的汪洋大海淹死。[12]正如我国学者高奇琦认为：隐私暴露的“透明人”和终结人类特性的“空心人”，[13]以致于技术与人类实现黑格尔意义的主体承认。为此，许多组织努力定义人工智能的社会伦理，技术不能控制人类社会、扭曲社会人的心理和行为，[14]只能成为社会依附者来发挥其作用。

一个无可辩驳的事实是，技术市场发展和社会观念转变时，政府作出了贡献。与市场秩序选择的增长现象不同，不受限制的市场调节是乌托邦，庇古（英）认为市场调节不符合帕累托最优准则，无法调节外部效应，[15]不仅施穆勒（德）强调市场的历史特性，弗里德里希·李斯特（德）也解释了国家在市场中的核心作用，他们提倡国家以制度框架重塑社会共同体。[16]技术市场联合与国家分庭抗礼，人工智能侵犯社会的领域备受关注。尽管人工智能战略意味着政府围绕战略目标和利益相关者作出调整的系列动机，但是技术监控和社会用户信息权利如何保护问题亟待解决。许多国家开始研究相关法规回应人工智能和市场力量的问题，指向保护社会权利。国际社会对人工智能运用早有讨论，2013年联合国大会强调“数字时代的隐私权”，各国应“设立或维护有效的国内监督”。各国禁止各类智能应用的举措引起了争议，支持者呼唤人权保护，反对者提出以细致规范替代全面禁止。然而，问题在于政府监管人工智能也容易陷入“一放就乱，一管就死”的境地。

既有文献之争为本研究奠定了一定的理论基础，但主体间关系似乎难以厘清。同时，技术服务于社会的本质决定了技术离不开与社会关系的探讨。目前，人工智能和社会关系的研究匮乏，价值判断层面又使技术和社会互动过程成为“黑箱”，市场决定论、社会影响论抑或政府监管论也难以预测未来。

（二）人工智能转型：技术扩张的“双向运动”

以往从三个角度看人工智能问题，现今还可以更透彻——从技术扩张和社会保护的“双向运动”来解析其复杂过程。卡尔·波兰尼（匈）在《大转型：我们时代的政治与经济起源》提出“双向运动”视角，[17]本文提炼其关键论点作为立论依据。命题1：自由放任的“市场社会”（市场经济所有要素均商品化，不是为了社会消费生产，而是为了交换获利生产）脱嵌于社会，无法自我调节的市场扮演社会的唯一指导者将带来社会灾难;命题2：市场脱嵌于社会触发反向的社会保护来矫正市场的脱轨，此双重力量对抗导致社会结构形成、崩溃和更替;命题3：市场和社会保护的“双向运动”引发难以调和的冲突，以开放的维持方式通过国家、政府的干预来保卫社会不受市场的侵害，政府干预之下“市场社会”回归“社会市场”。命题4：自我调节市场的终结、社会保护和政府规制意味着市场的重生。

事实上，“大转型”在当代中国人工智能发展中逐渐变成现实。人工智能与市场资本已然深度结合，技术和社会间深层次关系在于透视技术扩张背后市场资本的根本力量，受制于市场资本的技术扩张和社会保护互动包含双重运动。一种是市场资本的技术扩张倾向，另一种是抗拒市场资本下技术扩张引起的社会保护。从经历着“技术”的“市场社会”到社会出现的“反向运动”，社会和技术分裂成对立面而无力摆脱时，需要国家、政府力量来缓和，引向“技术”的“社会市场”。由此看来，市场资本控制的人工智能技术扩张引起社会“反向运动”，“反向运动”是为了更好地调整和纠正市场资本行为。

学者们在“双向运动”研究上各具特色，对人工智能技术和社会层面的分析极具价值，在现象解释和危机预测上十分精准，但其指导实践还需满足以下条件：⑴分析脉络兼容市场资本、人工智能技术和社会的逻辑性工具;⑵各主体间关系需明确且清晰;⑶理论为中国案例素材所验证;⑷这一宏观框架应从微观单位出发以“一斑窥全豹”。故此，将“双向运动”置于人工智能扩张和社会保护的本质规律中深入把握，需重构新的“双向运动”模型。

（三）人工智能之“双向运动”逻辑

技术扩张与“反向运动”的“双向运动”包含双重原则，第一重原则是市场资本指导下的技术扩张运动，第二重原则是反抗技术扩张的“反向运动”，蕴含社会自发保护增能与政社联手构筑的反向运动两大方面。“双向运动”模型阐释关于人工智能技术扩张与“反向运动”的关系（见图3）：

图3 重构的“双向运动”模型

假设1：人工智能扩张的根源是市场资本运行的四重逻辑，市场资本以极端功利主义原则获取其所需的技术扩张要素，把社会收入控制在手中。

人工智能与市场资本扩张逻辑共契，[18]人工智能包含智能分工、转化、决策和竞技要素，遵循市场资本发展的四重逻辑与资本相互作用，达到资本扩张的目的。[19]首先，市场资本生产。市场资本和人工智能在利益分配基础上进行组织间分工合作，为后续运行奠定基础。其次，市场资本流动。市场资本迫切运动和加速转化才能获得更多利润，[20]其需要人工智能短时间内实现由生产到市场的急速跨跃，倾向于短期的直接效果，忽视积累带来的不确定性后果。再者，市场资本存续。为尽可能获得最大收益，资本还要不停顿循环而存续，资本存续依赖于人工智能对数据信息的获取、分析和决策。最后，市场资本竞争。市场资本竞争依靠人工智能软件或硬件的激烈竞争，大规模引入和扩大人工智能的应用。

假设2：市场资本和技术合谋与社会的较量呈现非均衡性，带来双方无法调节的紧张性，社会转型的内生性诉求层层递进催生社会自发保护。

市场资本操纵人工智能过快过急扩张，使不符合其运作逻辑的社会被边缘化，社会自发启动保护。社会的自我保护绝非凭空而生，而是转型的内在适应性调整。上述资本张生产、流动、存续、竞争的四重扩张逻辑决定了市场资本显著的非公共性、外部性、信息性和垄断性特征，带来了技术与社会的高度紧张。与之对应，社会本身蕴藏的结构性、稳定性、主体性和制度性诉求促发了社会保护，开启了与市场资本、人工智能技术的较量。

假设3：技术与社会无法调解的紧张性倒逼政社联手构筑“技术嵌入社会”的“反向运动”，受制于市场资本而“脱钩于”社会的技术重新与社会“挂钩”，强化了社会保护的传导动力，并抵消了技术自我毁灭机制和市场资本。

社会自发保护诉求与政府治理需求相契合，政府与社会联手构筑“反向运动”。社会自发保护诉求使得政府在处理人工智能和市場资本问题上有意识关切社会需求，就社会合法性抗争，搭建起“技术嵌入社会”可替代通道，以满足各方的需求。同时，技术嵌入社会的“反向运动”[22]也是技术利用率和市场收益率的长远考量，其额外效应使社会保护成为政治常规参与者，一旦社会保护在技术市场安家落户，便成为社会持续保护的动力，[23]通过模式化促使社会考量如何接受其它人工智能。

回到人脸识别技术上，“中国人脸识别第一案”表明：人脸识别问题的本质是市场资本裹挟技术扩张之下的社会问题。资本增殖和人脸识别技术发展依赖于社会，回归社会逻辑的保护不只是防御行为，而是回应市场资本依托人脸识别破坏社会秩序的紊乱状态。现实案例也表明社会保护初现端倪，市场主体非但不排斥“反向运动”，实际要求反向社会保护，但关键在于是否利于技术和资本持续发展。鉴于此，须从修正具体的“双向运动”模型来解析人脸识别案例引发的双向较量过程并进行深入检验。

三、资本裹挟下人脸识别技术扩张与社会紧张之痛

（一）市场资本生产：技术分工逐利导致社会“被需求”

人脸识别作为技术手段服务于社会需求，但由于市场资本的生产具有逐利性，因而社会逐渐“被需求化”。市场资本的本性是追求最大利润，技术因其具有操作性、精确性和有效性而成为资本追求最大利润的合作伙伴。在市场资本“招募”下，技术组织纷纷加入其中，二者优化分工组合，其中的利益关系极其复杂。对于动物世界等商家来说，人脸识别设备并非一种简单工具，它还可以获得许多收益，技术研发企业正是核心利益合作者。一方面，一台人脸识别设备相当于多人同时工作。传统的人工核验方式效率低且人工成本高，平均每人通行约5-10秒，而使用人脸识别系统仅需3秒左右，在效率提高的同时经营成本大幅缩减。另一方面，人脸识别系统也是引流入口。不同于刷卡和二维码支付，人脸具有惟一性，利于准确判断和对用户进行精准画像，从而制定个性化营销策略，提高用户黏性。技术资本双方共谋利益，人脸识别技术容易沦为市场资本的奴隶，往往创造出需求来获利而并非考虑社会本身的需求、价值旨归和公共利益。市场资本表象掩盖下的人工智能技术“进步”无法契合社会发展“需求”，商家变“你需要”为“我要你需要”，再通过宣传人工智能“为你服务”而推出产品。动物世界在与人脸识别技术企业结合的过程中技术即沦为商家获利的工具。市场资本和技术分工合作逐利无可厚非，人脸识别技术本是为满足社会公众需求而开发，现在反倒是社会公众的需求被市场资本“创造”出来满足技术消费。

（二）市场资本流动：技术转化急剧隐伏社会“风险”

从人脸识别技术生产到市场应用是“变现”的转化过程，市场资本流动的冲动压缩了其转化过程，增加了其中的不确定性并带来社会风险。技术转化加快了市场资本流动，但目前人脸识别技术忽视了人脸识别应用过程的风险隐忧。在人脸识别技术转化“变现”过程中，一方面，技术开发者由于自身局限对技术的风险感知存在主观判断，对人脸识别技术风险可控的自信和误判容易带来技术风险。在实地调研中，大多数技术开发者承认其风险，却更相信自己的技术判断。另一方面，一些大型企业拥有定义风险的权力，他们选择自己愿意看到的结果，技术精英可能用智能算法来论证有意选择的正当性。由于需求选择的成本限制，众多社会诉求将无法进入到技术和市场资本的决策视野中来。用户的声音很难被技术开发者了解到，动物世界的人脸识别系统也是在“零公众基础”上快速推进的，未能对用户进行充分的知情同意调查，更不用说市场上各组织低价开发人脸识别系统或者通过相应渠道采购廉价的人脸识别系统，公众的诉求和建议被排除于市场资本的决策之外。事实上，人脸识别系统真正安全转化是需要高昂成本的，公众更愿意相信政府部门的人脸识别系统，在对相关政府部门和项目跟踪后发现，其采用一套高安全性的人脸识别系统需要数百万的高昂投入和维护。然而，在市场资本催促下，各大应用商和技术开发企业也只能考虑成本和收益问题，机器更新迅速、投入的低成本和未能建立数据后台的专业能力必然隐藏算法、隐私泄露和其它侵权风险。技术快速更新换代颠覆了社会公众的认知，人类高度依赖人脸识别技术，资本流动又强迫技术继续转化，这种恶性循环扩张叠加了层层风险。这一惊人转化不仅无法保证信息安全，还会面临来自智能系统的威胁，如硬件和软件漏洞、训练数据污染、恶意对抗技术学习的样本生成等，甚至导致系统混乱变成攻击工具。但由于这一过程存在灰色的责任空间，风险一旦发生，用户将难以追责。

（三）市场资本存续：依赖数据决策引导社会“商品化”

生活在大数据时代，市场资本赋予了人工智能驾驭社会的地位，人们逐渐成为数据商品却不知其危害。基于机器学习的人工智能背后是海量的数据核心资源，数据背后则是社会权利被侵害，“一切智能的背后，都是监控与控制”。[24]市场资本通过数据攫取甚至垄断获取更大权力和影响力——利用智能系统获取大数据，掌握资源和产品的市场现状，从中寻找规律来提升决策能力，并且利用算法进行精准的“个性喂食”。事实上，市场资本依托技术收集的数据信息得以存续，但是控制技术背后的市场主体获得了掌控社会的决策权。个人的数据离决策越近，附加值越高，通过人脸识别设备收集后就会成为一种在市场上交易的数据商品。即人脸识别系统采集到人脸数据、身份信息等数据成为市场上各大商家界定结构性社会的利器，被划分为不同层次的信息数据作为“客体”被贩卖。人脸识别采集到的相关信息尤其是人脸这类敏感信息是市场资本逻辑的必然结果和社会效应。人脸识别设备并不关心用户是否真的方便，不在乎用户的担忧，“人脸”数据被谁采集便归谁，成为市场获利的附属品，社会人异化为人工智能的附件，失去主体性蜕化为“机奴”。

（四）市场资本竞争：技术竞技盛行致使社会“机械化”

人脸识别技术应用的无节制扩张是资本“砸钱”和技术“联姻”赚钱的方式，市场资本不仅不停顿地循环，还须不断扩大投资规模来竞争，带来机械的技术官僚主义。市场以资本增殖为基础， 资本能否依靠技术应用不断扩大来实现利润最大化事关资本的成败。市场主体不惜代价使用能够帮助自身在激烈市场竞争中获利的人工智能技术如人脸识别设备加速向社会渗透，“高大上、智慧趋势、满足客户”等噱头成为市场资本“跟风”人脸识别技术的理由，强迫公众“刷脸”，社会失去能动性，变得“机械化”。人脸识别技术的使用应必要、正当、合法，如公园的公共卫生间，可采用其他方式而非机械的人脸识别方式来限时限量获取纸张。但现实是，人脸识别技术在某种程度上成为市场谋利空间的“凶器”，忽略了人工智能存在使用限度的另一番景象。人脸识别在减轻工作压力的同时也创造了机械官僚主义，出现“内卷化”现象：“刷脸”不仅不能带来便捷，反而提高使用门槛，带来更复杂的程序。人脸识别引发的尴尬画面历历在目，如许多人在“刷脸神器”前不够高、光线不足、化妆、发型等有时候甚至不如人工服务便利。然而，人脸识别应用的“非可选择性”和“非替代性”掩盖了社会真实诉求，社会只是零部件，一切变得“机械化”。

四、社会保护的内在逻辑

（一）纾解利益冲突，避免彼此间利益分化加剧

市场资本和社会存在结构性利益矛盾，市场资本牟利以牺牲社会个体利益为代价，使得彼此间利益分化和加剧。由市场资本进行投资的人工智能具有“非公共性”和逐利的利益性，在人脸识别技术扩张过程中，系统并不仅仅是识别人脸，而是经由识别人脸可以追踪身份信息、财产、行动轨迹、社交圈子和亲属关系等，社会主体得到的便利和市场组织获得的收益相比微不足道，这是一项非公平的利益交换。个体脱离了集体化组织约束后，其独立性、分散性彰显，但由于技术知识、举证能力、资金等处于劣势而难以捍卫个人权益。在起诉动物世界前，郭某也曾因苹果手机自动扣费问题而与苹果公司对抗，但是以失败告终，在反对动物世界强迫“刷脸”的历程中也遭遇了重重波折，耗费了巨大成本。相较于普通人，郭某的教授身份、专业背景经历、法律朋友帮助、媒体曝光已经为其对抗商家和技术提供了基础资源，若换作他人恐早已因无奈而妥协。市场资本和技术开发企业存在复杂的利益纠葛，双方共有的先天优势远强于个体或较小规模的社会组织。当社会个体意识到这种不公平带来的相对剥夺感后，社会自我保护便以一种新的、组织化的方式产生。当然，人们也清楚认识到，如果失去市场资本，技术将难以为继，但问题在于技术并不能只遵从市场资本“理性经济”的利益逻辑而忽视社会个体的权益。为纾解三方利益冲突，社会权益的维护呼吁社会保护来抵抗人工智能技术背后强大的市场资本势力。

（二）降低潜在的不确定性风险

人脸识别应用快速落地，使市场资本转化营造出了“安全假象”，隐藏着极大的不确定性。技术具有复杂性和难以预测性，因社会认知能力有限，难以防止风险侵害。人工智能本身的算法决策和学习复杂性超过了传统程序，甚至连开发算法的技术人员也可能难以洞悉迁移学习和算法演化的过程。大多数人在迫切使用人脸识别技术时都“同意商家单方面提出的协议”让渡权益，选择短期收益而忽略长期风险，这是非理性的“冒险主义”和“侥幸主义”。不过值得注意的是，很多用户在“刷脸”时希望人脸识别技术的不确定性风险是可预测的和可控的。事实上，即使是政府部门采集公众的脸部数据，也有93.8%的人希望告知脸部数据的用途。[25]当然，“大筛选”理论意味着不是所有技术都有好的结局，何况人脸识别已化风险为实然。基于前述判断，在前所未有的人工智能时代，人工智能带来的风险不断提升，而现有风险治理都供给不足。如果不启动新型防范机制如社会保护提高抗风险能力，遏制不确定性，反抗技术霸权，那么人脸识别终将会衍生一系列“负外部性”危机。

（三）获得主体性决策参与权

决策参与权是利益调整和再分配的权利，市场资本联合人工智能掌握着单一的决策权，与社会形成决策主体和决策客体关系。一直以来，市场资本和人工智能的决策具有信息隐蔽性——技术获取海量数据储存和应用存在透明度争议，用于获取竞争优势的算法工具又被作为核心商业机密对公众隔离。当算法作出错误决策甚至侵犯社会权利时，“刷脸”后数据留存于设备终端、企业云端、子公司、集团部门还是流转至公共部门都模糊不清。由于缺乏决策参与权，社会局限于技术空间拓展以实现市场资本为目的的思维，许多人持有“反正没有钱，不怕盗我脸”“没人对我这种小人物感兴趣”“我哪能决定别人做什么”的心态。由此技术决策理性吞噬了社会主体性，实现了社会从主体向客体的置换，[26]导致决策失调，正如案件中动物世界评价用户的价值只是去看他买了多久年卡、消费特征等可用来决策的数据，即“人的物化”，而不是将用户当作决策主体。由于对人工智能产生了黏性和路径依赖，社会群体有决策意识的人格消逝，无意识的人格得势，[27]群体丧失了批判性，其暗示作用转向同意人脸识别技术的应用，如局外人难以理解郭某的抗争所为，动物世界认为识“时务”才明智。社会保护主张个体在使用人工智能时拥有决策自主权，不是只作为“数据”被市场资本和技术决策，而是要将社会主体从边缘位置带回决策的中心位置，重塑社会主体地位。郭某和少数个体所做的抗争努力是为了不被市场资本裹挟的技术所控制，这些举动是为了获得主体性决策参与权。

（四）回归公共利益的价值关怀

市场资本密集的技术竞争具有垄断性，在法律制度不健全的情况下，技术扩张往往不会遵循公共准则，有“温度”的技术扩张才是社会的渴望，也是技术持续扩张的合法性工具。将改造社会的重任交付给技术官僚必定伴随智能机器对社会生活的渗透，市场资本具有“无止境的欲望”，大量本无需应用人脸识别的地方都采取了该应用。一方面， “个人数据”成为技术控制社会的钥匙，技术机器的节奏和规则挤压人的情感和个性。另一方面，人工智能甚至成为商家对社会控制的工具。通过系统引导价值、建构制度、改造生活达到市场资本获益的效果，使社会思维和方式程序化、标准化，弱化人的判断力。倘若市场资本对人脸识别技术唯利竞争，终将带来技术的“个体代价”，不符合我国倡导的人民至上的价值观念。郭兵案件以来，人脸侵权事件频频曝光，信息泄露事件屡登微博热搜，使公众逐渐意识到充满关怀的技术价值消逝，尽管公众对人脸识别技术存在分歧，但一致认定人工智能应尊重个体、回归人性关怀和凝聚公共利益。时下，对社会自身关注的现实抗争与技术可能的侵害相对立，技术服务于社会公共价值既具备法理性和制度正義，也赋予了社会保护的标注功能和意义建构。“中国人脸识别第一案”并非只是郭某维护自身权利，更是对人工智能乱象进行制度变革的先行先试。同时，社会保护旨在引起公共价值关怀的制度呼声，技术的“冰冷”需要政府治理的“温度”保障。

五、政社联手以“技术重嵌社会”反向矫正市场资本

社会保护如何矫正市场资本行为？人工智能运转依赖的是强大却有限的资本，社会让渡于国家的资本显然更大：权力、技术、信息、制度。为此，政府有能力在不妨碍市场资本准入和人工智能发展的前提下实施治理。然而，一方面是人工智能更新迭代、智能系统复杂、智能应用深入生活呈现原子化，另一方面则是政府治理滞后、监管和规则不明以及政府层级特点的天然缺陷。故此，人工智能的治理成效并不明显甚至失去效力，直至社会自发保护与技术抗争的明确诉求层层倒逼政府。

社会自发保护诉求与政府治理需求相契合，使政府议程打开机会之窗，政社联手构筑“反向运动”规范市场资本，“技术嵌入社会”为矫正人脸识别技术失范行为指明了方向。“嵌入”并非市场资本一元主导技术，而是经政府引导，社会选择和改造衍生的社会化产物，技术扩张利用反向保护力量修复存在的问题，使技术扎根于社会，技术良性扩张和社会保护耦合推动社会发展。依据相关理论和经验，“反向运动”可从四大现实趋势中透视。

（一）利益共契：“算法推演+人工判断+民本基因”界定边界

简单地将市场资本和人工智能合作的个人利益凌驾于社会正义和发展之上将酿成技术悲剧，如何使市场资本回归社会责任，在技术趋于进步、市场追逐利益、社会期待权利保护的情况下，“算法推演+人工价值判断+民本基因”三重利益原则嵌入的架构界定了利益边界，形成了互惠互利的共同体。算法推演是人脸识别技术的优势，势必要取其长处加以利用并投入一定成本使其更科学、准确和安全，高成本的投入也意味着长远的边际报酬。然而，只参考算法推导出来的选择容易被市场资本牵制，算法的“赛维坦”风险也将导致对人脸识别技术的误判，不去审查数据反映是否是假象，作出背离实际状况的决策。[28]因此，技术程序正当性和尊重个体十分重要，对于人脸识别技术需要人工价值判断。一方面，现代社会不能只依靠人工智能追求效率和利润，还要依靠精度和温度，即采取人脸识别技术有无必要、设备算法是否可靠吗、可能产生什么风险等价值判断。另一方面，纯粹参考人脸识别算法的逻辑结论可能因算法歧视和数据内涵偏见导致结果不公正，学习世界通行的人工审核补充——人工对算法结果的价值判断确保纠正偏差的机器决策，是市场资本的长远收益考量。更重要的是，人工智能理应增添“民本基因”，这是政府引导技术和市场的责任。人民利益和社会需求是人工智能技术的首要考虑，践行习近平总书记强调的“主动适应人民的期待和需求”，而非盯着“老百姓的钱袋子”，减少类似高度敏感信息的智能应用、选择替代方案兼容公众习惯和人性化方式将利于共赢。增添“民本基因”还要求社会需求的认同和共识，激发为实现社会公共利益的技术努力。因此，依照三个原则组合并内化，可以在互惠互利框架中通过一般行为准则来约束市场资本动机，从而界定边界和确保人脸识别技术为社会有序生产服务。

（二）权力制衡：“技术实质权力制衡”抵御风险隐患

倾向于市场事后处理的既有思路难免失灵，忽视了让科学技术进入“权力”的场域。能否通过原有技术水平的提高和增加反风险技术来更好保护社会？这种方式在人脸识别技术应用中依然适用，亦即技术对技术的实质性权力制衡。技术对技术的制衡更能产生实质性作用，创新技术投入、反风险技术和区块链技术，表明技术权力相互制衡时代已经来临：其一，市场资本开始注重对技术创新的投入。为了预防刷脸实际应用带来的风险，加大研发投入、提升技术安全性和高度关注相关新技术的发展。其二，反风险技术已诞生了新的商业机会。有“黑客”自然要有“红客”“白客”，同样，在数据采集端产生的新式传感器应用、在数据产生到利用的各个环节，密码学技术、智能化物聯网设备嵌入加密芯片，“隐私计算”这类信息安全需求大大提升。其三，区块链技术成为人脸识别技术隐私保护的希望。区块链存在去中心化、不可篡改数据和匿名性的特点，当用户把数据放到区块链上链时，他们的私密信息会加密并且只能由用户解开，对数据的私密性、公开性更有话语权。[29]同时区块链的数据多方持有，隐私最强的数据通过区块链建立互信共享机制，规范市场行为。总之，人脸识别的数据隐私保护从来不是“临门一脚”，技术的突破性颠覆才能够重新洗牌，人脸识别技术才能走向成熟。一旦市场资本违背了社会意志，就可以通过技术权力的预防、监督和纠正来遏制技术不当行为，降低技术侵害社会的风险。进一步而言，在以技术之手制衡技术、规范数据采集和使用渠道来保证社会权利的同时，也能使生活便捷，还能助力人工智能产业发展。

（三）决策重塑：“赋权社会合作治理”健全信息共治

受限于技术算法和市场资本的复杂性和非透明性，多方合作治理是行之有效的宝贵经验，“共治嵌入”为“反向运动”借鉴。卡尔·波兰尼（匈）认为资本主义是不民主的，形势经济权力是无政府的，并不关注决策产生的“负外部性”，取代市场资本和技术滥觞的替代性方案是经济领域民主。[30]当前技术问题高度复杂和原子化，无论是采集公众意见还是政府治理都需要高昂的交易成本，而构建一种将技术与社会衔接的合作治理信息决策机制，发挥各主体优势参与技术建设能够降低治理成本。其主要呈现两大特征：第一，异质化的治理主体分享信息。人脸识别受复杂因素制约，在后续身份验证、追踪、分析画像方面可能有失偏颇，亟待多主体合作。合作治理强调技术问题解决的责任不应全部交给政府、市场亦或是社会，主张各优势主体跨界信息共享、共同合作解决问题，重点明确彼此的职责、义务及权利。政府做好“刚性赋权”，赋予监管委员会权力，[31]为公众普及技术风险相关知识、提供监督渠道和制度保障;企业做好风险评估、深入调研，对意图、算法、数据、质量、细则等说明并告知用户跟踪信息，遵循形式合法性与正当性义务;行业协会和权威机构应参与通用技术标准的制定，联手督促企业遵守原则;个体要提升技术风险意识，利用组织化利益表达和权益维护来化解技术扩张与社会的矛盾。第二，目标利益的彼此磋商。合作治理是政府、市场、社会组织和个人等主体之间的沟通、对话和协商机制，能够聚合多主体利益，改变决策孤岛状态，使多方合作互嵌具有可能性，而非市场资本单边利益，也能够防止技术霸权。

（四）秩序维系：“规管规范齐驱”消弭不当唯利行为

政府干预手段使市场资本不超出应该运作的范围，保护性立法和其他干预手段是矫正技术恶性竞争并异化的重要特征。人脸识别不同于非技术引发的问题，“规管”理念更符合人工智能技术特点，同时还须纳入“规范”。技术与法律融合的“规管”理念旨在应对技术更新的挑战，[32]寻求改变市场滥用技术的个体和团体行为。[33]“规管”包含两重含义：第一，有效的法律法规可以打消资本的不正当行为念头，提高制度确定性和技术效益、效率，“规管”依靠法律法规来保护社会，防止市场资本欲望将技术引入歧途。其一，完善法律法规。当前人脸识别涉及的合法性、正当性、必要性原则不够，使原则法治化、程序化，在重新认识数字社会隐私基础上建立产权清晰的制度，市场才能合法收集和利用数据，社会权利诉求才具备治理基础。同时，尽快出台全国性人工智能管理流程、信息保护法，关于隐私权规定要单独立法并系统化和可操作化，尤其是有效问责必须跟上。2020年公布的《中华人民共和国个人信息保护法（草案）》和2021年实施的《中华人民共和国民法典》迈出了重要一步。其二，以“禁止性规制”为主。人工智能技术具有特殊性，从应用端出发限定人脸识别使用范围，唯有具体问题具体分析才不会以偏概全。同时，对该技术使用的目的、手段、范围以及设备进行“负面清单”类规制成为企业呼声。其三，对风险进行分级分类治理。为避免人脸识别风险危害，政府可以结合行业特点和依据场景判定风险并进行分类治理。其四，明确技术开发者、使用商、用户和政府部门职责。第二，“规管”需要政府将市场资本过度自利行为引向公共利益。相关部门要主动作为，如各地方政府可采取对人脸识别乱象约谈、教育和整改等举措。同时，还要打击犯罪的市场主体，控制未经授权、伺机开展非法活动的市场行为。需注意的是，政府并非无限责任，依托市场内部规范和影响也格外重要。因此，同步建立起各行业和企业利用人脸识别技术的行业标准，加强行业自律，发挥监督和倡导功能，能够增强市场竞争力以达到“良币驱逐劣币”的目的。

结  语

自我调节的市场带来社会灾难与社会保护的反弹开创了双向运动的分析，对今日市场、社会和政府的关系研究中仍启发深刻。即便如此，卡尔·波兰尼并未对市场灾难引发的社会保护的内在逻辑作出详细分析，也未提出政府具体的解决路径。社会保护何以发生？政府介入社会与市场资本的较量中如何能够加强社会保护从而矫正市场资本？只有借助具体的分析才能解答，呈现出清晰过程，拓展双向运动机制。为对上述问题作出理论关切的回应，引入当下人工智能的分析，将卡尔·波兰尼“市场—社会”关系转变为以“市场资本—技术—社会—政府”关系构建的“技术扩张运动—反向保护运动”“双向运动”模型，不失为一种新做法，并选取“中国人脸识别第一案”实例进行深入解读。为对抗市场资本裹挟人工智能技术扩张带来的社会被需求、风险、商品化和机械化困境，社会转型中内生的结构性、稳定性、主体性和制度性诉求触发了社会保护，其自发且层层递进的保护诉诸政府，倒逼政社联手构筑“技术嵌入社会”指导下利益共契、权力制衡、决策再造、秩序维系的“反向运动”，促使人脸识别技术回归社会初衷。这一逻辑为深入理解人工智能时代的技术扩张现象提供了完整的理论解释。

我国紧跟全球人工智能步伐，以人脸识别技术为代表的人工智能催生出“双向运动”的社会保护，为人工智能发展指明了方向。这就要求在实践探索中应意识到市场属性决定了人工智能负效应的必然性，社会属性也表明人工智能的可控性和人为性。一方面，政社联手的“反向运动”是双重赋权，同时提升政府治理能力和社会自主能力，“技术嵌入社会”回应了市场经济秩序和技术治理压力，但社会自发保护在链接技术和市场资本的同时还要诉衷政府合作，方能实现“双向运动”的运行。未来需要积极创造适宜的社会保护条件，发挥社会力量，使技术高质量发展。另一方面，“双向运动”是社会保护的可持续机制。社会保护是复杂的系统工程，“双向运动”机制重构了政府、市场（技术）和社会的关系，释放了社会自主性，其产生的社会建构支撑着智能社会发展和智能市场发展，是增强科技百年未有之大变革的重要机制。

【参考文献】

[1]Zhao W，Chellappa R，Phillips P J，et al.Face recognition：A literature surve[J].Acm Computing Surveys，2003，35，（4）：399-458.

[2][3]东方财富證券研究所，中商产业研究院.生物识别技术产业发展深度报告：指纹与人脸识别[EB/OL].未来智库，https：//www.vzkoo.com/doc/13328.html，2020-06-11.

[4]（美）布莱恩·阿瑟.技术的本质[M].曹东溟，王健译.杭州：浙江人民出版社，2014：26.

[5][13]高奇琦.人工智能：驯服赛维坦[M].上海：上海交通大学出版社，2018：279-281.

[6]郧彦辉.数字利维坦：信息社会的新型危机[J].中共中央党校学报，2015，（3）：46-51.

[7]陈永伟.人工智能与经济学：近期文献的一个综述[J].东北财经大学学报，2018，（3）：6-21.

[8]郭凯明.人工智能发展、产业结构转型升级与劳动收入份额变动[J].管理世界，2019，（7）：60-77+202-203.

[9]乔晓楠，郗艳萍.数字经济与资本主义生产方式的重塑——一个政治经济学的视角[J].当代经济研究，2019，（5）：5-15.

[10]马克思.资本论（第一卷）[M].北京：人民出版社，2004：448-450.

[11]（美）雷·库兹韦尔.奇点临近[M].董振华，李庆诚译.北京：机械工业出版社，2011.

[12]（美）尼尔·波斯曼.技术垄断：文化向技术投降[M].何道宽译.北京：北京大学出版社，2007：7.

[14]任剑涛.人工智能与“人的政治”重生[J].探索，2020，（5）：52-65.

[15]胡时光.西方经济学说的演变及其影响[M].北京：北京大学出版社，1998：454.

[16][30]（英）加雷斯·戴尔.市场的限度[M].焦兵译.北京：中国社会科学出版社，2016：17，263.

[17]（匈）卡尔·波兰尼.大转型：我们时代的政治与经济起源[M].冯钢，刘阳译.北京：社会科学文献出版社，2007.

[18]盛春辉，郑文范.技术与资本互动的逻辑共契[J].东北大学学报（社会科学版），2012，（4）：295-299.

[19]张爽.大卫·哈维对现代技术的反思与批判[N].中国社会科学报，2020-08-18（002）.

[20]（英）大卫·哈维，陈国战.资本的空间与时间[N].中华读书报，2016-07-06（013）.

[21]（美）萨缪尔·P·亨廷顿.变化社会中的政治秩序[M].王冠华等译.上海：上海人民出版社，2008：1.

[22][33]王绍光.波兰尼《大转型》与中国的大转型[M].北京：生活·读书·新知三联书店，2012：38，65.

[23]（美）查尔斯·蒂利.社会运动：1768-2004[M].胡位钧译.上海：上海世纪出版集团，2005：52.

[24]Jathan Sadowski，Too Smart： How？Digital Capitalism is Extracting Data，Controlling Our Lives，and Taking Over theWorld，Cambridge Massachusetts，London，England：The MIT Press，2020.

[25]北京智源人工智能研究院，中国科学院自动化研究所.人脸识别与公共卫生调研报告[EB/OL].中国科学院网站，http：//www.cas.cn/cm/202005/t20200519_4746673.shtml.

[26]（匈）卢卡奇.历史与阶级意识——关于马克思主义辩证法的研究[M].杜章智译.北京：商务印书馆，1992：150.

[27]（法）古斯塔夫·勒庞.乌合之众——大众心理研究[M].冯克利译.北京：中央编译出版社，2000：9-11.

[28]孙保学.人工智能算法倫理及其风险[J].哲学动态，2019，（10）：93-99.

[29]章宁，钟珊.基于区块链的个人隐私保护机制[J].计算机应用，2017，（10）：2787-2793.

[31]汪亚菲，张春莉.人工智能治理主体的责任体系构建[J].学习与探索，2020，（12）：83-88.

[32]袁俊.论人脸识别技术的应用风险及法律规制路径[J].信息安全研究，2020，（12）：1118-1126.

（责任编辑：董博宇）

On Technology Expansion and Social Protection

in the Age of Artificial Intelligence

——Take “the First Case of Face Recognition in China” as an Example

Chen Chunrun

Abstract：Artificial intelligence technology carries the vision of social development，but face recognition technology to some extent originates from the contrary results.The first case of face recognition in China arouses the social reflection on the problems of artificial intelligence technology，which is essentially the competition between technology expansion and social protection “two-way movement”.Combining with the case study，the new model of “two-way movement” can be found：the logic of market capital expansion hinders the technology and social tear of face recognition，and the division of market capital production and technology profit by profit results in the demand of society，the market capital flow promotes technology transformation to bring social risks，and market capital survival relies on technical decision-making to guide the society to “commercialize”，The market capital competition expands the technical competition，which leads to the society 'mechanization'.The benefits equity，uncertainty reduction，subjective decision-making and public value appeal in social transformation have led to the spontaneous protection of society，which forces the government to intervene at all levels.The reverse movement，which is jointly constructed by the government and society，regulates market capital by “technology re embedding society”.It is also beneficial to return to the original intention of technology to correct AI technology in terms of mutual interest，power balance，decision-making and order maintenance.

Key words：bidirectional motion;Artificial intelligence;face recognition;technology expansion;social protection