无人化应用的跨界风险与协同治理

张乐

【关键词】数字化转型 无人化应用 跨界风险 协同治理

【中图分类号】D669 【文献标识码】A

当前全球主要经济体争相进行整体性数字化转型，不断向智能社会跃进，无人化应用领域凭借高效、无感、便捷等方面的技术优势在数字化大潮中异军突起，发展势头强劲。在2022年北京冬奥会上，多样态的无人化应用场景给世人留下了深刻印象，防疫机器人、接待机器人、递送机器人、物流机器人、炒菜机器人、送餐机器人等各类智能“黑科技”大放异彩。随着经济社会的发展，无接触、智能化、高效率的无人化应用扩展到越来越多的生产生活场景之中，为企业的提质增效和人民生活便利化提供了更多元的选择。

近年来，人工智能、大数据、物联网技术的商业化模式逐渐走向成熟，无人经济的发展进入快车道，在诸多领域出现了更多无人化应用新场景。当前，我国数字经济中无人化板块进入加速发展时期，主要分布在无人零售、工业机器人、无人载具、物流仓储和商旅服务等行业领域。

我国无人化应用的发展呈现出三个主要特征。一是适用范围广，应用场景多元化。像无人零售、智慧物流、无人银行、无人加油站等生活服务场景在大城市已经屡见不鲜，并不断向中小城市和村镇扩张。而在生产领域，无人化应用让智慧工厂、无人车间和智慧农业成为现实，生产中一些或单调或繁复的工作开始交给智能机器人去完成，而在一些高危行业和恶劣工作环境下，机器人已经可以替人涉险，最大限度地避免事故灾难对人的直接伤害。二是功能日趋完善，智能融合化趋势明显。在大数据、人工智能、物联网、5G通信技术快速迭代与深度融合的加持下，无人化应用在多个领域的功能愈发完善，通过技术集成，呈现出模块化、系统化和高智能性特征。例如，智慧物流和仓储的无人化应用已经实现了更高水平的路径规划、自主移动、自主管理与分拣和无接触精准配送等功能，达到了在统一的无人系统控制下分阶段、无缝衔接地完成工作任务的智能水平。三是无人化应用带来了管理体验的高效化和用户体验的个性化。在生产和管理端，无人化应用极大地提高生产率，明显减少一线员工数量，进而降低运行成本，整体性提高管理效率，这从根本上促进企业的数字化转型和公共管理服务部门的数字治理效能提升。在客户消费端，无人化应用的无感式、人性化、便捷式服务水平和质量不断提升，满足了客户对服务效率的极致追求和对产品服务的多元化、定制化和人性化的高标准需求，消费者体验效果的好评度也随之提升。

无人化应用的快速发展受多种因素驱动。首先，数字技术的革新是无人化应用兴起和扩展的支撑因素。人工智能、大数据、物联网、移动互联网是支撑无人化的关键技术，它们的融合创新让人与物、物与物之间的全方位对接成为现实。其次，以降成本提效率为目标的经济考量是驱动无人化应用发展的动力因素。对效率、效益最大化的追求是驱动资本、企业和管理部门不断投入资金研发无人化技术、采用无人化应用、推广无人化场景的原动力。成规模的无人化应用的部署和多场景化的推广可以提高经济效益和资本回报率。另外，人口老龄化加剧，人口红利消失导致的劳动力成本高企等因素进一步强化了雇主研发、部署无人化应用的意愿和速度。最后，新冠肺炎疫情成为无人化应用需求增长的特定因素。传染性极强的新冠病毒让保持社交距离、减少人员接触成为防疫“刚需”，在促进经济发展和做好疫情防控要求下，无人化应用独有的“无接触、安全性、智能化”特征让其成为助力科学抗疫、助推智能经济产业化进程中不可或缺的关键要素，这倒给无人化应用场景的推广带来新发展机遇。

作为极具颠覆性的技术应用，无人化应用的发展推动了经济社会的进步，也带来了新的风险与挑战。种种迹象表明，它们正在改变着就业结构、冲击法律与社会伦理、侵犯个人隐私甚至挑战国际关系准则，对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。这些发展中的风险复杂、多变又相互关联，形成了跨界风险。

首先是网络安全风险，它是基础性风险因素。无人化应用的依存基础是泛在化的移动网络和物联网等信息通讯设施，物与物、人与人、人与物的互联互通是无人化应用场景实现的必要条件。万物互联既是无人化应用的特征也是跨界风险的源头。网络基底技术及其构成的系统都存在安全漏洞。例如，在所有网络系统和软件中常见的0Day漏洞（又称暂时没有安全补丁的漏洞，该漏洞从被发现到被利用再到被封堵存在着时间差，这期间所遭受的攻击难以防范），就会让联网设备面临信息泄露、系统瘫痪的威胁。据统计，2020年全球约有123亿台设备联网，随着无人化应用场景的扩张，这一数字还会成倍增加。在这些设备中，由于成本和设计的原因，大量无人化设备安全防护系统陈旧或过于简单，无法有效抵御类似0Day漏洞的攻击。即使重启一个简单的物联网灯泡，最终也可能会暴露真实的网络地址，攻击者就能够利用漏洞远程接管设备，将提前准备好的攻击代码或恶意程序添加到所在网络中，窃取甚至控制个人或组织的其他联网设备，导致信息泄露或财产损失。

其次是数据安全风险，它是核心风险因素。在数字时代，任何以电子或者其他方式对信息的记录都可以称为数据。从某种程度上讲，无人化应用及场景的运行本质上就是数据的处理过程。而建立在网络基础上的数据处理，包括数据的收集、存储、使用、加工、传输等多个功能环节或多或少都存在着安全隐患，导致数据处于缺乏保护或非法利用的状态，无法保障整个无人化应用场景的持续安全。无人化应用场景里的数据安全风险主要包括数据泄露、数据篡改、数据滥用、违规传输、非法访问等几种形式。例如，在常见的无人化服务场景中，数据滥用的情况就比较严重。无人化设备在提供消费服务时候需要人脸识别、扫码登记支付操作，通常会采集用戶的生物信息、手机号、设备信息，还会越界读取个人通信信息、短信和相册等敏感信息。无人化设备采集到的这些信息可能会被非法传输给设备商、经销商、服务商等多层次的数据后台，用于消费习惯“画像”和标签化等数据加工，甚至发生非法的用户信息数据共享与交易行为。

最后是社会安全风险，它属于技术风险的衍生风险因素。无人化应用的网络和数据最终都是要为社会和用户服务，网络安全风险和数据安全风险也终将会传导到社会领域，由此引发的社会安全风险可以分为三种类型：一类是因人机功能定位不当或权责归属模糊不清导致的法律风险。无人化应用运行中产生了许多人机交互的数据，这些数据的产权归属、收益分配和安全保护责任与成本分摊等关键问题要么尚未得到法律确认，要么法规的操作性不强，容易产生利益相关的自然人与法人之间的权责纠纷。另外，在特殊情境下，无人化设备出现功能故障导致财产损失与人身伤害时，因主体“缺失”导致的责任认定困境，也会引发无人设备生产者、运营者和使用者等多方利益纠纷。第二类是无人化应用扩展对工作岗位的替代效应产生的结构性失业风险。“无人”最初的设计目标本就是尽量替代人工进行劳动。在某种意义上来说，无人化应用越普及，被其替代的工作岗位就越多，直接从事该岗位的原有劳动者面临的失业威胁越大。当然，无人化应用场景的发展也会增加对无人化系统的研发、运营和维护等工作岗位的需求。如果被无人化应用替代劳动岗位的“失业者”与因无人化应用场景扩展新增的“就业者”不是同一批“人”，则更容易发生结构性失业风险。第三类风险是指上述多重风险进一步传导放大形成的社会风险，如新型的数字鸿沟与数字不平等。当无人化应用场景渗透日常生活的各个领域，成为主要的生产形式和生活方式的时候，那些对无人化应用适应性差或抵触使用无人化应用的群体，就会因缺乏替代场景或备用选择而无法享受无人化发展带来的数字生活红利，或者连基本的生活也受到限制。

从总体上看，这些跨界风险存在以下特征：一是风险跨越了空间场域边界。无人化应用的风险跨越技术与社会两大领域，纵横影响技术、生产、生活和管理等多重维度。无论是无人化应用的软件系统还是无人化应用的物理设备都难逃技术漏洞的物理攻击，无论是单纯的消费领域还是社会稳定与国家安全领域都有可能因为无人化应用风险的外溢而遭受威胁或损失。二是风险跨越了时间的影响边界。无人化应用场景中一些风险具有“黑箱效应”，普通人难以察觉，类似0day漏洞的发现与封堵可能会拖延很长时间，此类风险缺少明确的起点和终点，在相当长一段“潜伏期”内对其波及领域产生实质威胁。三是风险跨越了系统功能边界。无人化应用场景是典型的复杂系统，其内部的功能分工有别于传统的机械化分割，其构成要素之间的多重耦合、功能嵌套、边界重叠和非线性作用机制都决定了发生在内部的任何一个环节的功能障碍或破坏，都有可能快速地突破子系统的功能边界，扩散到整个无人化应用场景网络中，产生级联故障或系统瘫痪。四是风险跨越了传统的安全边界。与跨越系统功能边界相关联，无人化应用场景的风险同样突破了原有意义上的安全防护界限。通常，政府、市场和社会各自设定了安全防护规制与措施，但这些系统因各自发挥的功能目标不同，安全防护的侧重点也各异。当跨界运作的无人化应用场景全方位、立体化地嵌入其中并通过互联网和物联网将各类系统链接起来的时候，一个领域（或业务部门或管理层级）的安全措施不能或无力抵御来自相连领域的风险威胁，风险的传导和波及或将冲破条块化分割的安全边界，造成全域性系统安全风险。五是风险跨越了组织的管理边界。由于无人化应用场景涉及企业、行业、政府和用户等众多主体，在其研发、运营和使用等多个阶段都存在风险隐患，在上述时空边界和功能安全边界模糊不清或防护不足的情况下，按照传统的业务、部门和层级进行安全监管分工的组织边界也会被打破，如果相关监管固守之前的组织架构、管理职责和权限，将无法有效应对无人化应用扩张带来的跨界风险的冲击与挑战。

面对无人化应用快速发展带来的跨界风险，传统的治理模式难以取得良好的效果，碎片化的治理结构和缺乏弹性的治理机制无法应对无人化跨界风险带来的新挑战。协同治理是一种秉持整体性视角，以多中心、去边界和深度合作为主要特征的新型治理模式。以协同治理应对跨界风险成为数字时代风险治理的新思路。

一是技术领域的主动防护与“协同数网”创新。“以技治技”是治理跨界风险的重要原则，借助人工智能、区块链等新技术独有的“算法对抗”“自主验证”技能来提高协同防护的效率。其一，构建以“零信任架构”为基础的主动防护机制。建构网络安全是治理无人化应用跨界风险的基础性工作。通过建立“持续验证，永不信任”网络安全防护框架，将系统的安全边界延伸到无人化应用场景的最末端，无论是用户、设备、应用程序在试图获得网络访问权限的时候，在其身份真实性被验证之前，访问请求都能够被坚决拒绝，从而构建一个基于身份策略模型的动态访问控制的安全防护体系。其二，推动“协同数网”建设，提升主动防护的能力。数据处理是无人化应用的核心过程，通过组建完善“云端”数据资源的接入和一体化调度中心，降低算力使用成本和门槛，形成“数据枢纽”，建立无人化应用复杂系统的“中枢大脑”，统筹运算和风险监测预警功能。在此基础上，利用区块链的分布式独立核算与存储功能，实现信息的自我验证、传递和管理，进而形成一个既能促进跨场域、跨部门、跨层级的数据流通又能实施风险治理功能的“数链”系统，提高无人化应用数据处理效率的同时可以有效防范数据篡改或非法传输等风险。

二是社会领域的风险会商与争端解决机制创新。首先，在前端的风险分析与评估阶段，应鼓励试点多主体参与的风险会商体系。通过建立常态化的议事机构、制定规范的议事规则，督促不同的监管主体（政府职能部门、相关企业及平台、行业协会、学术研究机构、专业社会组织）根据自身资源优势和能力状况，开展会商式的风险评估活动，分析研判无人化应用跨界风险在不同场景、不同发展阶段、不同功能形态上的风险源头、风险类型、发生概率、形成机制和传导链条及影响程度，确定风险等级，提出兼具治理共识和明确指向的风险防范指导。在后端的矛盾纠纷化解阶段，应尝试建立包容审慎的争端解决机制。以无人化应用为代表的数字经济很容易形成“数字技术霸权”和“数字技术弱势群体”对立状况，造成数字鸿沟的擴大，激化企业平台与普通用户之间的利益矛盾。因此，建立包容审慎的争端解决机制，充分考虑到多元主体各自的利益和诉求，以平台企业的获利让渡和用户有限度的信息授权为基础，合理地分配因数据流动带来的收益，让无人化应用场景的扩张兼顾市场经济效益和公共服务的共享价值。

三是跨领域的立体治理创新。立体治理是协同治理面对新兴科技跨界风险时所采取的一种创新治理手段，是针对跨界风险的时空延展性和功能边界的复杂性特点设计出的兼具长度、宽度和深度的“三维治理”形态。其一，以敏捷治理和触发响应机制来灵活调节风险治理的时机（时间跨度）。既然无人化应用跨界风险在时间上具有高度不确定性和治理的时滞性，那么在应用场景存续的全周期都保持风险警觉，随着无人化技术及应用场景的发展调整风险监测治理的时机，通过设定风险响应的“底线”，决定触发监管介入的合适时机，在保持监管处置及时性的同时，避免过度监管反应影响系统的自主性、拖延生产服务效率或降低科技创新的动力。其二，以全主体协同参与的联合监管拓展风险治理的宽度。理论上的多主体和多中心协同治理实际上是“知易行难”。如果应对无人化应用跨界风险不得不采取跨场景、跨业务、跨部门的联合监管，那么主体间的风险责任和管理权限就需要得到明确和重新划分。在此基础上，根据交叉领域跨界风险特征和影响程度，打破原有的业务、部门和层次的边界，重塑治理的组织架构，整合原有的风险治理功能，建立一个基于统一目标任务导向的联合监管治理体系，提高风险监管效能。其三，以无人化应用场景的可信性建设增强跨界风险治理的深度。无人化技术及应用场景的复杂性是跨界风险的根源，而为应对这些风险建立的管理体系如果变得过于庞杂，反而可能会加重风险危机的严重程度。从风险治理的角度看，要提高无人化应用的可解释性、透明度，提高监管机构安全监督、评估和信息披露的及时性、通俗性和翔实程度，这既是对技术领域加强与社会沟通、获得社会支持、实现自我完善的“倒逼”，也是对监管机构的监管行为的公开、公正、公平等治理属性的督促和强化。

（作者为山东大学生活质量与公共政策研究中心专任研究员，山东大学（威海）法学院教授、博导；山东大学政治学与公共管理学院博士研究生李瑾对本文亦有贡献）

【注：本文系国家社科基金年度重点项目“人工智能发展中的社会风险及适应性治理研究”（项目编号：20ASH009）及山东大学人文社科重大项目“防范化解数字化转型中的重大社会风险研究”（项目编号：21RWZD18）阶段性成果】

【参考文献】

①胡华成编著：《无人经济》，北京：清华大学出版社，2022年。

②張晓：《数字化转型与数字治理》，北京：电子工业出版社，2021年。

③杜庆昊：《数字经济协同治理》，长沙：湖南人民出版社，2020年。

④马奔：《危机管理中跨界治理的检视与改革之道：以汶川大地震为例》，《清华大学学报（哲学社会科学版）》，2009年第3期。

⑤张玉磊：《跨界公共危机与中国公共危机治理模式转型：基于整体性治理的视角》，《华东理工大学学报（社会科学版）》，2016年第5期。

责编/于洪清 美编/杨玲玲