人工智能时代的社会风险治理创新

周利敏，谷玉萍

(广州大学公共管理学院社会学系，广东广州 510006)

一、缘起：人工智能与社会风险治理的新进展

人类正处于人工智能塑造社会的历史时刻，物理学家和宇宙学家斯蒂芬霍金认为全人工智能的发展可能意味着人类的终结，人类必须选择正确的道路，一条使所有人都能受益于数字革命的道路。社会风险治理需正确应对数字革命带来的挑战，积极利用这一机遇提高治理效果。近几年来，社会风险与人工智能的结合被认为是最新兴起的与快速发展的交叉研究领域，它不仅重视新兴风险的治理，而且更加重视“传统风险”治理。在社会学理论中，人工智能意味着“后人类”及“后人类社会”的出现，人类大脑与机器人一起行动产生了许多新的社会形式，也促进了风险治理研究范式的变革[1]。在我国，党和政府高度重视人工智能在风险治理领域的应用。2018年9月，习近平总书记在2018世界人工智能大会的贺信中指出，新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能。2018年10月，习近平总书记在中共中央政治局第九次集体学习时强调政府与社会需要促进人工智能在公共安全领域的深度应用，大力提高公共服务与社会治理水平。2019年1月，习近平总书记在省部级主要领导干部专题研讨班上进一步强调社会风险治理需要利用人工智能在内的各种先进技术。2020年2月，习近平总书记在中央全面深化改革委员会第十二次会议上鼓励运用大数据、人工智能与云计算等数字技术，在疫情监测分析、病毒溯源、防控救治与资源调配等方面更好发挥技术支撑作用。

人工智能在风险治理领域的应用引起了国际与国内学术界的极大兴趣，这一领域正经历一系列创新活动，主要形成了几种代表性视角：第一，“变革论”。人工智能提高了风险感知能力，进而促进了有效的风险预警与风险预控。Armstrong等认为，对于决策者而言，借助这一技术，风险评估更加精准，风险管控也更加有效，它推动了风险治理的变革[2]。第二，“新兴技术论”。Kouziokas强调人工智能是新兴的风险预测技术，人类社会是脆弱的实体、系统与个体，随着现代社会风险日益复杂，需要运用人工智能新技术进行有效应对[3]。第三，“有效论”。Khalil等认为人工智能技术打破了时间与空间限制，完成人类无法完成的任务，已成为风险治理的有效工具[4]。第四，“预警论”[5]。 人工智能技术能对社会风险进行有效的分析、预测和预控，例如预防公共汽车、出租车和火车上的犯罪风险，从而有效改善公共安全。第五，“辅助决策论”。Dethridge等强调人工智能通过学习算法可自动识别有用的风险信息，还可以确定组织响应、组织附属及非附属个人身份在风险治理中的角色，进而为决策者提供辅助决策支持[6]。第六，“社会参与论”。人工智能与风险治理体系的结合有利于社会参与，它改变了社会风险自上而下的治理局限[7]。

上述研究呈现出几个特征：首先，就研究主题而言，已有研究相对分散，大多侧重于技术与管理层面，专门对人工智能在社会风险治理中的研究非常少见。其次，就案例研究而言，已有研究大多停留在理论与概念层面，案例研究非常少见。人工智能促进了风险治理的变革，但相关案例研究极为缺乏。再次，就对话而言，国内与国外研究对话不足。国内学界立足于已有国情与社情，取得了一些成果，这值得肯定，但人工智能是一场全球范围内的技术革命，国外成果有许多可借鉴的地方，需要积极与之对话，才能摆脱研究相对滞后的现状。最后，就操作层面而言，在社会科学领域，抽象研究较多，操作性研究缺乏，理论与实践之间还存在较大落差。基于此，本文主要聚焦几个核心问题：如何建构人工智能视角下社会风险治理模型，其基本内涵是什么，人工智能如何在全生命周期中有效运用，有哪些国际与国内的典型案例，如何对这一治理实践进行反思？综合成一个问题：人工智能如何促进社会风险治理理论与实践创新？

二、基于人工智能的社会风险治理模型

为了从理论与实践层面推进人工智能在社会风险治理中的应用，需要构建相应的理论模型，这一模型主要包括平台、工具、模拟、决策与全周期等5个基本维度(图1)。

图1 人工智能社会风险治理模型

1.平台维度：新兴智能与机器学习

有效的人工智能平台是社会风险治理的基础与核心，通过这一平台能进行有效的大数据收集与分析，促进风险决策与风险控制。就数据而言，智能平台能及时收集与处理最新的风险大数据。风险大数据往往具有嗓音性、不确定性与模糊性等特点[8]，平台能有效收集、筛选与分析这些大数据。例如，社交大数据中往往存在大量冗余与不相关数据，人工智能可对此进行筛选、分类与简化处理[9]。就专业性而言，大数据分析具有复杂化和专业化特征，往往让人望而却步，但人们可以在没有数据科学家的帮助下通过新兴智能(ABI)平台进行数据分析，这是一种简化的风险大数据智能分析平台，能有效解决数据分析的复杂性问题，为社会风险治理提供了必要的数据支持。就平台自身而言，智能平台也是一种机器学习平台，能够自动对社会风险文本消息进行分类[10]，例如对风险治理需求报告、风险群体特征及风险图像等文本与图像信息进行过滤、分类与分析，为风险治理者提供准确与科学的信息支撑。

2.工具维度：智能算法与超级智能

人工智能是非常有效的新风险治理工具，它涉及了一系列的技术创新[11]。人们正在探索一些新兴的人工智能技术，例如符号处理器、专家系统、神经网络、遗传算法和分类器系统等。其中，人工智能算法非常关键，它由专家系统、人工神经网络和混合智能系统构成。3D图像技术是另一种正在探讨的平台技术，它能模拟风险治理环境，为参与者提供了在线论坛、虚拟化解决方案及共享平台，尤其对于太远、太分散甚至数量太多的社区具有特别重要的意义。人工智能还在不断发展下一代技术，原始人工智能(AI)技术还将进一步发展为“超级人工智能”(ASI)，例如，使用超级AI软件可以识别恐怖分子语音、图像、邮件、社交媒体中威胁目标及短信信息，它涉及了技术创新、软件设计、网络计算和虚拟工具等新技术，为风险治理提供高效的信息、映射与通信工具。目前，正在使用与研究的人工智能技术还包括物联网(LOT)、纳米技术、生物技术、量子计算和新型机器人等新技术[12]。科学家预测，随着人工智能技术不断发展，它几乎能够完成所有风险治理任务。

3.模拟维度：虚拟治理与智能仿真

人工智能具有使用范围广、灵活性强、地理可视化与社交网络化等功能，为风险治理提供了科学简便的模拟、仿真与情境治理。网络通信技术和风险地图建构的虚拟社区，不仅能有效预测社会风险，而且能在模拟情境中选择极具参考价值的风险决策。人工智能社会风险仿真系统是一种正在开发的系统，主要应用于4个领域：社会风险智能感知、智能评估、智能预警与智能控制，主要包括4个部分：社会风险信息数据库、智能分析模块、智能预警系统和友好用户界面，可以有效模拟风险事件中的人群运动。一些国家还开始应用通信技术(ICT)建构增强现实(AR)情境的人工智能模拟系统[13]，通过链接风险区域的物理虚拟空间与共享3D图形计算机虚拟社会，从而为风险治理者提供可视化、直观化与快速化的决策服务。

4.决策维度：自主代理与多智能决策

社会风险是一种不规则事件，在高度复杂与动态情境下，人机协作能有效辅助风险决策，已成为社会风险治理的新工具。人工智能融合了机器自主代理与人类远程控制，结合了人类智慧与人工智能的优势，涉及了一系列困难的信息技术。通过开发有用的智能算法，在此基础上收集、筛选与评估巨量信息，在虚拟空间中为不同群体提供了有效的风险辅助决策，显著地提高风险决策的能力[5]。目前，正在研究中的微型机器人流动系统是一种基于机器人平台的风险决策工具，在风险感知与应急救援(USAR)中应用很广。多智能决策体系包括机器人、本体与语义网等，具有减少信息不确定性、降低治理成本及克服常规方式局限等优势，在动态与不可预测的风险环境中解决复杂的决策问题，具有传统决策无可比拟的优势。

5.周期维度：全生命与均衡应用

人工智能能应用于风险治理全过程，在每一个阶段都能有效运用，它强调风险全过程与均衡治理。全生命周期治理体系由社会风险感知、风险分析、风险预警与风险预控等构成。就风险感知而言，它已成为风险治理中的重要课题，治理者需要具备风险感知的能力，才能对风险事件做出及时有效的应对。人工智能能有效提高风险感知的能力，通过识别最相似的社会风险达到快速感知风险的目的。就风险分析而言，社交媒体中往往充满了巨量的风险信息，人工智能能有效抓取社交平台上的风险大数据，同时进行自动化、复杂性和实时性分析[5]，大大减少人类数据分析负担。就风险预警而言，人工智能可以轻松将预警信息传递给公众[14]，通过建立人工智能预警模型使人类与机器协同工作，将人类智能迅速应用于风险预警中。就风险预控而言，人工智能为风险预控提供了良好的平台，例如自主机器人能有效监视风险站点，这对于风险预控非常重要，它大大提高了政府与社会风险预警的能力。

三、国际案例：人工智能在社会风险治理中的应用

随着智能化、数字化的发展与机器算法的进步，人工智能逐渐应用于社会风险治理领域，国内外在社会舆论、公共卫生安全风险、宗教暴力与社会骚乱等领域进行了探索，出现了一些典型案例(表1)。

表1 典型治理案例

1.脸书公司：舆论风险中的智能治理

随着在线内容不断增长，仇恨言论传播也日益增加，容易酿成社会冲突事件。仇恨言论是指使用攻击性、暴力性或反感性语言，社交媒体允许用户言论自由，但其瞬时性质和转发功能也会放大仇恨言论。尽管大多数在线社交网络和微博网站都禁止使用仇恨言论，但由于社交网络与网站规模巨大，无法控制所有内容。人工智能技术(例如自然语言处理技术)能有效检测与评估社交媒体中的舆情风险，从而避免与防止社会风险的发生[15]。2017年以来，脸书通过人工智能技术标记社交媒体上的仇恨言论，收集公共群组中的恶意表情包与段子数据集即所谓的“仇恨meme数据集”，然后对这一数据集进行多模态学习模型调试，进而运用人工智能仇恨言论检测系统准确识别仇恨语言，同时进行详细的文字说明与最终分类，自动推断有关仇恨言论与公众风险舆论趋势，实现对社会舆论进行快速识别与拦截的目的[7]。脸书部署的另一项核心技术是先进的机器学习技术，它能保护人们免受有害内容的侵扰，谷歌母公司旗下的Jigsaw公司还开发出人工智能API接口以应对充满恶意的网络表达。此外，脸书公司也部署了两项新的人工智能技术，第一项技术是“增强诚信优化器”(RIO)，能从真实的在线示例与指标中学习，而不是使用离线数据集。另一项称为“Linformer”人工智能架构，使用复杂语言理解模型检测仇恨言论。脸书公司还在开发一种新工具即图像匹配工具，旨在检测平台上的虚假信息。人工智能可以针对全球每一种语言形式、内容与社区，尽可能快速与准确识别出仇恨言论、虚假信息及其他违反平台政策的舆论。脸书公司利用人工智能自动检测与过滤仇恨言论及相关内容，简化了仇恨言论监查工作，大大降低了由此带来的社会风险。

2. COVID-19：重大疫情中的传播风险治理

人工智能(AI)是对抗诸如COVID-19新冠疫情潜在的强大工具，自从这一大流行病暴发以来，全球一直争先恐后使用AI进行风险治理[16]，大大减少了病毒传播风险，主要体现为：第一，疫情预测。人工智能(AI)与机器学习(ML)已成为研究大数据的重要手段，也是预测疫情风险的重要手段[17]。人工智能能快速分析COVID-19的不规则症状及其他“危险信号”，进而预测高危患者并为其量身定制干预措施。第二，疫情监测。人工智能疫情监测平台能自动预测与监控病毒传播，它利用神经网络技术提取传染病视觉特征，实现对风险群体进行及时准确监测。在COVID-19疫情中，许多国家利用自动测温系统，运用人体检测和人脸识别技术识别身份，然后根据红外线成像技术对人流进行实时非接触体温监测，我国的百度、商汤、旷视、大华观与海康威视等公司推出人工智能体温监测系统已在公共场所广泛使用。第三，疫情跟踪。人工智能不仅能分析重大疫情感染程度，还能跟踪个人行踪并对其进行风险监视[5]。在COVID-19疫情中，百度、搜狗与360 等企业推出了疫情地图、疫情跟踪与同乘查询等智能服务，方便民众查询与搜集高风险地区信息，也方便政府进行疫情跟踪与监视。第四，疫情诊断。人工智能在临床医学中的应用潜力非常广泛，借助计算机断层扫描(CT)与人体磁共振成像(MRI)扫描等医学成像技术，有助于提高感染病例诊断准确度[18]。在COVID-19疫情中，上海市公共卫生临床中心采用了“新型冠状病毒性肺炎智能评价系统”，能在病变区域进行自动检测，将定量分析时间从5～6 h缩短至2～3 s，大大提升了诊断速度与精准性。第五，疫情应急。人工智能应急平台运用机器人移动互联网与大数据等分析技术，通过专有网络或5G网络对应急救援进行有效管理，这一平台具有操控、收集、处理和分发应急信息等功能。在COVID-19疫情中，中国东软集团推出了物资应急管理平台，实现了对区域内现有应急物资的可视化管理。

3.宗教暴力：社会模拟中的智能预防

社会模拟是一个新的研究领域，通过人工智能将模拟算法设计成类似人类大脑的算法，创建人类思考的模拟代理。牛津大学、波士顿大学与挪威阿格德大学联合研究团队开发出社会模拟模型，计划利用人工智能研究宗教暴力行为及其背后的社会动机。这一模型首先填充了成千上万的“虚拟人”或“代理人”，赋予其不同性格与不同情绪，然后每一个虚拟人物被划分为宗教信仰多数、信仰少数及其他宗教信仰，接着通过编程进行“模拟人际交互”，在类似社交媒体平台消息系统中对个体行为进行深度跟踪与分析。这一模型同时创建了宗教仇恨言论数据集，包括宗教、种族与性别仇恨等，通常使用的是仇恨语音检测与人工智能机器学习法。这一智能社会模拟模型应用潜力巨大，通过以结果为导向的人工智能技术对风险进行筛查、分析、预测与跟踪，利益相关者利用它对特定宗教政策进行适用性实验，避免“真人社会实验”可能引发的伦理问题[16]，在某种意义上来说，它是一种“类人类”实验，通过对虚拟人物进行人工智能模仿，实现有效预防与降低宗教暴力事件发生的目标。

4.美国中情局：社会骚乱的智能预测

准确预测社会骚乱事件对于改善公共安全与国家安全至关重要，美国科技新闻网站https://slashdot.org发表文章称美国中情局(CIA)人工智能系统能够预测社会骚乱事件。随着社交网络的普及，社会事件发生后，社交媒体上发布的负面情绪帖子数量会迅速增加，对其进行自动检测已成为重要议题。美国中情局通过“警报服务器”中的强大超级计算机收集与处理风险大数据，能提前数天预测社会骚乱发生。这一智能预测系统还使用机器学习与深度学习服务器，同时部署相应程序，能有效过滤与识别巨量与动乱相关的帖子，进而深度分析这些已经过滤的帖子[19]，实现预测与解释何时与何地将发生社会骚乱事件的目标，一般大约提前3～5 d做出预测。这一智能预测模型主要包括4个阶段：同情原因、了解运动、参与动力和参与能力，主要利用人工智能技术(如自然语言处理技术)识别社交媒体中的社会动员信息。一般说来，社会动员相关帖子数量与某些地理位置的社会骚乱事件之间存在相关性[20]，通过使用空间聚类方法和人工神经网络模型进行空间分析，有效识别社会骚乱将会发生的区域[3]，进而采取有效的风险控制手段，达到避免与降低社会骚乱事件发生的目的。

四、案例分析与研究

人工智能能实时处理社会风险大数据，可应用于社会风险感知、分析、评判、监测与预警全过程，上述4个案例从不同侧面反映了人工智能在社会风险治理中的应用，通过进一步比较与理论分析，可以得出一些有益的观点与发现(表2)。

表2 4个案例的比较分析

第一，从风险类型来看，上述4个案例分别涉及了社会舆论、重大疫情、宗教暴力与社会骚乱等社会风险主要类型，因而具有较好的代表性。这些案例同时也表明了政治家、领导人与民间社会越来越多运用人工智能作为风险治理的工具。社会风险是由难以预料的集体行为或个人反常行为引发的集体风险，传统风险治理具有科学性缺乏、效率低、成本高与时效性差等特征[21]，人工智能能够分析信息、共享信息、过滤信息、实时识别、迅速决策与降低成本等优势，在风险治理领域具有光明的应用前景。人工智能不仅提高了政府风险治理能力，而且通过复杂的自适应系统(CAS)、社区参与与社区赋权，促进了民间社会成为风险治理的重要力量。

第二，从风险数据来看，这几个案例都表明智能收集与分析风险大数据对于避免与降低社会风险至关重要，上述案例都是通过人工智能处理社交媒体大数据，社交媒体已为风险治理提供了重要的数据来源。通过智能收集与分析社交大数据，同时借助视觉分析技术与智能情境建模，不仅有效揭示了灾难场景，也为风险治理提供了良好决策。另一方面，大数据也可能出现信息过载与质量参差不齐的问题，人工智能根据关键字、相关性和信息质量等进行过滤，或者建立数据智能自动警报系统减少大数据噪音与冗余等问题。从这4个案例中强调为了保护个人隐私和社会安全，需要在人类社会与人工智能之间建立谨慎与科学的平衡关系。

第三，从风险技术来看，上述4个案例表明，为了有效降低与避免社会风险，借助已有或未来人工智能技术是提高风险治理效果的关键。例如，目前正在研究与应用的深度学习(DL)方法，主要由生成对抗网络(GAN)、极限学习机(ELM)和长期/短期记忆(LSTM)等方法组成。人工智能还在不断发展下一代风险治理技术，如使用AI软件识别恐怖分子语音、图像、邮件与社交媒体中的威胁信息。随着人工智能技术不断发展，一些学者认为它几乎可以完成风险预测的所有任务。在人工智能时代，风险治理首先需要解决的是技术问题，才能科学收集、处理与分析风险大数据，在此基础上进行的辅助决策，可以实现有效的风险预防、预警与预控目的。

第四，从风险预防来看，这4个案例代表了4种不同风险类型的预防，初步表明了人工智能技术能有效预防社会风险。社交媒体已成为风险信息传播的主要渠道，它形成了巨量风险数据、风险文本与其他风险信息，人工智能成为处理巨量风险信息的重要技术，例如利用自然语言技术处理风险大数据，不仅提高了风险预测速度，而且为风险预防提供了决策依据。在技术层面上，通过人工智能风险预防程序对风险大数据监测与筛选等，同时利用深度学习技术对大数据进行加工、重构与理解，然后通过机器算法模型进行风险预测，不仅提升了风险预防能力，而且有利于实现源头治理，这是政府与社会最期待的效果。

第五，从全生命周期来看，由于社会风险形成原因复杂，影响面广，破坏力强，而且现代风险呈现出新特点与新趋势，使得风险治理任务越来越艰巨，政府也面临越来越大的治理挑战。全生命周期治理包括风险智能识别、分析、评估与控制等阶段，上述案例表明了人工智能适用于全生命周期治理，它是一个单一封闭的治理循环，也是全过程均衡治理过程。通过人工智能技术对风险大数据过滤、分类与分析等，进而对社会风险进行识别、评估、预测与预控，它在风险治理的每一阶段都能有效应用，这一全过程与全周期治理促进了风险治理创新，对于风险治理具有重要意义。

第六，从治理效果来看，上述4个案例初步表明人工智能系统可以低成本、实时与快速跟踪、监视与控制社会风险，主要有4方面效果：首先，它大大降低了社会风险沟通成本，极大地提高了风险沟通水平与能力。其次，它也大大提升了风险信息传播速度与处理速度，这是风险治理成功与否的关键。再次，通过复杂的人工智能技术及时处理在线的巨量风险信息，不仅为治理者提供了科学的数据分析，也大大提高了社会风险辨认与控制能力。最后，管理者应将人工智能上升到风险治理的战略选择，主动适应人工智能技术的发展与变化，才能有效提高管理者风险决策能力。

五、结语：理论反思与未来展望

如前所述，在人工智能时代，社会风险治理任务将部分由其代替，在某些方面替代或超越人类行为，它促使社会风险治理迈向新阶段，但也存在一些缺陷，在结论部分，研究进一步强调几个观点。

首先，就“功能-变革”而言，人工智能是社会的一部分，不仅具有强烈的社会功能，还具有快速性、准确性与广泛性等功能，在某些领域具有人类不可比拟的优势。在社会风险治理过程中，人工智能以机器算法和智能训练为核心，通过计算机程序呈现人类智能，同时结合神经科学、机器人学与统计学等学科知识，不仅使数据收集更广泛与更全面，数据分析也更迅速与更科学，为风险治理者提供的辅助决策支持也更有效，有利于将不确定风险事件控制在可控状态，从而促进了风险治理模式的变革。

其次，就“政府-社会”来讲，对于社会而言，政府扮演了发现社会风险、治理社会风险与保障社会安全的角色，但现代社会风险已由单一风险向原生-次生-衍生风险链条转变，仅依靠政府人力、物力与财力难以有效治理。人工智能降低了风险治理成本，例如，它带来了信息与数据分析便利，具有明显的成本优势。同时，它是一种智能化的技术应用与社会适应，为风险治理提供了重要的辅助决策支持，避免了政府人力与物力的不足。人工智能也促进了民众参与，通过社交媒体与自媒体等途径，民众与政府形成了新的社会风险合作治理模式。

再次，就“挑战-前景”而言，随着文化、科技、政治、经济与文化日益复杂，风险类型也日益复杂，这给风险治理带来了巨大挑战，人工智能也因此被越来越多的使用。人工智能有一天会足够聪明，在某些方面会迅速使人类智能落后，这称为“情报爆炸”，也称为“技术奇异性”或“奇异性”，将为社会风险治理提供越来越先进的技术支持。未来，人工智能还将进一步发展为强人工智能与超人工智能，最重要的治理技术问题将由计算机负责，有利于克服传统治理技术与思维的局限，它在社会风险治理领域具有光明的应用前景。

最后，就“不足-陷阱”而言，人工智能在有效治理社会风险的同时，也可能引发社会秩序混乱、社会冲突与社会不公等问题。它虽为风险治理提供了新的活力，但缺乏自我意识的机器比人类大脑要危险得多，它可能会逃脱人类控制并制造更大的社会风险。同时，人工智能强调社会分裂与文化非连续性，也会造成新的社会风险，它还可能造成失业、隐私、家庭结构失衡、性别歧视、权力集中化及技术滥用等社会风险，它在治理社会风险的同时也可能在制造新的社会风险。

尽管人工智能存在上述局限，但它促进了社会风险治理由传统的人治向人机结合的智能治理变革，进而促进了一系列的风险治理创新，正成为国内外学术界激烈争论的问题，它为政府、学界和民众提供了重要的风险治理理论工具、实践指南与政策启发。