智能情报分析算法风险治理可持续策略建模与仿真

孙钦莹 汪颖 姜磊 王辉 张涛

摘   要：近年来，随着智能算法的不断兴起，将智能情报分析应用于情报决策与服务逐渐成为趋势，与此同时如果在情报工作中智能算法出现安全风险将会严重影响社会稳定乃至国家安全，因此针对其系统化、可持续的治理是防范与化解智能情报分析算法风险的主要手段，具有重要的现实意义。文章通过区块链技术构建“联盟链+私有链”的双链治理模式，并从“开发者-第三方-监管者”三方动态博弈的角度对智能情报分析算法风险治理可持续性进行建模与仿真。研究发现：提升开发者研发质量是智能情报分析算法风险治理的根源、弱化第三方角色逐渐加强其对开发者的威慑作用、监管者建立合理的激励规则能使治理达到最优策略。旨在寻求最佳的算法风险治理策略，进而达到治理成本与收益最大化的目标。

關键词：区块链；智能情报分析；算法风险；算法治理；动态博弈

中图分类号：G353   文献标识码：Ａ   DOI：10.11968/tsyqb.1003-6938.2023007

Abstract In recent years， with the continuous rise of intelligent algorithms， the application of intelligent intelligence analysis to intelligence decision-making and services has gradually become a trend. At the same time， if there are security risks in intelligent algorithms in intelligence work， it will seriously affect social stability and even national security. Therefore， systematic and sustainable governance is the main means to prevent and resolve the risks of intelligent intelligence analysis algorithms， and has important practical significance. This paper constructs a dual-chain governance model of "alliance chain + private chain" through blockchain technology， and models and simulates the sustainability of risk governance of intelligent intelligence analysis algorithm from the perspective of dynamic game of "developer， third party and supervisor". The study found that improving the quality of developers' research and development is the root of risk governance of intelligent intelligence analysis algorithms， weakening the role of the third party and gradually strengthening its deterrent effect on developers， and regulators establishing reasonable incentive rules can make governance reach the optimal strategy. It aims to seek the best algorithmic risk governance strategy， and then achieve the goal of maximizing governance costs and benefits.

Key words blockchain; intelligent intelligence analysis; algorithmic risk; algorithmic governance; dynamic game

随着新一代人工智能技术在全球范围内蓬勃兴起，智能算法广泛应用于情报分析中，在做出精准情报识别、预测、评估、预警的同时，算法黑箱、算法操控、算法共谋、算法偏见、算法歧视等安全风险会严重影响情报分析结果，甚至会危及社会稳定乃至国家安全。因此系统化、可持续的治理是防范与化解智能情报分析算法风险的主要手段，并具有重要的现实意义。2022年3月，《互联网信息服务算法推荐管理规定》的出台意味我国政府已经意识到算法风险所带来的严重后果，并逐步在各行业各领域完善和健全算法治理相关制度，而智能情报分析是服务国家重大决策、支撑科技创新的重要基础性工作，更是情报机构主动适应国家安全与发展，实现情报工作创新的必要举措，因此针对情报工作领域的算法风险治理符合总体国家安全发展战略。而为实现在该领域算法风险治理的可持续性，借鉴2022年5月清华大学薛澜教授在伏羲智库学术沙龙研讨会上提出的观点，需要仔细考虑智能情报分析算法风险治理成本和收益的问题，智能情报分析项目运行与算法风险治理应该是并行不悖的关系，如果治理成本过高，可能会直接对智能情报分析项目的运行造成重大不利影响［1］。因此设计智能情报分析算法、风险治理模式的同时，需要动态寻求最佳的算法风险治理策略，通过探寻平衡点来确保不同利益相关者主体的诉求得到满足，以达到治理效果最佳的目标。

1   研究综述

国内外学者在算法风险治理方面已形成一系列研究成果。如Lysaght等采用了健康大数据伦理框架的审慎平衡方法确定相关价值，以确保更高效的医疗保健与人工智能伦理相平衡［2］；李安从制度渊源和理论基础两个方面，对算法影响评价制度进行深刻剖析；并从分类管理、评价范围、程序环节、报告书等方面，对算法影响评价制度的具体构建进行系统讨论［3］；于英香和李雨欣认为要应对算法技术、算法偏好给档案价值带来的安全风险，应从算法应用回归价值理性、制定防范算法风险管控策略、依据法律法规来规范算法应用行为等方面进行算法治理［4］；Vassilopoulou等基于叙述性审查，提出了检查算法偏见的框架［5］；宋亚辉和陈荣昌提出以防范、抵御、消解算法风险为统一目标，建立“法律规则-素能提升-机制改进-制度创新”的整体治理逻辑的算法风险治理优化路径［6］；郑婷一等从体系架构构建、监管体系完善、核心技术突破、平台模式创新四个方面给出了促进平台经济中数据和算法安全治理的建议［7］；张涛和马海群基于风险社会理论、监管沙盒理论构建“数据-算法-流程”的智能情报分析风险识别模型，以实现数据与算法风险治理［8］。

综上所述，当前算法风险治理框架、治理制度、治理机制、治理路径、治理体系的研究成果较多，并涉及到健康、医疗、法律、档案等领域，但缺乏从动态博弈角度对算法风险治理可持续性的研究成果，尤其是情报分析领域成果较少。因此，本文提出以区块链为技术核心构建“联盟链+私有链”的双链治理模式，并从平衡智能情报分析算法风险治理成本与收益角度，针对“开发者-第三方-监管者”进行三方动态博弈仿真，实证治理模式的可持续性，旨在动态寻求最佳的治理策略。

2   治理模式

2.1    利益相关者

明确利益相关者是构建智能情报分析算法风险治理模式的前提条件。借鉴利益相关者理论［9］，可将智能情报分析中利益相关者的概念界定为：能够影响智能情报分析的目标实现、参与智能情报分析过程或受到智能情报分析影响的所有组织和个体。根据概念界定，智能情报分析中利益相关者包括两方面内涵：一是指参与智能情报分析过程的组织和个人，他们为智能情报分析的可靠性、及时性、准确性提供支持；二是指受智能情报分析影响的组织和个体，他们在智能情报分析过程中获得准确的情报，并通过智能情报分析结果创造经济价值、社会价值。结合以上论述，智能情报分析中利益相关者就较为明确，包括发起者、开发者、监管者、第三方、使用者。其中，发起者是智能情报分析需求设计、策略制定者；开发者是智能情报分析项目的开发组织或个体；监管者是政府监管机构、行业监管组织、情报机构监管部门等；第三方是对智能情报分析项目中存在的算法安全风险进行评估与测试的机构；使用者是当产品投入使用后，使用这些产品的情报机构、研究所等组织或个体。

2.2    “联盟链+私有链”治理模式

区块链是智能情報分析算法风险治理模式创新的重要手段。区块链技术分为公有链、私有链和联盟链，三者除了网络中心化程度不同以外，在参与者、记账人、共识协议和激励规则上各有特点［10］。公有链是完全无中心化的区块链模式，该模式下所有人都可以自由进入区块链，在共识协议下都可以作为记账人进行记账，公有链适用于以比特币为主的公开交易；联盟链是多中心化的区块链模式，该模式的区块链只对联盟成员开放，只有联盟成员可以记账，其被攻击性要小于公有链，因此安全性相对较高，在区块链3.0阶段，应用于各行业的治理；私有链是一种中心化的结构，主要用于机构内部，如政府、企业内部监管系统。

依据智能情报分析算法所面临的风险及区块链的特点［11］，本文选取联盟链和私有链相结合的模式形成算法风险双链治理模式，这种双链模式不但能够兼顾智能算法运用的公平和高效，还能极大增强基于区块链的治理能力［12］。在双链模式下，需求者、开发者、第三方、使用者是联盟链上的权威中心，确定上链数据的记账，其数据与私有链进行共享；而监管者是私有链群体，由不同组织和机构组成，这些组织机构构成了监管者联盟，治理规则、权限分配、奖惩变化则均由链上用户达成共识，并由监管者联盟构成的私有链记账后生效。双链模式包括四部分（见图1）：（1）CA认证。CA（Certificate Authority）认证是用户上链的必备条件，而上链用户需要得到多数用户许可后触发合约完成上链，上链用户会得到用户注册证书，在区块链上的任何操作都需要使用与用户关联的证书进行签名，消息接受方在得到请求消息时，先要对签名进行认证，确保交易合法性后，才进行后续处理；（2）联盟链。联盟链中的成员包括了发起者、开发者、第三方、使用者，他们共同确定链上数据记账，这些数据无法篡改并受到全网用户及监管者的监管；（3）私有链。由于尽量避免中心化的存在，各监管者组成私有链以实现对联盟链上的用户行为进行监管，从而发现智能情报分析项目运行过程中算法风险并动态调整权限及奖惩规则；（4）时间戳溯源。主要用于回溯智能情报分析项目中“数据-算法-流程”中存在的风险问题，以便事后风险问责。双链治理模式能够从算法事前风险预警、事中风险监管、事后风险回溯环节实现对智能情报分析项目算法风险全方位的治理。

3   可持续策略建模与仿真

基于对智能情报分析算法风险治理双链模式的构建，我们发现，构建这种治理模式需要颠覆现有监管者的治理思路，并需要付出一定的治理成本来构建区块链平台，如果治理成本过高，治理过程中的利益相关者没有积极性，则治理不可持续，同时可能会对治理过程产生重大不利影响，最终不但无法实现治理目标，还会造成人财物的损失［13］，因此为实现这种治理机制的可持续性，要从治理成本与收益中动态探寻平衡点来获取最佳的治理策略，同时确保不同利益相关者主体的诉求能够得到满足，验证这种治理模式的可持续性就变得尤为重要了。本文从风险治理角度选取“开发者-第三方-监管者”进行演化博弈，对现有治理机制的可持续性进行条件假设并进行仿真，在保障智能情报分析安全性、准确性、及时性的前提下，以实现达到治理成本与收益最大化为最终目标（三方演化博弈关系见图2）。

3.1    模型假设

在智能情报分析项目需求确认后，开发者、第三方、监管者会采取一系列的措施使项目中算法风险降至最低，以达到相关标准和规范的具体要求，如要求开发者开发高安全性项目，第三方对项目中的算法风险进行严格检测，监管者对整个过程进行严格监管等。由于需求者和使用者不属于风险治理直接参与者，因此在本文所设计的演化博弈模型中将开发者、第三方、监管者作为参与主体。基于以上论述，智能情报分析算法风险治理有关的行为策略有三个：开发者的策略空间（开发高安全性项目，开发低安全性项目），所谓高安全性项目是指智能情报分析项目中不存在或者存在极少的数据与算法安全问题，反之则是指存在较多此类安全问题；第三方的策略空间（严格检测，宽松检测），所谓严格检测即对智能情报分析项目中所有数据与算法安全问题（包括算法优化、算法应用合理性）进行逐一筛查，反之则是仅检测算法是否存在常规性错误；监管者的策略空间（严格监管，宽松监管），所谓严格监管是指监管者引入区块链模式进行监管，未引入为宽松监管，在此过程中监管者对开发者和第三方仅有处罚权力，后续所涉及的奖励主要出自政府基金、社会公益基金。

在查找相关文献和询问有关专家的基础之上，对开发者项目开发质量、第三方检测及监管者监管尺度的具体影响进行分析，发现主要可以从成本和收益的角度对博弈过程进行研究，参与主体均为有限理性个体，并且策略选择随时间变化逐渐趋于平衡，具体假设如下：

假设1：开发者（开发高安全性项目）、第三方（严格检测）、监管者（严格监管）的策略选择概率分别为x，y，z且x，y，z∈[0，1]。x，y，z的策略选择概率会随着时间推移和博弈平衡点不断被打破而变化。

3.5    研究发现

基于双链模式的智能情报分析算法风险治理的建模与仿真，在满足推论2约束条件的情况下主要结果分析如下：

（1）提升开发者研发质量是智能情报分析算法风险治理的根源。加大对开发者开发低风险项目的奖励有助于实现治理最优策略，其中双链模式的去中心化、开放性、自治性、不可篡改性、匿名性是监管者实施严格监管的工具，也是保障博弈系统均衡稳定的手段，由于算法风险具有较强隐匿性的特点，通过合理设置基于区块链的激励规则并建立定期溯源与查询机制，有助于识别并窥探隐藏在智能情报分析中的算法风险细节，并不断优化治理规则。治理的最终目标是通过设置合理的策略，即满足推论2的约束条件，系统能够朝向开发者开发高质量项目、监管者严格监管的趋势演化，进而实现链上的各方利益最大化且平衡稳定。

（2）弱化第三方角色逐渐加强其对开发者的威慑作用。从推论2的演化趋势上看，弱化第三方（严格检测）的角色使演化趋于稳定的趋势，但是正是因为以区块链为治理手段的严格监管才能使第三方的角色得以弱化，这也突出了双链模式为治理手段的重要性。初始阶段以区块链规制作为约束条件鼓励第三方（严格检测）来发现智能情报分析项目中的算法风险，但随着治理不断的深入，第三方检测将为常态化，并形成与监管者深度融入的趋势，因此要逐渐发挥第三方对开发者的威慑作用，这样在一定程度上也能减少治理成本。

（3）监管者建立合理的激励规则能使治理达到最优策略。基于双链模式的智能情报分析算法风险治理中设置合理的激励规则在博弈演化中起到决定作用。监管者设定合理的奖惩机制必须符合对各方的奖惩之和大于其收益的条件，才能保障演化稳定，并非单纯加大惩罚力度就能实现算法风险治理的最优策略，因此，监管者不断调整并完善基于智能情报分析项目的奖励、惩罚规则有助于提升智能情报分析算法风险治理效果。

4   结语

本文以联盟链和私有链形成的双链模式为技术核心，从风险治理角度选取“开发者-第三方-监管者”对智能情报分析算法风险治理博弈主体成本与收益进行分析，找出三方博弈的均衡点及均衡点稳定性条件，并对基于双链模式的智能情报分析算法风险治理可持续性进行分析，以寻求最佳的算法风险治理策略，进而达到治理成本与收益的最大化目标。本文还有待于从以下方面进行加强：（1）在数据仿真方面，缺少基于实际數据进行仿真。下一步团队将按照该框架构建这种双链治理模式，建立在部分事实数据的基础上进行模拟仿真，使得研究结论更具针对性；（2）本文变量设计建立在假设的基础上，现实中难免有其他变量的存在而未纳入考虑，今后将在研究中纳入更多变量。本文在计算收益矩阵时，各方主体的收益情况是基于本文提出治理方案设计的，各方收益的增减项决定了最后演化趋势和策略平衡点。因此，未来将探究更多收益情况的平衡点和稳定条件，并以此为基础找出更多的最优演化路径。

参考文献：

［1］  数据、算法的伦理问题和治理问题应当区别对待［EB/OL］.［2023-01-01］. https：//www.tsinghua.edu.cn/info/1662/95578.htm.

［2］  Lysaght T，Lim H Y，Xafis V，et al.AI-Assisted Decision-making in Healthcare：The Application of an Ethics Framework for Big Data in Health and Research［J］.Asian Bioeth Rev，2019，11（3）：299-314.

［3］  李安.算法影响评价：算法规制的制度创新［J］.情报杂志，2021，40（3）：146-152，161.

［4］  于英香，李雨欣.“AI+档案”应用的算法风险与治理路径探析［J］.北京档案，2021（10）：5-9.

［5］  Vassilopoulou J，Kyriakidou O，zbilgin M F，et al.Scientism as illusio in HR algorithms： Towards a framework for algorithmic hygiene for bias proofing［J］.Human Resource Management Journal，2022.

［6］  宋亚辉，陈荣昌.整体治理：算法风险治理的优化路径［J］.学习与实践，2022，461（7）：35-45.

［7］  郑婷一，庞亮，靳小龙.平台经济中的数据与算法安全［J］.大数据，2022，8（4）：56-66.

［8］  张涛，马海群.智能情报分析中数据与算法风险识别模型构建研究［J］.情报学报，2022.41（8）：832-844.

［9］  付俊文，赵红.利益相关者理论综述［J］.首都经济贸易大学学报，2006（2）：16-21.

［10］  Rikken O，Janssen M，Kwee Z.Governance challenges of blockchain and decentralized autonomous organizations［J］.Information Polity，2019，24（4）：397-417.

［11］  张超.区块链的治理机制和方法研究［J］.信息安全研究，2020，6（11）：972-981.

［12］  杜宇，王宏业，胡至洵.基于区块链激励机制下区域性高校文献信息资源共建共享研究［J］.农业图书情报学报，2022，

34（4）：74-83.

［13］  贾开，薛澜.第四次工业革命与算法治理的新挑战［J］.清华管理评论，2021（4）：68-73.

［14］  邹凯，万震，曹丹，等.智慧城市信息安全监管策略的演化博弈分析［J］.现代情报，2021，41（3）：3-14.

［15］  朱立龙，荣俊美，张思意.政府奖惩机制下药品安全质量监管三方演化博弈及仿真分析［J］.中国管理科学，2021，29（11）：55-67.

作者简介：孙钦莹，女，黑龙江大学信息管理学院讲师；汪颖，女，黑龙江大学信息管理学院硕士研究生；姜磊，男，黑龙江大学信息与网络中心工程师；王辉，女，哈尔滨医科大学图书馆副研究员，张涛，男，黑龙江大学信息管理学院副教授。