以科技向善引领新兴数字科技治理

张钦坤 胡晓萌

新兴数字科技的浪潮已经来到，不仅需要洞悉和把握科技发展的趋势，抓住此次科技浪潮提升综合国力和国内科技企业的国际竞争力，也需要积极应对新兴数字科技的技术风险，以科技向善为核心建立内外兼修、创新和治理统一的科技伦理治理体系。

2022年2月，习近平总书记在署名文章《不断做强做优做大我国数字经济》中强调：“发展数字经济意义重大，是把握新一轮科技革命和产业变革新机遇的战略选择。”数字技术、数字经济已经成为当今世界科技革命和产业变革的先机，是新一轮国际竞争重点领域。抓住先机、抢占未来发展制高点，不仅要掌握新兴数字科技的发展趋势，也要在数字科技治理上抢占规则制定的话语权。以科技向善引领新兴数字科技治理，能够有效防控科技伦理风险，不断推动科技向善、造福人类，展示负责任的大国形象和企业形象。

一、新兴数字科技发展趋势

根据腾讯研究院的梳理和总结，新兴数字科技有三大技术集群，即连接、交互和计算。新兴数字科技的创新发展主要是围绕这三大技术集群展开的，并且呈现网络化、融合化与智能化的发展趋势。这种发展趋势会带来数字世界和物理世界的进一步融合，朝着数字世界的实体化和物理世界的数字化两个方向交互融合。

（一）连接技术促进万物的网络化

连接主要就是把数字世界、现实世界中的各类要素进行连接，如互联网实现了人与人的连接，物联网实现了人与物、物与物的连接。5G和6G通信、区块链等都属于连接的技术集群。连接技术集群不仅深刻改变了人类在消费互联网领域的生产生活方式，也在制造业、农业等各类产业领域快速落地发展，更好地实现数字经济和实体经济更为广泛、深度、紧密地连接。

目前智慧城市、车联网、智能家居、智慧农业等业态和模式已经让人们意识到万物互联的世界正在到来。以人工智能的农业应用为例，目前基于人工智能的农业种植系统，在受控环境中可以大幅度提升农业产能。智能种植系统能根据农业专家经验、农业环境数据、虫害信息和作物的图像数据等建立智能模型系统，模拟作物的生长情况，最后在实际种植过程中实现对作物生长的控制。2018年首届人工智能国际智慧温室种植比赛中，腾讯iGOW智能种植系统种植的黄瓜平均产量达到24公斤/平方米/季，是国内平均水平的6倍。除农业领域外，在人工智能的制造业应用中，越来越多的机器与机器连接、人与机器连接，大大提升了生产效率、降低了生产成本。

（二）交互技术打造虚实的融合化

交互的技术集群是让数字世界和现实世界更好地互动起来，力促数字世界中的体验更加接近现实世界，同时在现实世界中更好地实现数字世界的便捷性。从人类获取信息的各类感官来说，过去信息技术实现的交互，主要是以2D画面呈现的视觉，3D环境下如何实现更好的交互体验，怎么能够让人们在数字世界中具有与现实世界相同的感知和体验，是未来交互技术集群所要解决的问题，同时也是未来交互技术集群的发展方向。这类技术包括虚拟现实、增强现实、混合现实、3D和4D打印、生物传感及脑机接口等，交互方式也包括全息交互、通感互联、智能交互等。

交互技术的发展有赖于硬件设备的突破，目前动态捕捉技术、3D建模技术、终端硬件产品等在技术上不断成熟，价格上持续下降，加速了人们对未来新型交互模式的期待，并催生了元宇宙理念的落地。2021年可以说是元宇宙概念大火的一年，META在其关于元宇宙的介绍性视频中，展现了其是如何利用VR、AR、MR等技术手段组合，颠覆性地变革了交互方式，创造了与现实世界映射、交互与融合的虚拟世界。当然，元宇宙并非一个独立的完整概念，更像是类似于移动互联网、智慧城市等集合式产业概念，因此未来肯定会有更多种的新型交互方式出现，不断推动数实融合的演进，我们可以拭目以待。

脑机接口也是数字世界和现实世界交互融合的一项关键技术，它能够实现人通过意念去操纵物体。人体的大脑皮层发出指令时，产生的生物电信号被植入大脑的芯片或者贴在人体头皮的電极片捕捉并进行放大和处理。芯片可以对这些电信号进行智能运算分析，获得具体的指令，然后把指令编码成机器可读的语言，并最终实现对外接机器的控制。可以想象到，未来会有越来越多的人机融合技术产生和应用。

（三）计算技术推动科技的智能化

计算技术集群是连接和交互技术集群的基础性技术底座。大数据、云计算、人工智能等已经成为数字社会的基础设施，支撑着各类数字技术产品和数字设施的正常运行。计算技术集群的三个基本要素是数据、算力和算法，其中数据是新生产资料，算力是新生产力，算法是新生产关系，它们共同推动着数字技术集群的快速演进。云计算、边缘计算、量子计算等提供了更为便捷、廉价的算力，互联网、大数据提供了海量的数据，算法拥有越来越高的自主性，使计算更智能化、使技术更自动化。

在计算技术集群的发展上，继数据成为新型生产要素之后，我国启动“东数西算”工程，完成全国一体化大数据中心体系建设的总体布局。2022年2月，国家发改委等四部门联合通知，同意在京津冀、长三角、粤港澳大湾区、成渝、内蒙古、贵州、甘肃、宁夏等8地启动建设国家算力枢纽节点，并规划了10个国家数据中心集群。算力已经呈现出取代热力、电力成为未来数字经济发展新动能的趋势，也成为国际数字科技核心竞争力的关键要素。我国《新一代人工智能发展规划》明确指出，我国在核心算法上与发达国家存在较大差距，围绕提升我国人工智能国际竞争力的迫切需求，新一代人工智能关键共性技术的研发部署要以算法为核心，加强引领人工智能算法的数据基础理论研究。在此背景下，算法创新成为建设网络强国的有力支撑，成为贯彻新发展理念的重要实践。目前，全球已有40多个国家和地区把数字化、网络化、智能化技术发展上升为国家或地区战略。未来谁掌握先进的算力、积累数据资源多、拥有高智能水平的算法能力，谁就掌握了发展的主动权。

二、新兴数字科技面临的伦理困境

新兴数字科技深刻地变革了传统物理世界和现实社会中人与人、人与社会以及人与自然的关系，也因此引发了一系列伦理问题和争议，涉及人的基本价值和权益。由于新兴数字科技的技术特征，并且在人类社会中的介入越来越广泛和深入，这些伦理问题呈现出传播迅速、问题隐蔽、持续发酵、影响深远等特征，对人类社会的平稳秩序和价值体系造成了巨大冲击。

（一）新兴数字科技的伦理问题

伦理关注人类自身的价值，数字科技的伦理问题通常表现为技术对人类自身价值的侵害，如自由与自主、生命与尊严、人性与权利、安全与环境、平等与公正、责任与信任等。下面以人工智能、自动驾驶、元宇宙等为例进行伦理问题的梳理和说明。

1.算法歧视和不公平问题

算法歧视是人工智能伦理问题中较为常见且易发生的问题。如2015年谷歌Photos软件的人脸识别功能曾经把黑人标记为大猩猩；2016年ProPublica调查发现它的犯罪风险评估算法系统性地歧视了黑人；2018年5月，有人发现Facebook的广告算法能够帮助广告主排除大龄劳动者，造成就业不公平。莱普利·普鲁诺（Lepri Bruno）将算法歧视分为三类：（1）社会中预先就有的偏见导致的算法歧视；（2）在使用算法决策过程导致的算法歧视；（3）在算法决策中各类数据所设置的权重不同，从而有可能导致间接的歧视行为。算法歧视会固化加深社会原有的歧视，导致更为广泛的社会不公平，也会产生新形式的不公平问题。新兴数字科技塑造的未来世界，依然是以真实世界的人为行为主体，人类社会生活的固有问题依然会延续。

2.隐私泄露、侵犯问题

数据是数字社会的生产要素，人工智能等数字科技都依赖数据的喂养。新兴数字科技发展对数据的巨大需求给隐私保护带来了巨大挑战，第一是数据源不合规，即使用的数据是非法采集的，甚至是数据黑产；第二是对知情同意规则提出挑战，物联网、人工智能等技术的广泛应用，使数据收集变得无时无刻、无处不在。例如自动驾驶，数据采集车在道路上行驶，很难说获得道路上所有人的知情同意；第三是数据的使用可能存在违法违规或者违约的情况，比如人工智能算法对数据的使用超出了用户授权的范围，或二次利用等一系列可能存在的情况；第四是在一些特殊场景中，数据使用可能会造成一些负面的影响。例如Facebook数据泄露事件，由于它泄露的数据被剑桥分析不当使用，影响了美国大选，造成了很严重的影响。

3.算法黑箱与信任问题

个性化推荐、精准广告、人脸识别等人工智能算法应用经常因为算法黑箱问题引发争议。而以深度学习为核心的人工智能算法在解释性上存在客观的难度。用户难以理解算法的模型和逻辑。算法模型的输出结果难以解释。国内外人工智能治理，都提出让算法具有可解释性、更加透明，从而建立起政府、公众对算法的信任度。在未来人机交互的智能社会中，打开算法黑箱，建立算法信任是不可避免并且亟须解决的问题。

4.安全与滥用问题

以深度学习为核心的人工智能存在弱鲁棒性等问题，在面临攻击时极其容易引发安全事故。现在网络安全问题随着人工智能的广泛应用，出现了新型的攻击类型，如针对算法的数据下毒、对抗样本攻击、标签操纵、算法后门攻击、模型窃取攻击、模型反馈误导、数据逆向还原、成员推理攻击等。这些安全问题可能会直接导致严重的生命财产损失。这需要未来人工智能系统能够做得更加的安全，才能够更好地保障消费者的安全权益。人工智能的滥用问题也很普遍，已经被国家纳入重点监管和治理范围。2021年清朗专项行动重点治理算法滥用行为，包括深度合成技术用于生物伪造、深度伪造人脸或者音视频从事诈骗活动等，严厉打击危害个人生命财产安全的违法行为。

5.自主性与问责问题

新兴数字技术以智能算法为核心，朝着智能化的方向发展而具有越来越高的自主性。但是，这也导致了人们对数字技术的盲目信任，技术越来越高的自主性削弱了人的自主性。第一例自动驾驶汽车碰撞行人致死的案例就说明了技术对人的自由与自主价值的侵蚀。2018年Uber的自动驾驶测试员在进行自动驾驶汽车的真实夜间测试时，由于盲目信任自动驾驶汽车，没有正常观测路况和驾驶，而是在低头刷手机视频。由于光线较暗，自动驾驶测试车在面临一个行人过马路时无法及时获取数据，没能做出避让或者刹车动作，最终撞向行人导致其死亡。后来特斯拉也发生了相似的事故案例，特斯拉将产品名称从“自动驾驶系统”改成了“自动辅助驾驶系统”，并且加入了对驾驶员双手脱离方向盘的警示提醒，以建立更为合理的人机交互的信任关系。此外，自动驾驶的事故责任认定和追责也充满争议，面临自动驾驶系统设计者、汽车生产商、人类驾驶员等三方谁要承担责任、如何定责的困境。

（二）新兴数字科技伦理问题的特征

数字科技的用户群体大、黑箱属性等多方面因素，导致新兴数字科技的伦理问题具有技术性强，冲击力大、快速形成广泛影响，以及问题隐蔽且影响深远等特征。

1.技术性强

数字社会以数字科技作为基础设施，塑造了人们的生产生活。人们在数字社会中生活，就要与智能系统、机器以及算法等有大量的交互。但是由于算法黑箱等因素导致的技术性过强，数字科技已经对大多数人形成了认知门槛。新一代人工智能的核心就是深度学习算法，算法也是未来智能化的技术保障，然而，算法具有黑箱属性，即人们只能知道输入数据和输出结果，而数据处理的过程甚至是专家也无法完全理解。随着算法在人类社会的深度嵌入，弗兰克·帕斯奎尔（Frank Pasquale）认为人类将迎来黑箱社会。这意味着歧视、偏见、安全等伦理问题也会隐藏在黑箱之中。甚至由于对算法准确、高效、科学的标榜，人们对算法产生了盲目崇拜，对算法的输出结果不假反思、盲目信任，而使问题更加难以被发现。

由于算法黑箱等问题，人们对数字科技背后的复杂技术逻辑缺乏认知，无法及时意识到很多技术伦理问题的存在，更没有能力采取主动措施保护自身权益，需要越来越多地依赖于熟悉计算机技术的专家和管理者，而这方面的人才储备还相当不足。20世纪50、60年代，欧洲学界在讨论科技创新产生的社会、政治问题时提出了技术专家治国论（Technocracy）的理论观点，即当社会运行以越来越复杂的技术为支撑时，技术专家就存在一定的合理性统治或管理社会。2020年欧盟数据保护条例（GDPR）实施2周年之际，因为缺乏大量的专业技术人员和相应的财政预算来支撑用户大量的投诉处理工作，很多国家数据保护监管机构不堪重负。而算法歧視等伦理问题的治理也越来越依赖于专业技术人员。

2.冲击力大，快速形成广泛影响

未来万物互联、虚实结合的数字世界中，人与人、人与物、物与物之间的信息传递更加紧密迅速，因此伦理问题也随之传播和扩散得更快。以深度合成技术（Deep Synthesis）为例，它可以通过生成对抗网络进行图像、语音的合成。现在流行的AI换脸、语音合成、虚拟合成主播等都是深度合成技术的具体应用。2018年5月，网上流传了一个特朗普嘲讽比利时留在巴黎气候协议的深度合成视频。该视频在社交媒体上被快速分享、大规模传播，有人将该视频认定为操纵影响大选的手段。这些被蓄意制造、具有误导性的视频或语音能够歪曲民主话语，操纵选举，削弱社会信任，加剧社会分裂，破坏公共安全，对包括选举候选人在内的个人的声誉造成难以修复的损害。因此，《纽约时报》认为深度合成是对民主政治的新兴长期威胁。在后真相时代，人们对真相的认知逐渐从客观事实转移到情感和个人信仰。这也为别有用心的深度伪造视频语音提供了快速传播的土壤。深度合成技术滥用的危害之所以这么大，就是因为可以借助媒体的快速传播，形成巨大冲击，快速造成广泛影响。

3.隐蔽、影响深远

数字科技与人类社会深度融合，社会演变会受到技术形态的影响。英国技术哲学家大卫·科林格里奇（David Collingridge）曾经提出过著名的科林格里奇困境，指出了人们在预见和防范技术长远发展时所面临的一个双重约束困境（double-bind problem），首先是人们很难在技术生命周期的早期对一项技术的社会后果进行预见；然后是当不好的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于难以对其加以调控。

例如，短视频已经成为人们日常生活中娱乐、信息获取、表达自我以及内容消费的主要方式。截至2021年12月，短视频用户规模为9.34亿，占网民整体的90.5%，人均单日使用时长为125分钟，占用了网民上网时长的一半以上，是名副其实的“Time-killer”。短视频的用户群体中，青少年由于尚未养成较好的自控力与对世界的稳定认知，很容易被短视频内容所影响，造成焦虑心理、影响自我认知等问题；中老年人因为日常娱乐生活较为单调，更容易沉溺在短视频之中。2018年英国索尔福德大学玛丽亚·帕纳吉奥蒂（Maria Panagiotidi）在研究中表明，成年人注意力缺陷多动障碍（ADHD）症状与过度使用互联网存在正相关关系。而ADHD已经被证明会对个人内驱力和职业发展、情绪稳定和心理健康、执行力和判断能力等造成危害。随着元宇宙的到来，网络成瘾、注意力缺陷、网络焦虑、自我认知缺陷等问题是不是会更为加剧？

三、科技向善：内外兼修的科技伦理治理

科技是一种能力，向善是一种选择。科技向善代表着创新和治理的平衡和统一，以最大彰显科技造福人类生活的使命。未来新兴数字科技的发展会逐渐走进“深水区”。建立起内外兼修的科技伦理治理体系，将成为未来数字科技创新进入深水区后可以被摸到的石头。同时，面对日益复杂的全球竞争格局，重视和发展科技伦理治理不仅能够保障技术顺利研发应用，也能使国家和企业在科技竞争中脱颖而出，展现负责任的形象。

1.以科技伦理治理保障和促进新兴数字科技创新

我国目前已经初步建立了法律和伦理并重、创新和治理统一的科技伦理治理体系。2022年3月，中共中央办公厅、国务院办公厅印发《加强科技伦理治理的意见》明确指出，科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。

以“科技向善”为中心的科技伦理治理体系应同时融合法律、技术和伦理三个维度，按照“扎牢红线、放开上线、提高基线”的思路进行治理。“扎牢红线”即通过法律规定技术应用的边界，对损害国家安全和社会公共利益的行为严厉禁止，如侵犯个人隐私、安全问题、算法歧视中的大数据杀熟等。“放开上线”要求进行包容审慎、敏捷灵活、鼓励创新等创新性立法和监管策略，为新兴数字科技创造更多的创新空间。“提高基线”便是秉承科技向善的理念，通过建立技术标准、伦理框架、科技伦理审查、从业人员和社会公众的科技伦理教育和意识提升等多种方式，确保新兴数字科技负责任的创新发展。

2.以向善的技术手段解决技术问题

科技向善不仅要求技术本身是善的、合乎伦理的，而且希望技术创新可以促进社会的公平、人类的福祉和利益。例如人工智能发展中曾遇到数据利用涉嫌侵权隐私的问题，业界随后提出了隐私设计理念，即将隐私保护纳入整个设计和研发过程。联邦计算便是隐私设计的一个典型案例，它在数据不出本地的情况下实现了联合训练人工智能模型，有效地保护了数据隐私和信息安全。在隐私设计之后，伦理设计的理念和实践也在发展之中。伦理设计要求将伦理价值植入到技术的研发设计过程中。为了解决人工智能可解释性、公平和安全等问题，国内外很多科技企业都在积极开发伦理工具，如谷歌开发的可解释性人工智能工具箱、IBM开发的人工智能公平的伦理工具等。

与此同时，类似深度合成等技术也可以向善地创新发展，帮助建立科学有效、无偏见的训练数据集供人工智能训练使用。在医疗领域，深度合成技术合成医疗影像数据，为人工智能诊疗系统提供了必需的训练数据，有效地解决了隐私保护、数据不足问题。无偏见训练数据集则能满足人工智能对训练数据集无误性、准确性、完整性、相关性、代表性、时新性、来源合法性、无歧视性等多种要求，确保人工智能本身不出现科技伦理问题。

3.建立科技向善和负责任的科技创新制度和文化

此前国内有学者指出，我国政府在算法监管方面要求强化平台责任，但是也造成了企业自律机制不足的问题，即强监管弱自律。因此，围绕科技向善建立的科技伦理治理强调内功修炼，建立自律的创新制度和文化。内部建设主要以科技伦理委员会为载体，外部建设有第三方伦理认证的探索性尝试。

我国《关于加强科技伦理治理的意见》《科学技术进步法》《关于加强互联网信息服务算法综合治理的指导意见》等政策法规文件都提出强化科技伦理意识，建立科技伦理（审查）委员会和科技伦理审查制度等要求。科技伦理委员会是建立科技向善和负责任的科技创新文化的有效载体，其主要职能如下：

（1）伦理决策与咨询：主要为机构战略目标和方向、政策制定与对外合作等进行伦理决策和咨询，使其满足社会价值需求和人的普遍道德情感。机构应通过伦理决策和咨询辨认价值观和行动之间的缺口，并制订使之弥合的详细计划来优化决策。

（2）伦理评估与审查：主要依据伦理原则规范、政策法规，对技术研发和产品引用进行事前评估审批、事中监督和事后跟踪的全过程伦理约束作用。伦理评估与审查是试图帮助机构在新兴数字科技的技术设计、研发和运营中采取符合那些价值观的行动。

（3）伦理教育与文化建设：伦理约束一般是内化的，通常通过教育手段实现，以期其成为一种内在的引导和制约力量，即内化于心，外化于行。伦理教育是科技伦理治理的重要组成部分，它可以有效地使科技创新从业人员、企业合规团队等相关人员能够通过人与社会的敏感价值体系，建立内外兼修的个人认知、行为规范和职业伦理素养，也可以很好地帮助从业人员建立伦理风险识别的能力。

此外，来自第三方的权威伦理认证，也是帮助机构建立科技向善和负责任的科技创新制度和文化的有效举措。目前，人工智能伦理标准认证通过建立一套系统的伦理标准，对符合标准的人工智能产品、服务或系统进行鉴定认证，作为确保人工智能合乎伦理的有效尝试已经获得了越来越多的认可，同时国内外也已经有了越来越多的尝试。2021年11月，维也纳的智慧城市公共服务提供商Wiener Stadtwerke的电子邮件智能分类系统ESC通过了包含43条伦理标准的IEEE CertifAIEd认证，成为全球第一个获得IEEE伦理认证标志的机构。IEEE专家小组认为，这是合乎伦理地使用人工智能技术的开始，也为其他企业及产品应用以负责任、以人为本的方式开发使用人工智能系统树立了先例。

四、结语

新兴数字科技的浪潮已经来到，不仅需要洞悉和把握科技发展的趋势，抓住此次科技浪潮提升综合国力和国内科技企业的国际竞争力，也需要积极应对新兴数字科技的技术风险，以科技向善为核心建立内外兼修、创新和治理统一的科技伦理治理体系。积极推动具有中国特色的科技伦理治理，也是在全球数字科技竞争和数字科技治理中积极抢占规则制定的话语权，贡献中国智慧和中国方案。

（張钦坤为腾讯研究院秘书长，胡晓萌为腾讯研究院博士后）