加强人工智能时代网络风险的智能化防控

肖薇

快速发展的大数据、云计算、物联网、人工智能等新技术、新产业给人们生活带来便利，提高了人类福利，但同时也在悄悄地重塑社会规则跟生活方式。因此，必然会对现有法律体系带来冲击跟挑战。

空间概念的延展。正在发生的信息革命不仅极大扩展了人在物理空间的活动能力和范围，还创设出了一个无限延展的虚拟空间，使得人类可以实现即时连接的工作、娱乐、消费、社交、生活服务等。“物理—数字世界”“现实—虚拟生活”“物理—电子空间”的双重架构得以形成，深刻改变了人们的生产、生活、行为方式和社会关系，给经济发展、公共治理和社会秩序带来新机遇和新挑战。

人机共处的关系。智能化程度越来越高的甚至拟人化的机器开始逐渐走进人类的生活，人机之间不再是简单的“人与工具”的关系，而是伴有智慧化的互动情境。尽管目前还处于弱人工智能阶段，但在可见的未来，医疗机器人、陪伴机器人、导游机器人等角色会大量涌现，人机共处将成为生产生活关系的常态，这必然会引发关于主体身份、法律关系、责任体系等重大法律秩序的变革。

新价值衍生新权利。智能互联的时代，以网络为基础、以数据为资源、以算法为核心的全新的经济形态，呈爆发式增长。数据和信息成为重要的新型资产，形成了涵摄政治、经济、文化与社会发展的数字化生态，塑造了以数据和算法为基础的新型法权关系，实现对人类社会秩序的深度变革与重构。

在充分认识和拥抱科技对社会生产、生活带来的结构性、革命性影响后，应立足人工智能时代的客观要求，确立新型正义观，架构新型权利义务关系，促进权益的平衡共享发展，推动法治转型升级。

构建一体融合的法律体系。一方面按照现有法律理念和规则逻辑补充立法、扩展司法解释，以尽量适用于人工智能网络时代的新问题；另一方面充分尊重新兴权利和法益诉求，探索建立专门法律体系和司法机构，内在地反映时代行为规律、社会发展趋势和新型法律关系，共同促进科学技术与法治社会健康、有序发展。

促进执法司法的智能化发展。新时代的法律变革，要求执法司法方式进行与其相适应的转型升级。当前我们也会通过技术手段开发一些自动化系统，但它们都是按照预先设计的程序进行简单机械作业。随着人工智能的飞速发展，基于数据和算法、反映智能互联发展规律的智能化执法司法方式，会成为社会治理的一种变革趋势。一是智能辅助，自主进行的图像识别、身份识别、证据认定、资料检索、瑕疵审查、流程监督等；二是智能服务，如智能化的大数据分析、政策咨询服务、电子查询系统等；三是智能执行，如智能化电子警察、完善的社会征信系统等。

探索设置风险防控的机制。物联网、云计算、人工智能等一系列新技术除了带来更具想象力的生活方式，也天生携带着神秘感和不明确性。除了人们普遍所担心的被取代和被反控制，实际上还存在着一些更为现实的安全威胁——来自高度自动化操作和交错庞杂的网络连接的系统安全风险；来自算法歧视和算法黑箱的公平性风险；来自信息茧房、深度伪造制造的信息安全风险；来自数据收集、使用、跨境流动与隐私保护层面的风险。因此人工智能程序设计必须进行必要的事先审查，有效防止人工智能可能引发的异化影响，对于重要的高风险领域甚至提前实行法益保护。

防范文化价值的流失。互联网和大数据数字化地解构了人们的生活交往方式，智能算法替代了人类的决策。如何在数字时代保持人性？苹果公司CEO库克在麻省理工学院的一次演讲中说过：“我不担心人工智能让计算机像人类一样思考问题，我更担心的是人类像计算机那样思考问题，摒弃同情心和价值观，并且不计后果。”简而言之，这意味着科技必须与价值观相融合，才能给人类社会带来积极的进展。因此我们需要通过法律和制度设计对数据使用、算法审计、权利义务和法律责任等作出合理安排，更好地促进人工智能时代的法律变革与转型升级，塑造人类社会的美好未来。