为人工智能发展系好“安全带”

王伊

在人工智能发展过程中，要坚持安全可靠和创新发展并重，筑牢安全防护墙，应对人工智能带来的安全风险亟须未雨绸缪，从而真正擁抱人工智能发展带来的机遇。

马驹桥，北京重要的物流基地；天津港，京津冀的海上门户。每天，不计其数的货物在二者之间往来，繁忙的G2京沪高速（原京津塘高速）上车流如梭。

最近，这条高速公路上出现了特殊的货车。这些货车看上去与普通的货运重卡车并无太多差别，但车内方向盘在没有人工操作的情况下就能动起来。

货运往往需要跨越大江南北，司机更容易疲劳驾驶，危险系数更高。自动驾驶恰恰可以解决这一问题。于是，此前还是多应用于封闭园区内的无人驾驶重卡在协同发展背景下，进入了北京和天津携手开启的全国首个跨省市高速公路自动驾驶货运测试项目。伴随着这一项目的逐渐推进，高速公路自动驾驶货运的场景逐渐清晰。

过去几年，自动驾驶汽车逐渐驶上街头，但大多都跑在城市道路上，应用场景主要是无人驾驶出租车、无人配送车、无人驾驶小巴、无人清扫车等。而高速公路的试点开放，也让自动驾驶货运成为可能。

从辅助科研到艺术创作，从金融分析到自动驾驶，飞快进步的人工智能（AI）有效提升工作生活的效率和质量，助推多个行业形成新质生产力。

同时，随着演进速度加快、赋能范围变广和影响程度加深，人工智能的负面影响和潜在风险也警示要推动这种前沿技术安全有序发展。如何应对人工智能可能带来的安全问题成为各界关注点，也成为网络安全工作的下一个着力点。

人工智能产业蓬勃发展

近年来，我国积极顺应新一代人工智能的发展潮流，政策及时精准发力，研发能力大幅提升，产业生态蓬勃发展，技术赋能效应凸显，在人工智能这一科技新赛道，我国处在世界第一梯队。

美国斯坦福大学发布的《2023年人工智能指数报告》显示，我国人工智能领域发表论文数量居首位，在发表论文总量世界前十的机构中，我国共占9席。高水平论文被引用量与美国的差距进一步缩小，腾讯、阿里巴巴和华为等公司已经成为人工智能研究领域排名进入世界前十的公司。

2023年，我国智能芯片、开发框架、通用大模型等创新成果不断涌现：华为、寒武纪、景嘉微、壁仞科技、摩尔线程、燧原科技等芯片公司推出了不同设计架构、不同应用场景的AI推理和训练任务的芯片加速卡；昇思MindSpore、飞桨Paddle-Paddle等国产人工智能开发框架逐步成长，昇思开源社区下载量已突破474万，飞桨开发者已超过800万；百度文心一言、阿里云通义千问、华为盘古、科大讯飞星火等人工智能大模型持续迭代升级，充分发挥溢出带动性强的“头雁效应”。

我国人工智能已具备深入赋能的能力。2023年，人工智能核心产业规模接近5800亿元，核心企业数量4482家，企业平均增速约为22%，这一增速远超许多传统产业，显现出人工智能产业的强劲增长势头，同时产业链覆盖芯片、算法、数据、平台、应用等上下游关键环节，细分领域不断突破。

随着人工智能技术的广泛应用，“人工智能+”成为推动新质生产力发展的重要引擎。

随着技术的不断进步和创新，人工智能正逐渐渗透到各个领域，产业规模不断增长。中商产业研究院发布的《2022-2027年中国人工智能产业发展趋势分析及投资风险预测报告》显示，2022年产业规模达到5080亿元，同比增长18%。中商产业研究院分析师预测，2024年产业规模将增长至6530亿元。

未来在“人工智能+”的推动下，新一代信息、生物、能源、材料等领域颠覆性技术不断涌现，呈现深度交叉融合、高度复杂和多点突破发展态势。支撑社会发展的基础设施也在新技术的作用下进一步升级，形成数字化智能化的新型基础设施。数据要素因其独有的低边际成本、强渗透性和融合性等特点，可推动生产工具和设备、生产方式、资源配置方式不断优化升级。

潜藏安全风险引担忧

技术是一把双刃剑。人工智能日益渗入日常生活、赋能各行各业的同时，也存在一些隐忧。

来自内蒙古鄂尔多斯的李女士某天突然在微信上收到了老同学“贾某”的好友申请。其后双方在聊天过程中，“贾某”发来视频通话邀请，尽管李女士发现视频中的画面很模糊，声音也很卡顿，但确实看到了“老同学”的样貌，最终将40万元转到了对方提供的银行账号上。所幸李女士发现事有蹊跷后报警，警方启动了紧急止付机制，及时将被骗的钱款拦截。

李女士遭遇的人工智能制造“老同学”诈骗案并非个例。近年来，随着人工智能技术的发展和应用，网络诈骗也升级了新手法，不法分子频频利用深度伪造等技术通过人工智能换脸、人工智能变声实施“精准”诈骗。

“AI换脸”是指通过使用AI技术合成虚假的视频或图像，从而让人们误认为某个事件实际上发生了。近年来，“AI换脸”技术已经进化到了一个令人惊讶的程度，它可以瞒过我们肉眼，欺骗我们的大脑，模仿任何人的面容，产生完美的人工影像，这让人感到厌恶和不安。诈骗分子可以利用这种技术来欺骗受害者，比如“AI换脸”破解了实体面试的验证机制，影响受害者的面试结果。

类似的还有“AI语音合成诈骗”。这种诈骗手法是通过模拟受害者的真实声音和语音特征，进行欺诈，实施诈骗。诈骗分子通过利用AI技术生成人工语音，瞒过了受害者，取得了他们的信任，并以此盗取了他们的财产、身份信息等。

中国社会科学院大学数字中国研究院发布的《数字时代安全科技价值报告》将AI安全风险分为3类：第一类是人工智能系统内部所产生的“内生安全问题”，如“数据有毒”“价值对齐”“决策黑盒”等问题；第二类是“衍生安全问题”，比如生成假新闻、深度合成伪造进行诈骗或钓鱼攻击，涉及隐私保护、国家安全、伦理道德等与社会治理有关的挑战性问题；第三类是“外生安全问题”，即面向人工智能系统的外部网络攻击对抗。

在中国工程院院士吴世忠看来，人工智能的安全问题，既有近忧也有远虑。

“从‘近忧看，AI大模型落地应用主要面临的安全風险有生成不当内容、产生隐私问题、引发技术攻击等。”在“远虑”方面，技术发展失速、伦理规范和道德约束的缺乏等是吴世忠主要的担忧。

总体而言，人工智能发展带来的网络安全新挑战不容忽视，既有技术层面的攻防对抗，也有系统自身的脆弱性，更有深层次的伦理困境。

如何筑牢人工智能安全防线，维护人工智能健康发展，事关国家安全、经济运行和社会稳定大局。

完善人工智能领域法律建设

针对人工智能技术发展可能出现的问题，制定规则以防患于未然。这是我国促进数字经济发展的必要之举，也是维护国家网络安全的具体体现。

我国对人工智能安全高度重视，逐步完善相关政策法规。近年来，关于网络安全的法律法规、标准规范，包括各种团体标准、地方政策不断出台。

2017年6月1日，《中华人民共和国网络安全法》（简称“网络安全法”）正式实施。作为我国互联网领域第一部专门法律，网络安全法是我国网络空间法制建设的重要里程碑。以此为框架，数据安全法、个人信息保护法等一系列法律法规相继出台。

随着时代生产要素的演进，当前人工智能时代的本质在于算法和数据。算法带来飞速便利的同时也带来了诸如大数据杀熟、算法黑箱、信息茧房、算法操纵等新的社会风险问题。如果算法是一匹“脱缰的野马”该怎么办？

继数据安全法、个人信息保护法等法律法规概括性地对数据新技术的开发应用、自动化决策等的公平公正性进行总体性规范后，2022年3月1日，国家网信办等4部门联合发布的《互联网信息服务算法推荐管理规定》（简称《规定》）正式施行。《规定》明确，算法推荐服务提供者不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型；不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

相比于此前法律法规层面对于算法监管的总体、概括性要求，《规定》以互联网信息服务为基础，从算法的公平公正及信息内容角度对算法推荐服务提出了各项具体细化的要求，反映了有关部门对于数字产业监管愈发深入，已从对于算法问题所凸显的法律价值层面的监管渗透到对于算法应用过程的技术性监管。

2023年以来，与生成式人工智能相关的各种新技术不断迭代，相关场景应用不断丰富。如何不断提升生成式人工智能技术的安全性、可靠性、可控性、公平性需要倍加关注。

一些专家判断，生成式人工智能将引发新一轮人工智能革命，人类与机器、技术与产业、虚拟与现实之间的关系正在发生广泛而深刻的变化，技术创新也给人类社会文明秩序带来了挑战。

对此，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局公布的《生成式人工智能服务管理暂行办法》（简称《办法》）于2023年8月15日起正式实施。这是我国首个针对生成式人工智能产业的规范性政策。《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

业界人士认为，在人工智能发展过程中，要坚持安全可靠和创新发展并重，筑牢安全防护墙，应对人工智能带来的安全风险亟须未雨绸缪，从而真正拥抱人工智能发展带来的机遇。

用AI解决AI带来的安全问题

人工智能研究具有高度技术性和专业性的特点，各分支领域各不相通，因而涉及范围极广。要打败人工智能带来的不安全因素，就要“魔高一尺、道高一丈”。

中国工程院院士邬贺铨认为，以人工智能为代表的数字技术将重塑数字内容生产方式和消费模式，通用人工智能将实现知识与数据双轮驱动，把智脑加进去，未来单个模型有望通过迁移学习支持多种业务，并能精准选择节点，有效降低功耗和成本。数字化将逐渐走向智能化高峰，开启人工智能时代。同时，数字安全也在不断发展演进，传统安全防护的手段亟待升级。

对于人工智能的模型、算法、数据、隐私及应用等存在的风险和安全威胁，强化基础理论研究和先进安全技术研究，推动关键技术的应用，形成人工智能安全管理的技术体系，是有效控制人工智能风险的必要措施。

IEEE标准协会新标准立项委员会副主席兼IEEE数字金融与经济标准委员会主席林道庄曾表示，虽然AI时代，企业面临着更大的网络安全和数据安全的挑战，但是在这个过程中，企业也可以充分应用AI的能力进行预警、防御。“通过AI自动学习识别，预测一些潜在的风险，并将这些风险自动隔离起来。”林道庄如是说，“通过AI的赋能，让企业级防火墙具备更强的应变能力。”

2024年全国两会期间，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东建议，大力探索“AI+安全”创新应用，抢占国家安全的人工智能战略制高点，提高我国应对网络空间安全风险与不确定性的能力，护航中国式现代化行稳致远。

在齐向东看来，解决AI带来的安全问题，只能用AI来解决。为此，他建议抓住“三个关键”：从供给侧看，开展联合创新，围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破；从需求侧看，强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用，建议像支持新能源汽车的发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；从人才侧看，壮大“AI+安全”领域的实战型、复合型人才队伍。

事实上，随着大语言模型的快速发展，一些市场机构近年来已经开始将大模型与网络安全相结合，提升网络威胁、系统漏洞等方面防护的效率，降低人工成本。

2023年9月，360智脑大模型面向公众开放。据了解，该模型是全国首个原生安全大模型。360集团首席科学家兼360数字安全集团CTO潘剑锋介绍，360安全大模型正是基于通用大模型360智脑，通过蒸馏、继续预训练、有监督精调等技术手段训练而产出，将作为“安全副手”走进企业真实安全运营场景。

中国电信翼支付系统为了应对新兴的“AI换脸”欺诈方式，自主研发出金融级KYC证件识别产品“侦图”平台，助力支付平台健全AI换脸欺诈风险侦测体系，有力保障了用户支付安全，并受到了金融领域的广泛关注。

虽然人工智能的发展背景下蕴含着各种挑战，但同时也孕育着巨大的机遇。通过积极保护数据隐私，灵活适应变革，我们可以更加充分地发挥人工智能的优势，以更加积极的态度来迎接未来发展所带来的机遇。