网络安全课程教学改革——人工智能技术在网络安全防护中的利与弊辩论

李慧，帅小应，钱进，季宁依

（泰州学院计算机科学与技术学院，江苏泰州 225300）

网络安全课程是信息类专业学生的必修课程之一。由于它的技术更新周期短、覆盖的知识面融合了大量前期课程的专业知识、实验设备更新不及时等问题，一直是令学生望而生畏的课程之一，导致教学效果也不明显[1]。为了改善教学现状，泰州学院计算机科学与技术学院在网络安全课程中引入辩论的模式，以激发学生的兴趣、开拓学生的思维[2-3]。人工智能技术可以加快数据流动、提高数据赋能，是促进我国社会经济增长、开拓市场、提高国家竞争力的核心驱动之一。尤其是受人类大脑结构和功能启发而诞生的深度学习，极大地促进了网络安全防护技术的发展，同时在网络安全防护中带来的威胁也越来越受到关注[4]。本次网络安全课程的辩论赛以“人工智能在网络安全防护中的利与弊”为主题，结合了网络安全和人工智能两门课程的专业内容，同时人工智能技术也是网络安全防护实践中的支撑技术之一。

1 人工智能在网络安全防护中的适用性

人工智能技术在网络安全防护领域实现了很大的突破，它能够在网络安全防护领域实现数据赋能、产生价值的理由主要包括以下几个方面：

1）处理大数据的能力

网络安全分析对象包含整个系统的日常安全日志数据、网络流量等，人工从这海量的数据中提取有效信息的效率极低。而人工智能中的机器学习、深度学习等方法有海量的训练容量，可以多视角、全方面对数据资源进行清洗、分析，筛选有用的信息，并且训练样本越大数据分析得到的结果越接近真实结果。

2）区别“普遍和特殊”的能力

网络安全防护的前提是合理界定普遍行为和特殊行为。一方面是通过大量的普遍行为提取出相应的规则，用这些规则来区别特殊行为，从而识别出攻击行为；另一方面是通过对特殊行为进行分析总结一定的规律，从而在大量资源中甄别攻击行为，这也被称为基于签名的判断机制。人工智能中的学习模型的构建就是要实现通过基准数据集完成特征的提取，这与上述网络安全中的普遍和特殊基准不谋而合。异常行为检测、垃圾邮件过滤、恶意软件检测都是人工智能技术在上述基准上在网络安全防护实现的产物。

3）处理模糊信息的能力

人工智能作为顺应时代的产物，不仅可以快速对已有的数据进行总结，还具有预测未来趋势的功能。虽然这个预测函数是从模糊逻辑推导出结果的，但一般不需要特别准确的数据支持。因为在现实的网络安全环境中存在大量不确定甚至不准确的模糊信息，将不同设备、层次的模糊信息进行关联性分析，推导出可扩展的处理规则，并应用到网络安全防护水平的提高。

4）学习能力和处理非线性的能力

随着用户的不断增加、网络结构的不断扩展，当前网络安全背后的复杂程度是不可估量的，目前掌握的信息都较为简单、浅显的。高层次的内容往往是通过对低层次内容的深入学习、研究、解读和推理获得的[5]。而人工智能在当前的环境中不断学习，可以进一步深入掌握网络安全的高层次信息、提高网络安全防护的能力。

网络自身的拓扑结构导致了它是非线性控制的对象。人工智能的非线性能力主要是通过人类对非线性函数的正确处理获得的。人工智能技术的发展使机器不仅能有传统的技术操作能力，也有人类可以解决非线性问题的优势，从而改善了网络的安全防护现状。

5）自适应能力

人工智能技术在网络安全的实现过程是一个双方互相博弈、共同进步的结果。在安全检测过程中应用了支持向量机(SVM)的技术并调整了SVM技术来检测一些攻击。很快通过学习了解防御者的模型并相应调整自身行为来阻止检测。随后通过对抗性支持向量机技术能够了解攻击者正在做哪些行为并进行自我调整，以便它可以检测到攻击。随着时间的推移，就变成了攻击者和防御者之间博弈，并且促进技术的不断发展。

2 人工智能给网络安全防护带来的利与弊

本次针对网络安全中人工智能的利与弊组织了一场别开生面的辩论会，围绕人工智能技术给网络安全防护带来的作用，两方队伍的学生针对自己的观点做了大量的前期文献调研，展开了激烈的角逐提供了大量的精彩论点。他们用直白的、口语化的语言展示了这两门最新的科学技术的思辨关系。这里对其中的主要观点进行了总结。

正方：人工智能给网络安全防护带来了更有效的作用

1）自动恶意软件防御；

2）代码检测与安全运维；

3）感知上下文的行为分析；

4）安全态势在线监控及预测；

5）漏洞识别及修复；

6）实时流数据分析以检测恶意内部人员。

总体来说，人工智能技术充分发挥了自身的特点，在网络安全防护领域将以往的防护经验、现有的防护技术和大数据学习到的防护知识充分整合，实现一个自动检测、快速响应、实时监控、提前预测的智能化安全防护系统。在数字安全、物理安全和政治安全等各个网络安全领域都带来了有效的安全防护措施。数字安全领域包括上述利用人工智能系统实施各种检测和防御措施；物理安全领域包括人工智能技术带来的自动驾驶和无人机被用来对路况、实时环境的检测和控制；政治安全领域包括剖析当前的安全态势并有针对性地进行宣传活动，为国家安全、社会秩序、市场有序竞争、社会公众的个人利益都带来了极大的便利和保障。

反方：人工智能给网络安全防护带来了更多的安全威胁

1）隐私数据泄露；

2）数据伪造与篡改；

3）定制化网络钓鱼（金融欺诈、网络恐怖主义、网络勒索等）；

4）智能化漏洞搜索、基于漏洞的定制攻击；

5）自主化、规模化地拒绝服务攻击；

6）未来人工智能将脱离人类控制。

综上所述，可以将人工智能给网络安全领域带来的威胁总结为威胁格局的三个变化：现有威胁的扩大、新威胁的出现和威胁的典型特征的改变[6]。通过人工智能系统的可扩展使用，任务中涉及人工的成本极大地降低了。然后，犯罪者可以使用低成本技术（例如大规模鱼叉式网络钓鱼）广泛攻击更多目标，这是现有威胁的扩大。新的威胁也可能出现以完成人们以往无法完成的任务。例如，当黑客试图进行网络钓鱼时，黑客可以通过使用受害者家人或朋友的真实模仿声音来欺骗受害者。当人工智能的高效攻击变得更加普遍时，威胁的典型特征将被破坏。例如，为了有效应对钓鱼攻击，未来强人工智能可能训练出攻击性强、目标不清晰的攻击技术。

3 沉浸式互动，促进多维度应用能力培养

1）开展交互式学习

以往的课程由于大多是老师的单方面授课，课堂的交互有限，无法充分展示学生的积极性。这次以辩论为主题的课程安排充分调动了学生的积极性，学生从接到通知后就非常激动，并且主动地参与进来。他们在分组完成后就大量查阅文献，并且寻找相关实际案例作为论据。学生在做课后总结时表示通过这种交互式学习的过程大大拓宽了自己的视野，发散了思维。

2）开拓辩证思维

以往无论是网络安全还是人工智能技术课程都是用非黑即白的绝对对立的思维方式看待两者之间的关系，通过本次辩论实验，学生学会了用辩证的立体视角看待网络安全与人工智能。在网络安全防护实践中可以使用人工智能技术加以强化，在应用人工智能技术的相关实训案例中又对于安全边界的设置有更深的理解和掌握，建立了更加全面、完善的知识体系。

3）增强法律意识

同时，辩论过程中反方小组列举了若干违反了《中华人民共和国网络安全法》《网络产品安全漏洞管理规定》的网络安全案例，帮助学生对网络安全的法规条例有了更清晰的理解。学生理解了“没有买卖就没有伤害”，通过制定和完善大数据安全和隐私保护的配套法律法规，从源头阻止利用人工智能的漏洞来获取利益的行为。

4）提高安全素养

本信息类专业学生在培养过程中以往只重视技术能力的掌握，网络安全相关的课程大多开设在高年级（第七学期），并且在学科专业知识体系中缺乏网络安全意识的培养和网络安全基础知识的锻炼。通过本课程实验的安排，在人工智能等专业技能课程中增加了安全知识的渗透，加强了安全素养的培养，学生表示今后无论是在生活中使用网络还是利用人工智能解决问题的时候都会加强安全意识并将本次辩论收集信息时掌握的安全知识加以应用。

5）培养全面应用型人才

正反双方学生在辩论过程中将抽象的信息转化为语言后流畅、清晰地进行表达，面对对方问题随机应变、灵活应对，帮助学生在辩论过程中“越辩越清晰”，对网络安全与人工智能课程的理论知识进行了逻辑的、合理的总结。并且提高了临场应变的能力，锻炼了表达能力，逻辑思维能力，帮助学生成长为更全面、更具思想深度的应用型人才。

4 守住底线、保持清醒、理解技术

网络安全和人工智能都是当前信息科技中极为重要的部分，学生通过理论和实践教学掌握了这两门课程中的核心技术。然而在实际使用过程中，很有可能会出于好奇心甚至在自己不经意的情况下利用其中的技术做出侵害他人权益或者违反相关法律规定的事情，例如获取他人的隐私、违规获取第三方未授权的信息。通过这次人工智能与网络安全主题的辩论，学生经过广泛查阅文献、研读网络安全相关法律法规政策、调查实际生活中使用人工智能技术中违反法规的案例等自主学习，充分了解了人工智能技术在使用过程中也是有明显行为边界的，跨过这些边界的行为会违反《中华人民共和国网络安全法》中的法律规范。例如利用机器学习的方法获取网络中的信息时，其中抓获的数据中包含一些未被处理掉的个人隐私信息。如果肆意散播这类数据，或者利用这些数据获取利用或做出伤害当事人的行为，都是违法并需要承担相应的法律责任的。通过这次辩论，学生一方面产生了使用人工智能技术的底线意识，以后无论是在学习、科研还是工作场合都要保持清醒，合理地规范自己的行为。另一方面也提高了自己的网络安全防护意识，并在过程中掌握了防范手段，在日后的网络活动中可以更好地保护自身的利益。

5 结束语

本次网络安全课程中针对网络安全防护中人工智能带来的利与弊的问题采用了辩论的方式，为教学实验改革提供了新思路，展开了新模式。辩论赛得到了学生的积极反馈，为当前以理论和技术为核心的课程的教学实验改革提供了一种可行的交互式、沉浸式学习模式。和人工智能一样，任何科学技术的发展都像是一把双刃剑，会促进社会一部分的进步也会在另一方面产生对应的副作用，这些最新的技术是在被不断权衡、评估、调整的过程中动态、有序地发展的。在课程教育过程，通过辩论的形式帮助学生学会辩证思考学到的技术在社会中的作用，让他们意识到科学技术是为了给人们带来便利而产生的，但也会被用于伤害他人的利益，有助于学生毕业后在从事相关领域的职业时谨记恪守严格的职业道德、遵守明确的法律底线，期望为社会培养出守底线、讲道德、有技术的优秀专业人才。