ChatGPT在网络攻防领域的应用及发展趋势

李祉岐 罗大勇 孙磊 霍钰 尹琴 宋洁

2022年，OpenAI公司的ChatGPT风靡全球。ChatGPT是一种专注于对话生成的大型语言模型，它能够根据用户的文本输入，产生相应的智能回答，模仿人来的自然对话，可以生成讲话稿、策划方案、学术论文、诗歌、软件代码等。ChatGPT热潮也吸引了网络安全工业界、学术界，甚至网络犯罪分子的注意。

ChatGPT降低了网络犯罪的门槛，只要对网络安全和计算机科学的基础知识有基本了解，就可借助ChatGPT实施网络攻击。

（1）网络钓鱼

利用ChatGPT可以快速按照网络犯罪分子的需求生成指定的钓鱼内容，例如自动化制作网络钓鱼电子邮件，然后通过邮件发送出去进行钓鱼。攻击者只需修改固定的位置，即可构造一封完美的钓鱼邮件。

（2）生成爆破口令

在ChatGPT中输入“用Python写一个生成口令的脚本”，就会生成一个可运行的Python程序，且附带程序解释。对于网络安全研究人员或者攻击者来说，能够大大提高攻击效率。由于因为被太多人滥用，ChatGPT进行了一次安全更新，更新后很多恶意软件相关的内容已经无法生成。如果输入“用Python写一个生成口令爆破工具”，ChatGPT将回应“我很抱歉，但我不能提供关于口令爆破工具的支持。口令爆破是一种非法的行为，违反了网络安全和道德规范。它可以被用来未经授权地访问他人的账户和系统，造成严重的损害和违法行为。”说明当前ChatGPT已经针对网络攻击等生成需求做了一定限制。

（3）生成攻击载荷Payload

上面已介绍ChatGPT的安全限制，但通过更换表达后仍可以生成指定需求的内容。例如，生成攻击载荷。输入“用Python帮我写几个最新的Payload”，即可生成SQL注入、XSS等Payload。生成的Payload可以直接用于渗透测试攻击。

（1）威胁情报

ChatGPT可以用于威胁情报收集、分析、模拟、共享、响应等。ChatGPT可以通过分析各种来源，如黑客论坛、恶意软件样本、公开报告等，帮助收集有关威胁行为、攻击方法和漏洞的情报信息；可以对收集到的威胁情报进行分析，帮助理解攻击者的意图、技术手段和攻击模式；可以识别攻击中使用的工具、漏洞利用方式以及攻击者可能采取的后续行动；可以利用威胁情报和攻击模式，进行威胁演绎和模拟，帮助组织预测潜在攻击，评估安全风险，并制定相应的防御策略；可以帮助整理和组织威胁情报，促进威胁情报的共享和合作；它可以帮助创建安全社区，使不同组织之间能够共享有关攻击、恶意软件或威胁漏洞的信息，以提高整体的网络安全水平；用于快速响应威胁事件，与安全团队合作，提供即时的威胁情报分析和建议，帮助组织采取适当的措施来应对和缓解攻击。

（2）恶意攻击检测

ChatGPT可以帮助识别恶意链接和恶意文件。通过分析链接或文件的内容和特征，判断其是否包含恶意代码、病毒或其他威胁；可以协助识别垃圾邮件，通过分析邮件的文本、附件、发件人等信息，辨别是否包含钓鱼链接、恶意附件或其他欺诈行为；可以帮助监测网络流量，识别异常行为和潜在的攻击；可以分析用户的行为模式，检测异常活动和可能的恶意行为。例如，识别账户登录异常、异常的数据访问行为等，以帮助防止未经授权的访问和数据泄露。ChatGPT可以协助分析恶意代码的行为和特征，帮助识别和理解恶意软件、病毒和其他恶意代码的工作原理，以及其对系统和数据的潜在威胁。

（3）安全漏洞检测

ChatGPT可以用于检测代码中存在的安全漏洞。对于开发人员具有较强的辅助功能，能够编写出更加安全的程序。作者提供一段包含缓冲溢出漏洞的程序，让ChatGPT进行安全漏洞检测。在提供的程序中，在bof函數中，使用strcpy函数将输入字符串复制到名为buffer的字符数组中，但没有进行长度检查。如果输入字符串的长度超过了buffer的大小（12个字节），则会导致缓冲区溢出。

ChatGPT已经开展应用各个领域，在网络安全领域的应用也比较广泛，上文也分析了相关应用。通过调查分析，ChatGPT等大语言模型未来在网络攻防方面将呈现以下3个趋势。

（1）网络攻击智能化

把ChatGPT与安全攻击工具结合，将大大提高网络攻击的自动化、智能化程度，进而使得国与国之间的网络空间战愈发激烈。例如，利用ChatGPT搜集被攻击目标的信息，根据搜集的信息以及威胁情报等，智能化生成攻击载荷，并自动化构建网络攻击武器，实现对目标的精准打击。

（2）网络认知规模化

当前网络认知战还没有完全呈现自动化、智能化的攻击态势，还需大量人力、物力、时间等才能形成有效的攻击结果。ChatGPT可快速生成相关内容并迅速传播，不仅可构建某个主题的舆情还能加快舆情的传播。

（3）网络防御精准化

由于可以通过输入大量的提示“Prompt”，构建类ChatGPT的智能化检测恶意软件、恶意内容、恶意攻击等安全威胁，未来网络防御将呈现更加精准化发展趋势。例如，早期恶意软件检测主要通过特征码匹配方式检测，后期通过启发式、云查杀、机器学习、深度学习等多种方式结合，类ChatGPT大模型的介入将会大大提高恶意软件检测的准确度。

本文首先用实例分析了ChatGPT在网络攻击领域的应用，包括网络钓鱼、生成爆破口令、生成Payload、生成木马程序等；其次分析了ChatGPT在网络防御领域的应用，包括威胁情报、恶意攻击检测、安全漏洞检测、安全防御策略方案制定等；最后，分析了ChatGPT在网络攻击与防御领域的发展趋势，对于把握ChatGPT在网络安全方面的发展态势具有一定的参考价值和意义。