治安学视角下ChatGPT 技术风险、应用与治理

王少峰，孟庆振，张 杰

（1.中国人民公安大学 研究生院，北京 100038；2.公安部鉴定中心 人才交流培训处，北京 100038；3.中国人民公安大学 涉外警务学院，北京 100038）

一、引言

ChatGPT（Generative Pre-trained Transformer,GP T）于2022 年11 月问世，2023 年3 月推出GPT-4 版本[1]。该应用不仅精通语言，还能处理图片信息，以及带有文本和照片的文档、图表或屏幕截图等图文交融的信息[2]，以文字、图片及视频的方式输出[3]，在数学、编程、视觉、医学、法律、心理学等多样化和高难度的任务中表现接近人类水平，在律师考试、法学院入学考试、阅读和数学等多项考试中表现甚至超过人类[4]。

ChatGPT 是OpenAI 公司开发的人工智能聊天机器人，也是人工智能生成内容（Artificial Intelligence Generated Content,AIGC）技术众多应用中的一种。其核心是基于大型语言模型（Large Language Model,LLM）的生成式预训练转换技术。该技术充分利用海量无标注文本进行预训练，从而赋予文本大模型在小数据集、零数据集场景下的理解和生成能力。ChatGPT 技术与之前人工智能技术不同之处在于运用自然语言实现对人工智能的操控，从而生成符合要求的内容，大幅提升了人工智能的实用性和通用性。

尽管OpenAI 公司未在我国开展ChatGPT 业务，但其业务的开展可影响到我国，我国企业也在研发推广使用同类技术的应用。该新兴技术的发展不可阻挡，其机遇与风险尚不明晰。国家只有同时掌握新兴技术以及对其应用的治理能力，才能摆脱被技术反噬的担心和恐惧[5]，保证新兴技术稳健发展，在下一阶段的国际竞争中立于不败之地。技术的危害最严重的后果莫过于危害人类的生存发展和社会治安秩序。本文以ChatGPT为例，运用治安学理论，梳理这一技术的特点、对现有治安关系的解构与重构，分析对现有治安治理的挑战，并提出治理对策。

二、ChatGPT 的技术特点与治安风险

ChatGPT 的最大特点在于不同既往人工智能应用的程式化交流方式，它可以感知并识别人类社会行为，能够与人类使用自然语言进行话语交流与文本互动。ChatGPT 作为通用人工智能的先导性产品，在公共治理领域的潜力和风险还需长期观察评估[6]。从治安学的角度分析，治安治理的着力之处在于治安要素及要素间的联系，人工智能技术重置、重塑了治安要素之间连接方式，颠覆了治安要素之间的传统关系，重构了治安关系，导致现有治安规范、治安治理模式与重构后新生治安关系之间的紧张，给治安治理带来前所未有的风险。

（一）ChatGPT 技术的知识平权特征和治安危害工具及能力的获取

ChatGPT 通过使用自然语言将复杂难懂的人工智能技术发展为通用、普适的应用系统，提升理解自然语言和文本生成的能力，使得不同教育背景、文化程度的个体均可通过自然语言与人工智能进行交流，并生产出具有独特性、个性化的内容产品[7]。用户只需明确表达意图，不需要掌握复杂命令，即可驱动人工智能，是ChatGPT技术重要的平权特征。犯罪是破坏社会治安的严重形态。与犯罪有关的知识及具备犯罪技能的人是重点关注的治安要素。在ChatGPT 技术的加持下，用户可以使用自然语言获取犯罪知识、掌握犯罪技能，并显著加速学习和研究过程[8]。虽然很多与犯罪有关的知识、犯罪手段介绍等信息在互联网上可公开查阅，但散落于互联网各个角落且存在语言和技术等障碍，ChatGPT 技术的应用使得特定犯罪行为的实施方法“更易于查找和理解”[9]。在逃避侦查方面，犯罪分子可以使用ChatGPT 获取各种侦破知识，提高反侦察能力。在网络犯罪方面，没有技术背景和能力的用户只需提出明确的目标，无需掌握复杂的编程语言，ChatGPT 即可生成用户所需的恶意代码[10]。在犯罪所需要的各种“原料”“工具”以及犯罪“产品”交易方面，一些犯罪分子已着手研究利用ChatGPT 创建自动化暗网交易市场，用于交易各种被严格管制及非法物品，如被窃银行账户及支付数据，用于网络犯罪的恶意软件、黑客工具以及传统犯罪涉及的毒品、枪支弹药等[11]。因此，ChatGPT 的知识平权作用，在危害治安秩序的专门知识获取以及目的实现方面，使得人人皆有破坏治安秩序的强大潜力。

（二）ChatGPT 技术的赋能特征和治安危害广度与烈度风险的提升

ChatGPT 具有强大的综合能力，在众多方面都有出色表现。这一出色的赋能特性，被恶意运用于治安破坏将引起极大危害。ChatGPT 出色的文本起草能力及图文理解能力，可被罪犯恶意利用制造假新闻，赚取流量获利[12]，在社交媒体搜集个人信息、筛选诈骗对象，量身炮制诈骗脚本，结合人工智能换脸、语音克隆等技术，实现更加难以辨别的深度伪造，催生电信诈骗、“虚拟诈骗”等犯罪形态的迭代升级[13-15]。在商业诈骗方面，犯罪分子可借助ChatGPT 强大语言模式模仿能力及文字生成能力撰写钓鱼电子邮件，实施商业电子邮件诈骗。在ChatGPT 等聊天机器人的助力下，这些类型的网络钓鱼和电子邮件诈骗呈现出更快、更真实、规模显著增加的态势。据统计，美国全年的商业电子邮件泄露诈骗造成的财物损失高达17.77 亿美元[16]。

（三）ChatGPT 技术的用户交互特征和治安危害主体认定的困难

ChatGPT 的“基于人类反馈的强化学习”（Reinforcement Learning with Human Feedback，RLHF）技术是其受到广泛使用的原因之一。该技术使得开发者、训练者、使用者均可以影响ChatGPT，甚至用户使用习惯、输入内容及个人思想特征、道德偏好等可作为特定条件下被激活的特征之一，而这种经反馈后学习的行为模式可作为产品内容生成给其他用户，实现危害思想的传递。犯罪分子可能训练有害数据的语言模型在暗网等场所进行交易。有别于之前单一开发者模式的应用，ChatGPT 交互式技术可能导致生成内容具有多主体参与性，在产生治安危害后，很难有效追查行为者，形成治安归责的困境。随着人工智能技术的发展，相关应用的拟人化特征显现，在治安关系调整方面具备主体性的特征，将导致人工智能本身在主体认定方面存在治安规范方面的缺失[17]。

（四）ChatGPT 技术的整合特性和治安关系的骤变

在新技术迅猛发展的当下，现实社会与数字社会的交互并行是显著的特征之一。各种治安要素的数字化转场，尤其是实体财产的数字化、虚拟数字的财产化导致数字社会中的各种犯罪层出不穷。各种治安要素被转化为数字存在，在数字技术的支配和操控下，具备与现实社会治安关系明显不同的特征。数字技术以其自身的逻辑对数字形式的治安要素之间的关系进行解构与重构，导致现实社会治安关系嬗变为数字社会治安关系。然而，根据现实社会治安关系特点形成的治安规范必然与数字社会的新治安关系存在治理紧张。ChatGPT 技术与其他技术明显不同的整合特征，使得其在具备一般数字技术普遍特征的同时，具备自身的独特性。ChatGPT 的基础是数据，数据的占有和使用不同于传统物理世界的独占独用的常规态势，同时占有和共同使用的情形突出，数字社会的重点数据监管模式必然不能套用现实世界的重点物品监管模式。ChatGPT 技术在占有、利用数据的基础上，响应用户需求生成个性化的内容，实现对数据处理、修改，生成的内容与原始数据呈现出较大的不同，甚至会出现伪造、扭曲的现象，因而人工智能产品介入可能导致治安关系出现非人力干预下的畸变。

三、ChatGPT 技术在治安治理领域的应用

警务实践一直紧跟新技术发展的前沿。此前的人工智能在犯罪预测预防、经济案件侦查、拐卖儿童犯罪案件侦查等打击预防犯罪领域[18-21]，安防安检等技术防范和安保领域[22-23]，以及现场勘查等刑事科学技术领域[24-27]被广泛应用。ChatGPT 及其他人工智能生成内容式应用的出现，在治安治理方面的应用机遇体现在治安治理技术赋能以及治安治理主体能力提升方面。

（一）技术赋能治安治理

1.辅助犯罪预防预警。基于我国网络购物、社交、学习等场景的广泛应用，城市安防系统的深入建设，结合网络、交通、金融等实名制的推广，以及公安大量结构化数据的积累，为犯罪预测提供海量数字与现实相协调的高质量资源。人工智能犯罪预警预防方面的应用已初见端倪，人工智能生成内容在该领域具有广泛应用前景。利用人工智能生成内容应用分析文本数据，学习最新的诈骗案例，检测、关注、追踪犯罪活动的模式，分析锁定潜在危害实施人与被害人，向潜在危害实施地、发生地所在的警务部门及时发布预警。联合企业开发、训练个人辅助应用，评估社交媒体、数字生活风险程度，向用户提供预防被侵害的服务，减少案件发生。在数字社会中感知群体活跃热度，分析文本数据的情感，用于情报研判，帮助识别潜在的威胁或可疑活动。

2.助力反制深度伪造。利用ChatGPT 技术深度伪造生成新闻、图片、音视频等内容，已有危害社会秩序、公众利益、人身财产权利，甚至国家安全、国际关系的现实威胁。然而，人工智能生成内容技术本身在反制深度伪造方面应用同样广泛。在危害产生后的治安重建阶段，国家治安主体主导开发识别人工智能生成的深度欺骗内容的技术，标记有治安危害的生成内容，追溯来源，消除危害。国外已经开发反换脸、虚假音视频检测等工具用于刑事侦查[28]。在危害的处置阶段，信息技术及警务主管部门联合科技企业、科研机构开发基于人工智能技术的应用，用于识别电信诈骗信息、互联网及电信使用者身份等技术，实时高效识别、检测换脸影像、模仿合成语音等深度伪造内容，阻截有害内容传播，或向潜在受害对象发出预警。在治安防范阶段，可通过运用“数字水印”等技术，对深度伪造内容需要的图片、音视频等原材料打上来源标签，通过末端检测图片、音视频内容标签的完整性可以判断最后生产内容是否真实。

3.协助处置案事件。人工智能生成内容技术可用于帮助开展突发事件的应急响应工作，在自然灾害、恐怖袭击、群体性事件、重大刑事案件发生时，向公众提供信息或协调救援工作。使用自然语言处理技术理解和响应用户的查询，为公民提供实时信息和指导。在重大安保活动期间或重点场所安保，可协助身份验证、差异化安检、异常行为识别等工作[29]，并可根据人流、风险变化实时调整安保策略。国家重大基础设施的管理控制系统以及重大体育赛事活动的网站、在线票务系统、比赛计分裁判系统、运行调度系统等易受攻击的点位，人工智能生成内容技术可有针对性地收集、挖掘网络行为数据，通过数据模型识别、发现潜在攻击行为，并采取有效应对措施；在遭受攻击后，可及时、有效响应，防止危害结果扩大；快速追溯攻击行为[30-32]。

（二）提升治安主体能力

1.在协助治安主体处理辅助性工作方面应用广泛。一是提升文案工作能力。人工智能生成内容技术可根据要求生成标准化报告，使分析报告、请示文书、汇报文稿等撰写、优化过程更加自动化。利用图像处理能力提取犯罪场地、建筑物、植被、气候等信息，为图像生成说明，用于描述潜在目标的特征，如大小、形状和位置，辅助现场勘验记录。二是分析文本数据。治安主体根据需要，可定制人工智能生成内容技术，用于分析电子邮件、社交媒体、聊天记录、涉案人员供述等文本数据，提升处理效率，服务情报预警、案情分析。三是辅助询问人员、提供咨询。人工智能生成内容技术可用于辅助询问嫌疑人、证人并记录，形成笔录等草稿供执法人员审核，以节省时间、提升效率，还可用于为群众提供有关法律咨询等服务。四是语言翻译。人工智能生成内容技术翻译功能强大，在涉外案件调查处理，特别是跨国案件调查和执法合作中可广泛使用，提高沟通效率。

2.用于辅助决策。一是治安形势分析。人工智能生成内容技术可在情报报告和其他相关文本的数据集上进行训练，对一段时间的犯罪数据、犯罪类型、趋势等进行挖掘分析，识别关键信息，有助于警力部署、资源调配，作出更科学的决策。二是舆情分析。警务部门可利用人工智能生成内容技术实时感知社交媒体平台，并提取有关舆论、情绪和热门话题等信息，生成相关内容的情绪和频率分析报告，为治安管理、舆情研判提供参考。三是调查研究。人工智能生成内容技术可用于调查研究，如对各类案事件图文数据进行分析，挖掘其特点、趋势。

四、ChatGPT 技术的治安治理

欧美国家已认识到监管ChatGPT 的必要性。美国政府已经开始研究是否需要对ChatGPT 等人工智能工具进行审查。2023 年4 月11 日，美国商务部国家电信和信息管理局就ChatGPT 等人工智能工具监管措施公开征求意见，以确保联邦政府对人工智能相关风险和机遇采取统一而全面的措施。2023 年3 月，意大利个人数据保护局宣布封锁ChatGPT，限制OpenAI 公司处理意大利用户信息数据，同时对其隐私安全问题立案调查[33]。2023 年4 月12 日，意大利开出了解禁条件[34]。2023 年4 月13 日，西班牙国家数据保护局和法国国家信息自由委员会分别宣布对ChatGPT 展开调查[35]；同日，欧洲数据保护委员会宣布成立专门工作组，以促进各国协同调查，并就各数据保护部门可能采取的执法措施交流信息[36]。尽管 OpenAI 公司未在我国开展ChatGPT 业务，但基于大语言模型的国产版“文心一言”“混元”“通义”“盘古”等生成式人工智能应用在国内加速布局，必将深刻影响我国生产生活的诸多方面。对此，国家互联网信息办公室等七部门于2023 年7 月10 日公布了《生成式人工智能服务管理暂行办法》。

新兴技术带来的深层次颠覆性挑战，要求政府突破传统治理框架，重构治理体系，在治理机制和治理工具方面创新和发展[37]。治安治理主体应针对ChatGPT 技术特点，把握其影响治安关系的深层逻辑，调适治安理论，迅速适应新技术变革条件下的治安变化规律，增加治安治理效能。治安治理落后的国家、区域势必沦为治安治理洼地，必将深受犯罪“洼地效应”之害[38]。准确把握新技术变革下的治安关系，形成相应的治安规范、治理方式，进而占领网络疆域的治安治理高地尤显紧迫。

（一）治安治理理念的调适

如前文所述，数字时代治安危害的广度与烈度增强，危害后果严重且往往波及多个国家，而网络疆域与国家管辖的物理疆域并不完全重合，在以主权国家为主导、分块行使治安权的现状下，网络疆域中治安危害的处置与治安秩序的构建往往涉及多个国家，事后治安处置、重建的协调难度大、成本高、效率低，转变治理理念势在必行。治安治理本质是调整社会关系，无论现实社会与数字社会，人是社会关系的核心。因此，在影响治安关系的所有治安实体中，人依然是核心要素[39]。数字时代，基于海量的标记有个人信息、时空信息的生活工作数据、交易记录、财产数据、社交媒体数据，通过要素分析、关键因子筛选、数据建模分析、条件概率预测等方法[18]，可以刻画个人的性格情绪、行为模式等，利用ChatGPT 技术实时生成可视化内容，使得预测警务、预防犯罪成为可能，从而实现精准投入警力、避免人身伤害财产损失、阻止危害公共安全事件的发生等。因此，治安治理理念应从事后打击、处罚调整为事前预测、预防。

（二）治安治理方式的转变

在数字社会与现实社会并行的当代治安治理背景下，治理技术要遵循现实与数字双重逻辑，采用虚拟与现实并轨的治理方式。数字社会中治安关系的构建具有其自身原生性特征，而以ChatGPT 为代表的人工智能生成内容技术所改变的治安关系则亦具自身个性。针对数字社会中ChatGPT 技术所涉及的重点治安要素的储存、流通、使用加强管理，特别是要加大网络及网络赋能犯罪所需的基础—数据，尤其是个人数据的管理力度。国家应通过法规明确数据的采集者、占有者、使用者的数据采集、保管、使用责任；明确生产主体对产出数据的权利与义务；对数据的使用实行分类分级监管；强化管理措施，明确追责制度。政府与企业及科研机构应加大投入，研发新的数字监管技术。

（三）治安规范的迭代更新

政府及其他主体应建立与数字社会治安关系相匹配的治安规范。国家与社会多主体参与，加强相关国家规范与行业标准、科技伦理的制定与推行，围绕个人数据的存储、流通与使用推动治安领域立法。研究机构应加快研究人工智能的治安实体地位、治安责任能力、归责标准与程序，并通过国家立法予以确定；解决利用新技术预测预防的治安治理理念与法无明文规定不处罚的谦抑性思想为主的现行理念的价值冲突，如对个人隐私自由的侵犯、罪刑行法定原则的违反、对公平正义的冲击等现行规范原则的冲击[40]。

（四）治安主体的内部整合

一是治安绩效制度的调适。跳出现有以案件为核心的治安绩效制度困囿，建立与以“预警—拦截”“治理—预防”为中心的治安治理模式相适应的绩效制度。二是治安主体的理念跃迁。逐步改变以管理者需求满足为核心的治安评价机制[41]，转变为适应数字社会治理需要的全新理念。三是治安主体的组织整合。随着治安形势变化，治安主体进行相应调整是弹性治理、自我调适的反应。应相应调整职能分配，成立相应专门机构，以适应治安治理的需要。四是建立新型一元主导多元参与的治安治理模式。数字时代，在国家治安主体主导下，综合运用国家与社会治安主体的各自优势，采取行政与技术、法律强制与自我约束相结合的治理模式，实现有效治理，达成善治。

五、结语

随着ChatGPT 等通用型大众化人工智能的广泛应用，治安关系也随之发生深刻重构，对治安主体的责任能力提出挑战。然而，治安关系无论怎样变化，人依然是核心要素。治安治理围绕数字社会的技术逻辑，以人为中心，转变治安理念、迭代治安规范、调适治安主体，把握新兴技术本身赋能作用，必将能打造数字与现实社会均安全有序的治安环境，实现以数字与现实相交融的新安全，保障人工智能等新兴技术促进人类社会的新发展。