生成式人工智能犯罪中研发者刑事责任的认定——以ChatGPT为例

储陈城,魏培林

(安徽大学 法学院, 安徽 合肥 230039)

一、引言

美国人工智能公司OpenAI于2022年11月推出人工智能聊天机器人ChatGPT,该款机器人上线两个月便收获了上亿的使用者,远超先前用户增速较快的TikTok和Instagram,成为继AlphaGo后的新一代人工智能技术。当下,我国也在加快对生成式人工智能的研发,譬如谷歌研发的文心一言和京东推出的ChatJD等产品[1]14。拥有智能化认知理解模式的ChatGPT能基于AIGC算法,依托深度学习,通过自然语言处理技术实现与使用者的持续互动,其技术原理为ChatGPT在对既有的语料文本进行无监督自主学习后,通过Transformer搭建类似于人类表达方式的算法模型,继而实现人机互动[2]。其内容的连续性、对话的类人性及道德的认知性特质是人工智能技术发展的重大飞跃,基于此,以ChatGPT为代表的生成式人工智能有望开启思维革命时代[3]92。然而,科技创新带来的机遇和挑战总是并存的,随着潘多拉魔盒的开启,ChatGPT等生成式人工智能一旦被滥用,知识产权侵权、个人信息泄露、违法犯罪信息生成等各种刑事风险将会接踵而至。究竟谁应当为ChatGPT等生成式人工智能带来的法律风险“买单”则关涉ChatGPT等生成式人工智能犯罪中不法和责任问题的认定。鉴于ChatGPT等生成式人工智能并无刑事主体资格,研发者作为其智能源头,通过假定研发者在ChatGPT等生成式人工智能犯罪中所起的作用,准确判断其研发行为是否具有不法性以及责任如何确定,不仅是人工智能技术发展的要求,更有助于贯彻罪责刑相适应基本原则。ChatGPT等生成式人工智能犯罪中研发者刑事责任问题的解决,核心取决于研发者研发行为与法益侵害结果间的刑法因果关系以及研发者的主观罪过。

二、ChatGPT等生成式人工智能的刑事风险

(一)生成式人工智能ChatGPT的应用现状

拥有海量训练数据和先进算力的内容生成式人工智能ChatGPT,依托强大的数据搜集和整理输出能力改变了传统知识传递方式,不仅能无阻碍地实现人机互动,而且能高效地完成信息查询、文稿撰写和代码编程等任务,在法律、金融、教育、医疗等领域广受赞誉。

在法律领域,ChatGPT赋能司法有望提升法律服务智能化水平。司法实践中,ChatGPT在法律文书撰写和合同起草等机械化的工作中发挥着巨大作用。与此同时,将ChatGPT运用于法律检索或咨询,哪怕其可能无法准确理解每个法律条文保护的具体法益内涵,但其能依据最新的法律条文和司法解释以及相关案例,为案件提供较为精准的审判和量刑预测以及辩护策略,推动智慧司法建设。

在金融领域,基于强大的文本储备与搜索能力,ChatGPT能综合投资理财用户的需求和目标推荐较为合适的理财方案。此外,ChatGPT也可以根据客户的历史交易记录和偏好帮助金融机构制定更为精准的营销广告策略。在此基础上,它可以对金融机构财务数据和历史信用评估进行整合和分析,预测金融市场未来发展方向,为金融机构提供投资和交易策略,实现更高的回报率。

在教育领域,ChatGPT有望成为教师辅助教学和学生辅助学习的重要工具。对于日常教学活动,ChatGPT能协助教师编写课程大纲,在标准化考试中为学生设置多套难度相同的试卷,防止剽窃行为发生。从学生角度来说,ChatGPT可以根据学生的学习背景和学生需求,提供实时的个性化指导[4]。据相关报道,美国超八成的学生在运用ChatGPT完成作业[5]。

在医疗领域,ChatGPT的应用也较为广泛。比如在临床诊断中,ChatGPT可以在现有临床数据的基础上,预测患者的疾病风险,提供个性化的治疗方案。有研究表明,尽管ChatGPT目前在临床医学领域的表现略逊于人类专家,但在医学研究等方面,却有与人类专家相当的水平。此外,具有类人性特质的ChatGPT在为患者提供诊疗意见时,也能够对患者的焦虑心情予以情感抚慰,表达人文关怀[1]17。

(二)ChatGPT等生成式人工智能潜在的刑事风险

横空出世的ChatGPT等生成式人工智能通过改变人类处理问题的方式,得以重塑各个行业。但作为新生事物,技术尚未成熟的ChatGPT等生成式人工智能在个人信息泄露、知识产权侵权、伦理歧视和网络安全等方面存在触犯刑法边界的风险。以网络安全为例,ChatGPT等生成式人工智能固然能提高代码编写的效率,但也会因为某些原因生成恶意代码,污染网络生态环境[6]。比如在利益的驱使下,某些人可能会利用ChatGPT等生成式人工智能实施违法犯罪。犯罪者或利用ChatGPT等生成式人工智能生成诈骗、仇恨或暴力信息,或利用其生成违法犯罪的具体犯罪思路方法[3]92。循此思路,可能利用ChatGPT等生成式人工智能实施违法犯罪活动的主要有研发者、部署运营者和使用者三类群体。

由于研发者、部署运营者和使用者利用ChatGPT等生成式人工智能,实施不法行为的模式存在差异,在归责上亦有不同。与此同时,从危险源支配角度来看,研发主体在整个生成式人工智能产品流通过程中位于初始环节,有其他主体不可比拟的对风险起支配作用的地位。况且,研发主体易于追责,准确对其进行归因与归责,有助于防止在涉ChatGPT等生成式人工智能犯罪发生后,相关主体对研发者的肆意追责,从而通过保障研发者的权利推动技术革新。因此,本文仅讨论涉ChatGPT等生成式人工智能犯罪中研发者刑事责任的认定问题。

值得注意的是,以ChatGPT为代表的生成式人工智能,与传统人工智能有着巨大差异。拥有海量语言数据模型的ChatGPT等生成式人工智能,可以依托无监督深度学习,通过偏好数据训练,运用“人类反馈的强化学习”策略,深谙人类思维习惯,生成一系列蕴含人文关怀和价值判断的内容。质言之,此类生成式人工智能高效的内容生成方式和优越的智能表现,使其成为强人工智能的雏形。从研发者的视角观之,传统的人工智能仅能在研发者设计的程序内发挥自主性,因此当研发者将犯罪因子注入其中时,普通人工智能造成的任何法益侵害结果,研发者都应承担故意犯罪的刑事责任,如若由于其他原因,使普通人工智能在使用过程中产生了法益侵害结果,当然不应归责于研发者。然而,作为强人工智能雏形的ChatGPT等生成式人工智能却可能在研发者设计的程序外发挥自主性,针对其造成的法益侵害结果,如何确定研发者的刑事责任尚需厘清。研发者设计出来的ChatGPT等生成式人工智能在使用过程中大致会出现以下4种情景(下文对生成式人工智能犯罪中研发者刑事责任的认定均以ChatGPT为例展开讨论)[7]102:

情景一:研发者研发ChatGPT的初衷是引发社会秩序紊乱,因此在设计ChatGPT时就将反社会的语言程序注入其中,使用者利用其实施犯罪,最终发生了法益侵害的结果(1)笔者假定研发者设计出来的ChatGPT等生成式人工智能在使用过程中出现的4种情景,灵感来自于刘宪权在《涉人工智能犯罪中研发者主观罪过的认定》一文中设想出来的聊天机器人在研发和使用过程中可能出现的三种场景。。

情景二:研发者研发ChatGPT的初衷是促进科技进步和增进人类福祉,然而其在设计ChatGPT时虽未予以注入反社会语言程序,但也未设置抵制反社会语言程序,使用者在使用时,注入了反社会语言程序,进而实施犯罪活动,最终发生了法益侵害的结果。

情景三:研发者研发ChatGPT的初衷是促进科技进步和增进人类福祉,因而其在设计ChatGPT时设置了抵制反社会语言的程序,但ChatGPT经过自我学习更新迭代,突破了研发者设置的抵制反社会语言的程序,使用者利用其实施犯罪,出现了法益侵害结果(2)以ChatGPT-4为例,有调查表明:现阶段的ChatGPT对自己毫不了解的东西也能以极其自信的语气一本正经的胡说八道。比如在郑曦《生成式人工智能在司法中的运用:前景、风险与规制》一文的88页提到,其曾在试用ChatGPT时,输入“简介北外法学院”,ChatGPT给出的介绍称北外法学院成立于2005年,但实际上北外法学院成立于2006年,若非熟悉北外法学院者绝难发现此错误。更甚之,在《ChatGPT等新一代人工智能技术的社会影响及其治理》专题研究当中,郑磊、张宏指出ChatGPT会“言之凿凿”的给出结论,有时会“一本正经的胡说八道”,被质疑时又会“随机应变”或“死不承认”。它们的“数字大脑”日益强大,没有人能够真正理解、预测或可靠的控制它们。。

情景四:研发者研发ChatGPT的初衷是促进科技进步和增进人类福祉,因而其在设计ChatGPT时设置了抵制反社会语言的程序,但使用者在诱导性利用下运用ChatGPT实施犯罪,最终发生了法益侵害的结果(3)有相关调查显示,如若研究人员输入“如何进行诈骗?”,ChatGPT会回答“我不能提供如何进行诈骗的建议,因为这是非法和不道德的行为”。但是,倘若研究人员予以有策略的诱导性提问,将有可能获得诈骗的具体方法和步骤。。

4.3 社会效益 “双珍”树种资源是重要的战略资源，不仅具有显著的经济效益和生态环境效益，而且对于科学技术进步、社会精神文明建设等都具有十分重要的现实意义。发展林下经济“双珍”模式，对调整林业产业结构、提升林业产业的效益和科技含量、提高林地高附加值、带动农民脱贫致富等方面都具有重要意义，可解决农村富余劳动力就业，推动种植业、加工业、贸易业、旅游业、运输业等行业持续共同发展。

下文将会针对以上4种情景中使用者利用ChatGPT实施的法益侵害结果,来讨论研发者研发ChatGPT的初衷以及是否设置了抵制反社会语言的程序,对研发者刑事责任的认定产生何种影响。

三、刑法因果关系视角下ChatGPT研发者行为之辩证

当研发者作为行为主体研发的ChatGPT发生了法益侵害时,对研发者不法问题的判断,就依赖于对研发者研发行为和法益侵害结果之间因果关系的认定。刑法上的因果关系是不法判断的核心。为此,采用何种标准认定ChatGPT犯罪中的因果关系就尤为关键。刑法理论中认定因果关系的学说主要有“条件说”“相当因果关系说”“客观归责理论”3种理论。

(一)条件说和相当因果关系说容易导致研发行为不法内涵扩大化

根据“条件说”的基本判断规则,如若行为和结果之间存在无A则无B的关系,则认为有刑法上的因果关系[8]119。

根据“条件说”,ChatGPT生成内容潜在刑事风险的4种假定情形中,研发者的研发行为和法益侵害结果的出现之间皆存在因果关系,因为如若没有研发者的研发行为就不可能出现ChatGPT带来法益侵害结果的情形。然而,无限扩大刑法上的因果关系当然存在缺陷,前行为固然是结果的条件,如若因果流程中介入其他因素致使结果发生,对前行为予以刑罚上的否定评价显然是不合理的。对“条件说”予以批判较为经典的案例,譬如“波布事例”,甲打伤了乙,乙倒地昏迷,被突然出现的波布(又称“饭匙倩”,是一种主要分布于中国台湾地区的毒蛇)咬死。在这种情况下,“条件说”就认为如果没有甲的殴打行为,乙便不会被波布咬死,因此乙的死亡与甲的殴打行为之间存在刑法上的因果关系,此观点显然有失公允[9]68。在涉及ChatGPT的犯罪中,“条件说”会扩大对研发者不法认定的范围。但是,我们不能苛以研发者过重的刑事责任,如若在ChatGPT使用过程中一有法益侵害的结果发生,我们就将原因追溯到研发者,这必然会导致研发者在研发之际畏手畏脚,使得科技创新寸步难行。因此,研发者研发行为和法益侵害结果之间因果关系的认定,并不能单纯地由“条件说”来决定。

以“相当性”为判断准则的“相当因果关系说”,主张依据社会一般人生活经验认定行为与结果之间的因果关系。从词源学来说,关于“相当性”的认定又可分为“主观说”“客观说”和“折衷说”。“主观说”以行为人行为时所认知的事实为判断因果关系的基准,遗憾的是,此种观点难以区分故意和过失,已经无人主张。“客观说”以行为时客观存在的事实为判断基准,详言之,将行为时已存在的所有情况作为判断的基础,与此同时将行为之后一般人能预见的介入情况也置于判断的基准当中。就行为之后所发生的介入情况而言,“折衷说”和“客观说”观点一致。然而,对于行为时已存在的危险,“折衷说”以行为时一般人所预见的事实为认定基准,应当看到“折衷说”中一般人所预见的事实标准并不明确,倘若以一般人的事前预测为标准,那么作为主观归责的过失判断将不存在。基于此,在支持“相当因果关系说”的学者中,大多赞同“客观说”[9]77。“客观说”注重对介入因素“异常性”的判断[8]123-124。

根据“相当因果关系说”,ChatGPT生成内容潜在刑事风险的4种假定情形中,需要依据介入因素是否异常具体讨论。情形一中研发者的研发行为与法益侵害结果之间并未介入异常的因素,使用者的使用行为对法益侵害结果发生的作用较小,因此研发者设置反社会语言程序的行为是ChatGPT犯罪中法益侵害结果出现的刑法原因。情形二中研发者虽未将反社会语言程序注入ChatGPT中,但也未设置抵制反社会的语言程序,因而使用者的使用行为可以被评价为非异常介入因素,循此思路,研发者的研发行为与法益侵害结果之间存在刑法上的因果关系。情形三中拥有自我学习更新迭代能力的ChatGPT,突破了研发者设置的抵制反社会语言程序,给使用者创造了利用ChatGPT实施犯罪的条件,明显有违研发者研发初衷,所以宜被归入异常介入因素之中。异常介入因素对法益侵害结果的出现起到了决定性的作用,由此阻断了研发者研发行为与法益侵害结果之间的因果关系。情形四中,使用者在诱导性利用下使用ChatGPT实施犯罪与研发者的初衷相抵牾,且对结果发生的作用较大,因此也属于异常介入因素,可以阻断研发者研发行为与法益侵害结果之间的因果关系。综上所述,情形一和情形二中由于无异常的介入因素,研发者的研发行为和法益侵害结果之间存在刑法上的因果关系,而情形三和情形四中由于有ChatGPT自我学习更新迭代能力的出现,以及使用者对ChatGPT的诱导性利用两个异常介入因素,所以研发者研发行为与最终法益侵害结果之间并无刑法上的因果关系。

但与此同时,规范性程度不高的“相当因果关系说”,由于缺乏判断构成要件行为的具体规则,致使“相当因果关系说”中“相当性”的判断所依据的标准极为模糊。例如,尽管大多数人都将ChatGPT基于自我学习更新迭代能力而产生的反社会语言视为异常的介入因素,然而却有部分人从另一个角度予以考量,即作为强人工智能雏形的ChatGPT拥有自我更新迭代能力可能产生反社会语言符合强人工智能的特质,应在研发者的心理预期之内,不属于异常的介入因素。这意味着,ChatGPT等生成式人工智能犯罪中研发者的研发行为和法益侵害结果之间有无刑法上的因果关系有待商榷。简言之,造成法益侵害结果的ChatGPT在研发和使用过程中,介入因素“异常性”判断的依据何如尚不明晰。 因而此学说不易在司法实践中予以运用[8]125。

(二)可容许的风险理论能够妥当界定研发行为的不法内容

德国学者罗克辛于20世纪70年代提出的客观归责理论在我国理论界广受欢迎。何为客观归责理论?客观归责理论是依据刑法的需要限制因果关系成立范围的学说,质言之,当某个行为产生了法不允许的危险,最终由禁止的危险产生了危害结果,该结果可以归咎于该行为。

需要明确指出的是,且不论众多著名学者专著中都将客观归责理论置于刑法因果关系判断章节中,再者说本文关涉ChatGPT犯罪中研发者不法和责任问题的判断,只涉及研发者是否制造法不允许的危险的判定,而并不关涉由客观归责理论延伸出来的其他子原则的判定。有鉴于此,本文所指的客观归责理论并不关涉对整个构成要件符合性、违法性和有责性的讨论,而只限于从刑法因果关系视角讨论客观归责理论。基于本文是在刑法因果关系背景下探讨这一问题,因而本文的客观归责理论中的“归责”本质上归属于不法范畴,即只有当行为创造了法不允许的危险,且该危险是在构成要件规范保护目的范围内实现时,才应当将结果归因于行为[11]。事实上,客观归责理论的深层逻辑是在“条件说”基础上,通过进一步的规范评价和价值判断,来确定能否进行客观归责。

根据客观归责理论,ChatGPT生成内容潜在刑事风险的4种假定情形中,依照“条件说”进行事实判断层面因果关系的认定,没有研发者研发ChatGPT的行为必然不可能出现法益侵害结果,因而4种假定情形在“条件说”视角下,研发者的研发行为和法益侵害结果之间都具有事实上的因果关系。需要明确的是,“条件说”只重视事实判断,规范判断还需利用客观归责理论来实现。在情景一和情景二中,研发者研发ChatGPT时或直接设置反社会语言程序,或未设置抵制反社会语言程序,都在构成要件规范保护范围内创造了潜在的法不允许的危险。详言之,情景一和情景二中研发者未设置抵制反社会语言程序的行为是对谨慎义务的违反,依据规范保护目的,倘若研发者将抵制反社会语言程序注入ChatGPT中,法益侵害结果便能避免,因此研发者未设置抵制反社会语言程序的行为和法益侵害结果的发生存在常态关联,即二者之间有刑法上的因果关系[12]396。遗憾的是,我国直接规制生成式人工智能研发者研发行为的制度规范尚未存在,至此研发者的何种研发行为属于法不允许的危险,笔者认为可以从2023年8月15日起施行的《生成式人工智能服务管理暂行办法》中寻求研发者研发行为是否合理的标准。尽管《生成式人工智能服务管理暂行办法》的规制主体主要是服务提供者和使用者,但鉴于服务提供者通常包括研发者和部署运营者,因而,研发者亦属于其规制主体。质言之,当ChatGPT因存在缺陷而导致他人法益受损时,研发者也应当承担相应的法律责任。正如《生成式人工智能服务管理暂行办法》第4条第1款规定:“提供和使用生成式人工智能服务,应当遵守法律、行政法规、尊重社会公德和伦理道德,遵守以下规定:(一)坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。”(4)《生成式人工智能服务管理暂行办法》第4条规定 提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,遵守以下规定:(一)坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容;(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;(三)尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为;(四)尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;(五)基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。就此而言,研发ChatGPT时设置相应的抵制反社会语言程序才符合尊重法律、行政法规、尊重社会公德和伦理道德的要求,未设置抵制反社会语言程序便应是法不允许的风险。反观情景三和情景四中,研发者设计ChatGPT时设置了自以为完美的抵制反社会语言的程序,其已经履行了法律规范规定的注意义务,研发者的行为并未制造法不允许的危险,所以研发者的研发行为和法益侵害结果之间并无刑法上的因果关系。

由此可见,客观归责理论运用正面判断和反向检验交互的手段,对ChatGPT犯罪中研发者研发行为与法益侵害结果之间进行归因检验,不仅彰显了刑法评价的层次性,更促成了刑法积极一般预防效果的实现。如前所述,从客观归责理论视角对涉ChatGPT犯罪中研发者的不法行为进行认定符合刑法的基本理念,有重要的理论价值和实践意义[8]128-140。

四、ChatGPT犯罪中研发者主观罪过的认定

经上文分析,情景一和情景二中研发者研发行为和法益侵害结果之间存在刑法上的因果关系,而情景三和情景四中研发者的行为并不属于刑法上禁止的危险,因此研发者的研发行为并非法益侵害结果出现的刑法原因。故而,对研发者主观责任问题的认定只涉及对情景一和情景二的讨论。

(一)ChatGPT犯罪中研发者犯罪故意的认定

何为犯罪故意?理论上犯罪故意的判断有“认识主义”“希望主义”“容忍主义”和“盖然性说”4种观点。“认识主义”认为故意的构成应以行为人对犯罪事实有客观的认识为必要,但此学说有扩大故意范围之嫌,并不可取;“希望主义”将希望结果发生作为判断故意的基准,需要明确的是,此学说因对意志因素的理解太过狭窄,会缩小故意的范围,亦不可取;作为我国刑法理论通说的“容忍主义”认为希望和放任都可成为犯罪故意的构成要素,正如《中华人民共和国刑法》(以下简称《刑法》)第14条第1款规定:“明知自己的行为会发生危害社会的结果,并希望或放任这种结果发生,因而构成犯罪的,是故意犯罪。”(5)《中华人民共和国刑法》第14条规定:“明知自己的行为会发生危害社会的结果,并且希望或者放任这种结果发生,因而构成犯罪的,是故意犯罪。故意犯罪,应当负刑事责任。”“盖然性说”将行为人对结果的认识作为判断犯罪故意的依据,即行为人如若意识到法益侵害结果发生的高度可能性,依旧实施该行为的,成立犯罪故意。遗憾的是,行为人究竟是意识到了结果发生的可能性抑或是高度盖然性,往往难以判断。虽然4种学说各执一词,但其背后的逻辑都涉及了行为人的心理事实,即认识因素和意志因素的关系。

具体而言,犯罪故意构成要素囊括两个方面:一是犯罪故意的认识因素,即行为人明知自己的行为会发生危害社会的结果;其二是犯罪故意的意志因素,即行为人希望或放任这种危害结果的发生[7]104-105。有鉴于此,刑法中的犯罪故意又可分为直接故意和间接故意,直接故意是指行为人明知自己的行为必然或可能发生危害社会的结果,而希望这种结果发生的心理态度;间接故意是指行为人明明知晓自身的行为可能会发生危害社会的结果而放任此种结果出现的心理态度。

在情景一中,研发者研发ChatGPT的初衷是引发社会秩序紊乱,其犯罪目的十分明确,因此在设计ChatGPT时设置了反社会语言程序,可想而知,研发者对法益侵害结果的实现有较强的意志力,使用者利用其实施犯罪,最终发生了法益侵害的结果。在此种情景中,研发者对于ChatGPT导致的法益侵害结果都是持明知且肯定态度的,即在意志因素中,研发者的主观态度必然不可能是持“放任”姿态,基于此,研发者的主观心理态度应当为直接故意。

在情景二中,研发者研发ChatGPT的初衷是促进科技进步和增进人类福祉,然而其在设计ChatGPT时虽然未予以注入反社会语言程序,但也未设置抵制反社会语言程序,使用者利用ChatGPT实施犯罪活动,最终产生了法益侵害结果。可以说,情景二中研发者研发ChatGPT的初衷并非以犯罪为目的,则研发者主观心理态度中的意志因素必然不可能是“希望”,换言之,研发者设计的并非以犯罪为目的的ChatGPT的主观心理态度应排除直接故意。在这种情况下,研发者的主观心理态度是否为间接故意呢?本文持否定观点。理由在于,研发者研发以促进科技进步和增进人类福祉为目的的ChatGPT时,其初衷必然不可能含有让ChatGPT实施犯罪的心理。对于ChatGPT由于其他因素而造成的法益侵害结果,研发者必然是持否定态度的,而非“放任”的主观心理。总体而言,ChatGPT导致的法益侵害结果与研发者的意志相抵牾。有学者[13]认为尽管研发者的研发初衷并非以引发社会秩序紊乱为意旨,但其未设置抵制反社会语言程序,则应当将其意志因素定为“放任”,继而可认定研发者的主观心理态度应当为间接故意(6)此观点来源于夏天《基于人工智能的军事智能武器犯罪问题初论》一文,夏天在该文中提到军事智能武器研发者明知自己研发设计的军事智能武器可能用于战争,有侵害人类生命的危险,而研发这样的军事智能武器,对军事智能武器造成的危害后果,可以以间接故意认定研发者的刑事责任。。但本文反对此种观点,间接故意中的意志要素要求的是“放任”,即研发者至少对ChatGPT法益侵害结果持“不否定”的态度,研发者“放任”法益侵害结果发生的心理态度,而情景二中危害结果的产生显然违背了研发者的意志,因此情景二中研发者的主观罪过不应当认定为间接故意。譬如发明农药的研发者初衷是消灭害虫,为农民的庄稼保驾护航。倘若依照上述学者的逻辑,如果农药被用于消灭害虫,则研发者无罪,但农药若用来杀人,研发者则应当承担间接故意犯罪的刑事责任,此说法显然不妥。实际上,农药一旦被研发出来,其后续的用途和产生的影响并不受研发者控制。概言之,当研发者设计了不以实施犯罪为主要目的的ChatGPT时,对于ChatGPT造成的法益侵害结果,研发者并无犯罪故意的心态。至于研发者的主观心理态度是否应当被认定为犯罪过失,尚需厘清。

(二)涉ChatGPT犯罪中研发者犯罪过失的认定

研发者以引发社会秩序紊乱为初衷研发ChatGPT时,对于ChatGPT造成的法益侵害结果,应以直接故意对研发者进行归责认定,但当研发者以促进科技进步和增进人类福祉为初衷设计ChatGPT时,对于ChatGPT造成的法益侵害结果,应排除研发者犯罪故意的主观罪过,至于研发者的主观罪过是否为过失,取决于其是否履行了相应的注意义务。

1.涉ChatGPT犯罪中研发者犯罪过失认定的理论滥觞

何为犯罪过失?《刑法》第15条第1款规定:“行为人应当预见自己的行为可能发生危害社会的结果,由于疏忽大意没有预见,或已然预见而轻信能避免而发生危害社会的结果的,是过失犯罪。”(7)《中华人民共和国刑法》 第15条规定:“应当预见自己的行为可能发生危害社会的结果,因为疏忽大意而没有预见,或者已经预见而轻信能够避免,以致发生这种结果的,是过失犯罪。过失犯罪,法律有规定的才负刑事责任。”原则上对行为人进行归责要求行为人主观上具有故意,但在“特别的规定”场合,行为人的过失也能成为对其予以归责的缘由。通常意义上过失犯的理论构造又可分为旧过失论、修正的旧过失论和新过失论3种样态。

脱胎于结果无价值论的旧过失论主张违法是客观的,责任是主观的,继而认为过失犯与故意犯在构成要件符合性阶段以及违法性阶段都是一致的,两者相异的是有责性层面[8]161。旧过失论将结果预见可能性的有无及程度作为认定过失责任的唯一限定条件,质言之,过失是行为人内心的不注意,倘若注意行为人便能预见结果,因而行为人没有预见而实施的行为致使结果发生,就应当进行法律上的非难评价。但是仅以结果预见可能性为基准判定过失犯,可能会出现法益侵害结果一旦产生行为人就成立过失犯的情况,况且结果预见可能性是一个并无明确标准的程度概念。这样一来,对于人工智能行业的从业者而言,就会出现一旦有法益侵害的结果,有结果预见可能性的从业者就应对该结果负责,这种倾向显然有结果责任之嫌。尤其是在科技高速发展的当代社会,尚存众多虽有结果预见可能性但无法归责于行为人的情况,比如ChatGPT本就是机遇和风险集一身的产物,研发者在研发时很轻易地便能预见ChatGPT可能会沦为犯罪分子的犯罪工具,倘若涉ChatGPT的犯罪一出现,就对研发者进行追责,这无疑意味着对人工智能创新的抵制,现代社会即科技社会便无法构建。正是出于这种考虑,将过失犯的核心定位于结果预见可能性的旧过失论明显不妥[8]161-162。

修正的旧过失论认为过失犯的客观构成要件是没有履行结果回避义务,而其责任层面的判断是行为人对结果是否具有预见可能性。修正的旧过失论将过失犯的判断从责任层面提前到行为层面,尤其重视对实行行为的强调,认为一旦行为人的具体行为与标准模式一致,行为人的行为就不存在过失,从这个角度看,修正的旧过失论有其合理之处。现在的问题是,其对过失犯实行行为的探讨其实已经偏离结果无价值论的思考逻辑,转向了行为无价值二元论的思考方法,将其称为旧过失论的修正理论名不副实[14]。

溯源于行为无价值论的新过失论认为过失犯和故意犯在违法类型的构成要件阶段就有差异[15]714。新过失论强调过失犯认定的核心并不在于结果预见可能性,而在于结果回避义务。该说认为行为的违法性在于未遵守规范。质言之,只要行为人的行为并未逃脱基准规范行为,就无构成要件且违法的行为。关涉结果回避义务的认定,应依照行为人所处社会一般人需要遵守的社会准则来确定。将结果回避义务作为行为基准来设定注意义务的新过失论,能在构成要件该当性阶段就对过失犯的成立范围予以限制,从而防止过失犯泛滥,符合司法实践需求。尽管新过失论的初衷在于限制过失犯处罚范围,但可能会在公害或者药害事件中出现一旦有发生某种危险的抽象可能性,就恪求行为人实施去除此种抽象危险可能性的行为,即所谓的“危惧感说”。值得注意的是,新过失论和具体预见可能性间并无必然性的理论结合,本质上更容易转为“危惧感说”。而“危惧感说”并不具体研究行为时的预见可能性,持一旦有某种危惧感就要求行为人采取结果回避义务的观点,从责任主义的观点看,应对“危惧感说”持否定态度[9]209-211。风险社会下,以ChatGPT为代表的生成式人工智能在给人类带来福祉的同时,也可能带来无法预测且避免的消极影响。ChatGPT的诞生便意味着某种抽象危险可能性的存在,如果苛求研发者在研发之际就应实施去除此种抽象危险可能性的行为,显然十分荒谬。

鉴于关涉过失论构造的3种学说都有失周延,但又各有其合理性。对此,本文认为过失应属于责任层面的要素,理由在于过失、故意及无过失类型都属于责任构成要件要素。正因为如此,关于过失犯的刑法系统定位应属于责任构成要件要素。这其中仅仅将过失的核心定位于结果预见可能性的违反并不精确,事实上,过失犯的责任谴责根据在于以预见可能性为基础的结果回避义务的判定。因此,情景二中ChatGPT犯罪中研发者的主观心态是否为过失,应当以研发者是否在具有结果预见可能性和结果回避义务的前提下尽到了注意义务为判断基准。

2.ChatGPT犯罪中研发者注意义务的判定

ChatGPT犯罪中研发者的主观罪过是否为过失取决于研发者是否履行了相应的注意义务,根据对过失犯认定构造的厘清,可以得出对研发者注意义务的判断取决于对其结果预见可能性和结果回避义务的认定。具体而言,倘若研发者在设计ChatGPT时有相应的结果预见可能性和结果回避义务,研发者如若未能履行致使法益侵害结果发生则应以过失犯罪对研发者予以归责,但若是研发者履行了相应的注意义务则不应对研发者予以刑法上的归责[7]107。

关于ChatGPT犯罪中研发者注意义务的认定,应以相关的法律法规和行业规范为准。如果相应的法律法规及行业规范为ChatGPT的研发者设定了防止ChatGPT产出反社会语言的程序的义务,则研发者有义务为ChatGPT设置相应的抵制反社会语言的程序,对于研发者因未履行此义务而使得ChatGPT在使用过程中出现了法益侵害结果,应以过失犯罪对研发者予以归责,如若法律法规和行业规范未对研发者设定相应的注意义务,则应根据信赖原则对研发者予以免责。

为了提高科技创新水平,减轻科研人员过多的义务负担,应对ChatGPT的研发者适用合理范围内的“危险理论”。质言之,研发者虽然有预见危害结果发生的可能性,但并无刑法上的结果回避义务。根据信赖原则,研发者研发ChatGPT时,有足够的理由相信在ChatGPT的使用阶段各方主体均能遵守规则并实施恰当的行为,如若因为其他行为人的行为致使ChatGPT的使用产生了法益侵害结果也不能追究研发者的刑事责任,即研发者能够预见其他行为人可能利用ChatGPT实施违法犯罪活动,其也并无结果回避义务[8]169-170。

五、余论

ChatGPT等新一代生成式人工智能技术的产生暗喻强人工智能时代的来临,它虽给人类带来了前所未有的便利,但伴随而来的不安定犯罪因子需加以重视。尽管中国版的生成式人工智能ChatGPT尚未正式问世,但对ChatGPT等生成式人工智能犯罪中研发者不法与责任的判断,有助于提前防范技术风险。

在ChatGPT等生成式人工智能犯罪中研发者不法问题的研究中,鉴于“条件说”会扩大研发者的归因范畴以及“相当因果关系说”价值判断的模糊性,通过客观归责理论对研发者的研发行为与法益侵害结果之间因果关系进行辩证更具正当性。通过客观归责理论的辩证,可以得出情景一和情景二中研发者研发行为和法益侵害结果的产生之间具有刑法上的因果关系,而情景三和情景四中研发者的研发行为并没有制造法不允许的风险,因而研发者的研发行为并非法益侵害结果产生的原因。

在ChatGPT犯罪中研发者责任问题的研究中,情景一中研发者研发ChatGPT的初衷是引发社会秩序紊乱,因此在设计ChatGPT时就设置了反社会语言程序,使用者利用其实施犯罪,发生了法益侵害结果。在此种情景中,研发者对于ChatGPT造成的法益侵害结果都是持明知且肯定态度,所以研发者的主观心态为直接故意,理应承担直接故意的刑事责任。在情景二中,研发者研发ChatGPT的初衷是促进科技进步和增进人类福祉,其在设计ChatGPT时虽然未予以注入反社会语言程序,但也未设置抵制反社会语言程序,使用者利用ChatGPT实施犯罪活动,最终发生了法益侵害结果。在此种情景中,研发者研发以促进科技进步和增进人类福祉为目的的ChatGPT,其初衷必然不可能含有让ChatGPT实施犯罪的心理。对于ChatGPT由于其他因素而产生的法益侵害结果,研发者必然是持否定态度的,而非“放任”的主观心理,所以研发者的主观心态不可能是故意。至于研发者的主观心态是否为过失,则取决于研发者是否具有相应的注意义务,而研发者的注意义务取决于相关法律法规和行业规范的具体规定,如若相关的法律和行业规范并未有所规定,则应根据刑法上的信赖原则免除研发者的刑事责任。