人工智能对我国司法实践的影响及其应对

2018-03-07苗芃

武汉交通职业学院学报 2018年1期

苗芃

(山东科技大学，山东青岛 266590)

人工智能起源于科学技术领域。互联网和云计算的升级，使得人工智能得到井喷式发展，并渗透到各传统行业。法律实践领域也不例外，杭州西湖区法院的机器人“书记员”，南京中院的“机器人法官”之争，广州白云区法院的导诉机器人“小法”等现象表明，人工智能已经越来越广泛的应用到司法实践。较之数据化、高重复的财务和保险行业，法律领域以其有限理性的特点，具有较强的技术免疫力。然而，人工智能正以其惊人的速度强化人类能力，提高劳动效率，这使得法律领域也不得不被这股无形的力量所吸引。中央政法委前书记孟建柱指出，要更加积极主动拥抱大数据、人工智能新时代，把理念思路提升、体制机制创新、现代科技应用和法律制度完善结合起来，全面深化司法体制改革，努力创造更高水平的社会主义司法文明[1]。人工智能时代的到来是必然的，而法律与人类社会生活息息相关，如果司法实践领域一直固步自封、闭门造车，必然会被时代所淘汰。司法实践应与人工智能积极结合，鼓励科技创新，但应当注意的是，由于人工智能的超前性，司法实践发展不可避免地伴随着诸多风险和问题，需要法律承认和弥补监管的不足，预估未来监管的需要，确定审慎的监管方式，使人工智能时代的司法实践以更稳健的脚步前行。

一、人工智能助力我国司法实践的现状

(一)弥补人力不足，扩充司法队伍

以2015年和2016年为例，全国各级法院审结一审刑事案件分别为109.9万件和111.6万件，比上年增加了7.5%和1.5%，基层法院刑事法官人均年结案数量为200件以上，如此巨大的工作压力是一线法官不断流失的重要原因之一。面对这一问题，我国大力推进法官员额制改革，努力推动法官职业以及法官助理、书记员等辅助职业的专业化，但现阶段及今后较长一段时间内，很难彻底改变这一人力资源匮乏的现象。2017年7月20日，国务院印发的《新一代人工智能发展规划》中，关于“新一代人工智能关键共性技术的研发部署要以算法为核心，以数据和硬件为基础，以提升感知识别、知识计算、认知推理、运动执行、人机交互能力为重点，形成开放兼容、稳定成熟的技术体系”等一系列战略部署，给法律人从复杂繁重的工作中解救出来带来了曙光。2016年9月13日，浙江法院智能语音识别系统全面上线①，庭审记录方式迈入“智能书记员”时代，配合现有完善的高清数字法庭系统、庭审录音备份系统和“审务云”，形成了“视频+音频+文字”的全链路、多层安全、同步识别的智能记录体系。为提升当事人姓名、案件特定关键词的识别率，还可以提前导入案件起诉状等内容，让机器进行提前学习，目前整体识别准确率可以达到90%以上。该智能语音识别系统有效推动了浙江法院的庭审记录方式从“绿皮车时代”迈入“高铁时代”[2]。

(二)强化智能监督，促进司法公正

十八大以来人民法院纠正的34起重大冤假错案，给司法权威和公信力造成极大的破坏。证据是诉讼的核心，由于事实不清、证据不足，容易使办案人员在搜集证据、分析证据、运用证据的过程中，忽视证据瑕疵、遗漏重要证据、错用关键证据，因此造成错判误断。从逻辑上讲，设定完备、正确的证据标准程序加上当今人工智能深度学习的能力，人工智能将该程序嵌入办案系统，引导办案人员依法、全面和规范的搜集、审查证据，可以避免因为人的认知局限性造成对证据认定的偏差。上海法院刑事案件智能辅助办案系统“206”工程，在新一轮司法改革的信息革命中走在试行前列。目前，206系统②基于对1.5万余份卷宗材料的学习，通过运用深度神经网络模型和图文识别(OCR)技术，初步实现了对印刷体文字、部分手写体文字、手印等证据的职能识别、定位和信息提取，对单一证据的自动校验。截至2017年6月底，上海刑事案件大数据资源库汇集了1695万条数据。与此同时，证据标准库、电子卷宗库将随证据标准的制定及开发的案由同步更新。该系统的定位是“智能辅助办案系统”，并不是机器定案量刑，但在未来社会信息愈加成熟的同时，人工智能运用计算法律以及算法裁判，或将可以实现自动执行，进而成为司法实践的终极形态。

(三)提高工作效率，提升司法服务

不只司法裁判需要人工智能，作为系统使用者的法官和律师群体也将成为人工智能的受益者。而韦伯所设想的：“现代的法官是自动售货机，投进去的是诉状和诉讼费，吐出来的是判决和从法典上抄下来的理由[3]。”尽管在目前阶段这个目标看似有些疯狂，但人工智能经过法律文件审阅和生成自动化两个阶段，目前可以实现“投进去的是合同文件，吐出来的是分析结果”。比如让律师头痛的文字多、价值低的合同分析，世界知名会计师事务所德勤借助学习合同分析系统Kira Systems，只要15分钟就可以读完，而人类律师却需要12个小时才能完成这项工作。智能机器通过学习算法的软件进行预测性编程，可以帮助律师及用户以更低的成本、更高的效率调查取证，进行法律风险的防范工作。人工智能系统随着算法的持续提高，未来若干年后，本应由法律人进行的诸如起草法律文件工作将由人工智能系统自动生成，实现“投进去的是合同文件，吐出来的是自动执行”，甚至很可能出现“无人律所”。

二、人工智能的超前性引发的司法实践问题

人工智能在给司法实践带来诸多便利的同时，也会给司法裁判与司法服务带来数据安全隐患以及法律职业危机等问题。虽然这些问题还没有切实显现出来，我们应该提前预测与应对智能时代对司法实践带来的冲击。

(一)人工智能的司法角色定位

我们国家在成为经济大国的同时，也已经成为诉讼大国，如何高效地利用裁判机关有限的司法人力资源，保证审理和裁判的高效与公正是司法体制必须要解决的问题，职业法官的司法水平有赖于法官助理和书记员审判辅助职业和事务性、程序性工作的支撑[4]。“智能书记员”是否可以助力于此问题的解决呢？笔者认为不能一概而论。首先，复旦大学肖仰华教授以基于语言认知的智能验证码③为例来探讨区分人机，他认为人工智能技术的发展使得机器感知能力达到甚至超越人类，基于感知能力的人机验证已然失效，传统验证码已经不再安全可靠，智能机器由于存在认知、推理能力方面的短板，在未来一段时间内难以企及人类水平。目前“智能书记员”是存在语速、分音技术瓶颈问题的。人工智能在计算与记忆等功能上的确强于人类，但其终究是以数据和算法进行运作，并不具有人类思考的决策和判断能力。因此，对于“智能书记员”是替代了人类书记员的工作，还是充当了人类书记员的角色，仍需要在法律上作出明确回应。

(二)人工智能的司法裁判限度

对于“司法裁判是否可能人工智能化”这个问题，从目前的理论与实践来看，答案是肯定的。而“司法裁判是否需要人工智能”，有必要考虑法律智能系统使用者(法官和律师群体)的需求[5]。从智能机器作为“辅助者”角色的角度出发，当系统使用者从智能机器获得需要的裁判信息后，这种人机配合的模式，加上法官裁量权的存在，即可达到公正裁判的效果，满足现实司法实践的需要。而研发的思想如果以人工智能等于“无人操作”为发展方向，期待通过高端技术供司法裁判自行运转，就会忽视了许多实质性问题，例如，智能机器通过数据、算法之类的高端技术，就一定能使裁判公正吗？智能机器不具有人类先天的情感，是否还存在自由裁量权？法官面对的每一个案件都是独特的，需要结合专业知识与非专业知识经验，抑或法理、常识和情理进行审判，于是便出现同类案件不同判决的现象。如此高深的裁判“技术”，人工智能是否可以完全胜任？即使智能系统的设计趋近完美，在实践中一旦超过一定的限度，在法官看来，即是对他们独立裁判权力的威胁。更重要的问题是，一旦机器误判，相应的负面影响由谁来担责？设计者？法官？还是机器？似乎都不合理。

(三)人工智能的司法数据风险

“我们正在进入算法而不是法律统治人的时代”[6]，“在网络空间中，代码就是法律”[7]等断言意味着人工智能时代大数据的产生，会给世界带来一定的极权效应。然而大数据不可避免的带有算法“黑箱”④的属性，在如此不透明的操作与管控之下，将产生对司法公信力的冲击。人工智能正在逐步取代人类的很多劳动，这些劳动又与人类生活数据密切相关，首当其冲则是人类的隐私数据。首先，在当今世界，大数据的主权者往往不是政府，而是企业。公权力部门热火朝天地建设全业务网上办理、全流程依法公开和全方位智能服务的智慧法院的同时，不得不求助于掌握众多公民数据的企业，因而企业也在一种合理化甚至默示批准的情形下“慷慨”地搜集与披露着这些数据，可见，法律领域在引入人工智能的同时，也可能会另犯一个被隐藏到合法化外衣下的错误，公民的个人数据处理似乎成为公民个人“自愿”接受的内容。其次，司法机关在运用人工智能导入案件信息供智能机器人处理的同时，有关当事人的法律数据与案件信息泄露风险尚没有有效的法律规制，而基于法律对于损害后果的回应性属性，一旦发生数据安全问题，对于案件将产生不可逆转的冲击。再次，由于法律的保守与滞后，一旦司法数据被应用于充满风险与不确定性的金融市场，数据主体之间似乎在进行一场赌博式的“合作”。现在已经存在智能财务机器人、智能驾校、无人驾驶汽车等“无人市场”，近日更有武汉无人警局、无人医疗的问世，然而并没有相关制度的出现。“无人市场”必然是拥有庞大数据信息的集大成者，对其进行及时与有效规制，才能有效防范社会风险和维持社会秩序。

(四)人工智能的职业替代危机

虽然目前计算机还不会完全取代律师和法官，因为依赖法律人进行的人际沟通工作和法官判断工作很难被机器取代，但这并不意味着未来某个时间点，随着科学的进步这种取代永远不会出现。据统计，由IBM研发的世界第一个人工智能律师Ross系统，可以替代美国律师70%的法律研究工作，而且准确率高达90%以上，远远高于顶尖法学毕业生从事同类工作的准确率。不只法律行业，在其他领域，当智能时代发展的如火如荼，而众多高校毕业生找不到工作，基层工作人员失业，随之带来的问题或将是科技的繁荣，人类的退步。教育工作不是一蹴而就的，它的脚步滞后于科学技术的发展，只是依赖教育工作，期待以培养高端复合人才来平衡时代发展带来的社会需要是远远不够的。

三、法律牵引智能司法时代理性前行

万物皆有两面性，对于人工智能对法律实践领域的介入，有支持有反对，有乐观有谨慎，无论人工智能时代多么先进与科学，在其发展过程中仍会出现不可预测性和潜在的风险性。英国下议院的科学和技术委员会(The House of Commons′ Science and Technology Committee)在2016年10月发布了一份关于人工智能和机器人技术的报告。报告认为，英国视自己为机器人技术和人工智能的道德标准研究领域的全球领导者，并且认为英国应该将这一领域的领导者地位扩展至人工智能监管领域[8]。尽管现在大部分机器人还停留在机械自动化或基础智能自动化，但面对自动化系统的飞速发展，即使我们目前并无成为全球领导者的宏伟目标，然而在自我管控范围内，是否应该学习英国的审慎态度，将自己视为人工智能的领导者？笔者认为将人工智能视为传统的“提线木偶”式的存在是很有必要的。人类有智慧和能力创造出人工智能，相应地也要有理智和方法控制人工智能，始终能够掌握手中“那根牵制的线”。法律需做这个掌握主动权的主体并抓住先机。

(一)基于人工智能工具属性进行“提线木偶式”定位

将人工智能定位为“提线木偶式”的存在进行论证是指智能机器拥有一定法律人格，但这种法律人格是有限的，就像动物，人类在有限范围内杀食，又在有限法律范围内保护。例如：饲养动物侵权，饲养人承担无过错责任。动物同样具有工具属性，但没有承担法律责任的主体属性，责任最终要归“实际控制人”。因此，人工智能的工具属性决定了其法律地位[9]。另外，机器人不可能比人更有道德，人类是可以从内心起源发散情感的灵长类动物，人工智能将智能局限于人类为它输入的数据。及时立法固然重要，但对智能产品设计模型的研发总是先于立法的，加强研发过程的规范标准尤为重要。比如Graceful AI以网络行为学策略相关原理(SCP)③为基本模型，其策略相关系数的上界是图博弈矩阵的最小特征值的倒数，下界是图博弈矩阵的最大特征值的倒数，以在这个上界和下界之间的亚里士多德的Golden Mean原则和孔子的中庸之道进行亲人类行为为Graceful AI的行为标准，并在此标准范围内，防止道德过载或道德负担不足。这从反面论证了智能法律实践需要明确法律规范，要求研发者坚守人类伦理及法律底线。

(二)基于人工智能辅助属性进行“穿透式”监管

毕竟人工智能在法律领域相比于法官来说是有所为有所不为的，让人工智能操控法官与其说是科技的发达，倒不如是法官的惰性使然[10]。充分利用人工智能的智能性辅助作用。需要在司法内部对法官应用智能机器进行规制，防止法官权力滥用；外部对智能机器设计及使用范围进行规制，以防智能机器在法律领域的过度干预。欧盟委员会致力于技术标准的国际统一，欧洲法律在对待大数据创新方面的保守立场，已经严重妨碍了欧洲的创新能力和经济发展能力[11]。但法律领域的人工智能规制如果缺乏统一标准，将会带来司法秩序的混乱。因此可借鉴金融领域的监管措施，即对行业在技术革新情境下的业务行为可能发生的变化，坚持积极引导和依法监管并举。对复杂法律业务采取“穿透式”监管[12]，一是建设基于大数据模型的法律风险实时监测处置平台，强化信息技术的应用，实现能够快速响应、自动预警的智慧监管。二是运用监管沙箱等新方式监管复杂的新型法律业务，透过业务的表象究其本质，用业务的本质属性来确定监管要求和监管分工，实现全覆盖式监管。

(三)基于人工智能风险属性进行“智能监督”

数据运用必然伴随数据安全问题，欧盟法律事务委员会呼吁成立一个专门负责机器人和人工智能的欧盟机构，以在保护数据安全的前提下又不禁止通过系统化使用这些数据来造福公众[13]。笔者认为法律与人工智能是两个领域的融合，若将法律凌驾于人工智能之上，及法律专门机构的干预，会阻碍技术的创新与进步，因此借鉴欧盟法律事务委员会建立一个旨在保护数据的监督机构是很有实践意义的。这个法律行业的数据监督机构，应是由政府部门、法律行业代表、非政府学术研究机构的研究者、代表最大部分服务公民的公共利益团体以及公民代表共同组建的一种共享监督平台。法律数据保护的最大受益者即公民隐私权，最大公信力的实现则是决策系统的透明化，算法透明度能够提高公众对司法职能机器的信赖程度。笔者认为可采用“智能监督”模式，即智能机器以其数据分析功能检测本身的数据公开限度，助力于共享监督平台，以智能化的即时、准确性监督倒逼各主体自律，更加明确责任承担，配合上述业务“穿透式”监管，进而提高风险意识，加强监督措施，将社会秩序划在法律保护的白线之内。

(四)基于人工智能替代属性进行“深度学习”创新

人工智能走在科技创新时代的前沿，法律人欣赏也好，抵触也罢，终究不能禁止其发展的步伐，这是必然的。人与人之间的竞争尚如此激烈，况且拥有所谓过目不忘等“超强大脑”的机器与人。笔者认为应采取理性态度接受智能时代的挑战，益则留，弊则弃。首先，这需要进行部门岗位调整工作，不但政府、法院、律所相互配合，还需要公、检、法相互协调，滋生新兴职业，为法律服务者和新型智能法律服务者之间建立平衡机制。其次，重视引进中高端人才，一些积极拥抱新技术的法律机构加强法律开发者、法律数据分析师、法律数据库管理者的加入，建立与机器人等技术紧密相关的企业招聘岗位、专业人才求职和高素质劳动力转岗再就业的专业信息平台[14]，以应对法律市场对既懂法律又懂技术的复合型人才越来越大的需求。最后，政府部门在加强技术创新资金支持的同时，对人才教育和培养的支持才是智能法律实践发展的制胜关键，例如，英国政府在高等教育层面中提倡科技教育的全额奖学金计划。笔者认为，法律与人工智能本为跨界知识的融合，创新复合人才教育培养模式的同时，必须加强法律人的深度参与和人工智能更“深度”的学习[15]，通过组织成立跨界研讨委员会、跨界人才培养机构，进行知识学习与融合以实现人工智能在法律领域的长足发展，以清醒地推进智能法律时代的稳步前进。

注释:

①孟焕良.浙江法院智能语音识别系统全面上线[N].人民法院报,2016-09-19.

②揭秘“206”：法院未来的人工智能图景——上海刑事案件智能辅助办案系统154天研发实录[EB/OL].(2017-07-10)[2017-10-24].http://www.sohu.com/a/155951090_170817.

③齐昆鹏.“2017′人工智能:技术、伦理与法律”研讨会在京召开[J].科学与社会,2017(2):124-130.

④Frank Pasquale:The Black Box Society:The Secret Al-gorithms That Control Money and Information.Harvard University Press,2015.

[1]本报评论员.主动拥抱新一轮科技革[N].人民法院报，2017-07-14.

[2]余建华.从“绿皮车时代”迈入“高铁时代”[N].人民法院报,2017-02-27.

[3]刘易斯·A·科塞，著.石人，译.社会学思想名家.北京：中国社会科学出版社，1990:253.

[4]张卫平.为司法的专业化职业化而奋斗[N].法制日报，2016-11-02.

[5]吴习彧.司法裁判人工智能化的可能性及问题[J].浙江社会科学,2017(4):51-57,157-158.

[6]郑戈.人工智能与法律的未来[J].探索与争鸣,2017(10):78-84.

[7]胡凌.大数据兴起对法律实践与理论研究的影响[J].新疆师范大学学报(哲学社会科学版),2015,36(4):108-113.