法官V机器人:人工智能与司法裁判*
2020-12-09塔妮娅索丁史长青
[澳]塔妮娅·索丁 著 王 蕙* 李 媛 译 史长青* 校
一、导言
法官的角色很复杂,包括了司法能动、复杂的人际互动、纠纷解决、案件管理、公开和专门的教育活动、社会评论以及审判职能,其中审判职能可能需要与其他法官共同履行,或者在少数法域中与非专业人士(陪审团)共同履行。①(1)①参见Tania Sourdin and Archie Zariski(eds), The Multi-tasking Judge: Comparative Judicial Dispute Resolution, Lawbook, 2013.法官对每种活动的参与程度会因法域及法官的不同而不同。一些法官可能比其他法官更具有“响应性”(responsive),而另一些法官则可能展现出更多的情感和同情心,或是更倾向于恢复性司法——干预措施集中在强调“表达”(voice)和尊重的程序正义上。②(2)②关于司法角色和回应性的更广泛讨论见Tania Sourdin and Archie Zariski (eds) , The Responsive Judge: International Perspectives, Springer Nature Singapore, 2018.鉴于这种差异,使人难以确定人工智能(AI)的发展是否会重塑司法角色。但是,有学者认为,这种发展可能会改变角色的交互性,改变审判职能,甚至有可能将法官从审判职能中完全剔除。虽然“AI法官”或“AI司法”的发展尚处于起步阶段,但有迹象表明它的意义将更加明显,尽管还有些不受欢迎,但目前在某些类别的纠纷中已经发展引入了AI法官。①(3)①参见英国采取的战略方针:英国司法部(Ministry of Justice (UK)), Transforming Our Justice System: Assisted Digital Strategy, Automatic Online Conviction and Statutory Standard Penalty, and Panel Composition in Tribunals, Government Response Cm 9391, February 2017. 英国提出的线上自动定罪程序出现了一些批评者,使有关创建线上自动定罪程序和发展线上法院的立法停滞不前:参见John Hyde, Prison and Courts Bill Scrapped, The Law Society Gazette (online), 20 April 2017
就上述发展及与AI有关的发展而言,未来10年、20年或30年的裁判将涉及什么?更确切一点,是否还能够确保审判至少就某些类型的纠纷而言仍然是一项人类活动?在某种程度上,上述问题都可以通过审查当前律师、法院和其他人运用科技的最新情况得到解释。非常明确的是,司法和审判参与者的角色正在迅速地变化和更新,强大的科技已经重塑了司法体系的某些方面。虽然律师对于科技的运用可能不会立即导致司法角色的转变,但必然会改变某些司法职能的实践。举个例子来说,随着以预测编码②(4)②现适用于本文后面讨论的电子发现领域。、预测分析③(5)③如下文所讨论的,预测分析更侧重于对结果的预测。和机器学习④(6)④对机器学习的过程和系统更为完整的描述可参见Kevin D Ashley, Artificial Intelligence and Legal Analytics, Cambridge University Press, 2017.的形式越来越多地使用AI,这一转变表明使用AI的律师事务所正在改变着向法官提交材料以及评估客户风险的方式。
这些事态发展并非毫无争议。美国已经在用预测编码来认定在刑事案件中的累犯,这项技术对于判刑是有帮助的。⑤(7)⑤参见Adam Liptak, Sent to Prison by a Software Program’s Secret Algorithms, The New York Times (online), 1 May 2017
本文中的“AI”特指以创造智能机械为重点的科学、工程和技术领域,是一个包含了许多科学和技术分支的总括性术语,通常包括为确定结果而创建的复杂算法。AI可以涵盖机器学习、自然语言处理、专家系统、视觉、语音、计划的制定和机器人科学等多个领域。⑥(8)⑥Michael Mills, Artificial Intelligence in Law: The State of Play 2016 (Part 1) (23 February 2016) Legal Executive Institute
如上文提到的,在司法领域已经存在一些AI影响人类决策的例子。在美国以及其他一些法域(jurisdiction),①(11)①例如,在墨西哥,专家系统可以向法官和书记员提供“原告是否有资格获得养老金”的建议。参见Davide Carneiro et al, Online Dispute Resolution: An Artificial Intelligence Perspective, (2014) 41 Artificial Intelligence Review 211, 227-8.另参见参见Kevin D Ashley, Artificial Intelligence and Legal Analytics, Cambridge University Press, 2017.AI早已改变了司法决策的方式,预测性分析的发展使得法律部门能够对诉讼结果进行预测。②(12)②Cromwell Schubarth, Y Combinator Startup Uses Big Data to Invest in Civil Lawsuits, Silicon Valley Business Journal (online), 24 August 2016
二、技术发展的三个层次
正如前文所述,科技重塑司法系统的方式主要有三种。⑤(15)⑤参见Tania Sourdin, Justice and Technological Innovation, (2015) 25 Journal of Judicial Administration 96.首先,在最基本的层次上,技术可以对参与司法系统的人们提供信息、支持和建议(支持性技术,supportive technology)。其次,技术可以取代原本由人类执行的职能和活动(替代性技术,replacement technologies)。最后,在第三层次上,技术可以改变法官的工作方式并提供截然不同的司法形式(颠覆性技术,disruptive technology),尤其体现在程序显著变化和预测分析可以重塑裁判角色的地方。⑥(16)⑥该材料取自Tania Sourdin, Justice and Technological Innovation, (2015) 25 Journal of Judicial Administration 101-3,并进行了更详尽的论述。就裁判功能而言,正是在第二和第三层次上出现了有关技术对法官角色和职能影响的问题。从以上述分类方式来看,目前大多数受技术支持的司法改革都集中于技术创新的第一和第二层次,以上两个层次是否能够使用极简的AI形式是不确定的。例如,最新的技术发展补充并支持了许多以法院为基础运行的程序。第一层次的支持性创新,使得现在许多人能够在网络上寻求司法服务,并通过网络的信息系统获取有关司法流程、选择和替代方案(包括法律替代方案)的信息。人们也越来越多地在网上寻找并获得法律支持和服务,并且在过去三年中,可提供“非捆绑式”(unbundled)法律服务的线上律师事务所的增长十分显著。⑦(17)⑦参见如Lawyal Solicitors, About Us (2017)
一些网络信息(包括数字视频)、视频会议(包括群组在线视频通话)⑧(18)⑧可以通过Skype等订阅服务进行群组视频通话,用户需要高速宽带连接,并且必须符合设备硬件和软件的标准。参见Skype, Group Video Calls, (2018)
其他技术通过使人们能够获取由AI支持的更为复杂的在线“建议”,或者考虑各种选择性和替代性方案,或者以不同的方式参与其中,可以融入到“第三层次”,并支持谈判和司法程序。法律专家系统专注于预测分析,其最新发展为上述转变提供了技术支持。①(21)①参见Ravel Law, Ravel (2017)
在这种情况下,AI技术可以多方面地为法官提供支持并有可能取代法官,但其最初可能仅会影响较低级别的决策。技术的进步也存在着争议,如新西兰奥塔哥大学的阿利斯泰尔·诺特(Alistair Knott)在他研究的AI和法律项目中,提出了对使用计算机预测模型来解决国家事故赔偿计划中的索赔和索赔人诉求的相关担忧(事故赔偿公司“ACC”)。④(24)④参见University of Otago, Artificial Intelligence and Law in New Zealand
尽管在50年前就已经出现了AI技术,⑦(27)⑦法律人工智能的发展历史,参见Pamela N Gray, Artificial Legal Intelligence, Brookfield, 1997, ch 2.但直到十年前AI才开始运用于司法体系以外的程序当中。近来,AI技术在司法领域中一直致力于技术和法律分析。最初,AI技术很可能是将重点放在法官承担的任务或部分分析职能上,显然,已经用于文档发现(document discovery)的AI技术是可能改变某些司法工作的。当前的文档发现程序利用预测编码来读取和分析数百万页的已发现文档,并且其用来选择相关材料的时间只是人力所需时间的零头。⑧(28)⑧Tania Sourdin, Justice and Technological Innovation, (2015) 25 Journal of Judicial Administration 103.在民事纠纷中,可以用这项技术对民事法律文件进行搜索,评论员们早就预测到,法律领域将会使用智能机器生成法律文件并且预测法律结果(预测分析),并且使用将更加频繁。⑨(29)⑨John O McGinnis and Russell G Pearce, The Great Disruption: How Machine Intelligence Will Transform the Role of Lawyers in the Delivery of Legal Services, (2014) 82 Fordham Law Review 3041.AI不需要休息,也不需要睡觉,可以不停地工作,因此AI技术与人类相比在时间和成本效益上具有更大的优势。⑩(30)⑩John O McGinnis and Russell G Pearce, The Great Disruption: How Machine Intelligence Will Transform the Role of Lawyers in the Delivery of Legal Services, (2014) 82 Fordham Law Review 3041.如上所述,在法律界之外,自动化计算机系统在政府行政管理中也变得丰富多产,表现在其将可以在无需人工干预的情况下处理交易,处理申请并且做出决策。(31)Justice Melissa Perry, iDecide: Administrative Decision-Making in the Digital World, (2017) 91 Australian Law Journal 29, 30.
三、线上法院和线上纠纷解决机制的影响
技术所带来的其他压力使人们开始对司法角色重新进行考量,也与创造新的法院环境息息相关,人们在此压力下越来越关注线上法院及其提供的服务。(32)参见英国政府司法部(Ministry of Justice of the Government of the United Kingdom)、英国法院(Her Majesty’s Courts)以及法庭服务部(Tribunal Service), Transforming Our Justice System, Policy Paper, September 2016.这些压力在一定程度上是对越来越多的法律援助未得到满足的反映,也是对人们更加轻易地诉诸司法以解决纠纷的担忧,还是对法院诉讼和仲裁中线上纠纷解决系统大规模增加的回应。①(33)①参见如Tyler Technologies, Modria (2018)
英国民事司法委员会建议将标的额不超过25,000英镑的民事纠纷引入英国的HMOC(Her Majesty’s Online Court)。③(35)③Online Dispute Resolution Advisory Group, Online Dispute Resolution for Low Value Civil Claims, Report, Civil Justice Council, February 2015, 6-7.他们打算采用分级体系运作:第一级允许当事人通过在线上系统中录入相关信息来对其问题进行评估,该系统能够对问题进行分类,提供与其有关的权利、权益信息,并提出解决争议的实用性建议。④(36)④Online Dispute Resolution Advisory Group, Online Dispute Resolution for Low Value Civil Claims, Report, Civil Justice Council, February 2015, 19.第一级鼓励当事人根据系统提供的信息自行解决争议。第二级是由协调员在线审查争议双方提供的信息和文件,并通过调解、建议或鼓励谈判来协助解决问题。⑤(37)⑤Online Dispute Resolution Advisory Group, Online Dispute Resolution for Low Value Civil Claims, Report, Civil Justice Council, February 2015, 19-20.第二级让人联想到与法院相关的非诉纠纷解决机制(ADR)。第三级也是最后一级,由法院的法官在当事人提交的电子文件、电子诉状及主张以及电话会议的基础上进行在线裁判。⑥(38)⑥Online Dispute Resolution Advisory Group, Online Dispute Resolution for Low Value Civil Claims, Report, Civil Justice Council, February 2015, 20.这项裁判具有约束力和执行力,其与在实体法院中作出的裁判具有同等效力。布里格斯(Briggs)大法官则建议引入一项类似的模式。⑦(39)⑦Lord Justice Briggs, Civil Courts Structure Review: Interim Report, Report, Judiciary of England and Wales, December 2015, 76; Lord Justice Briggs, Civil Courts Structure Review: Final Report, Judiciary of England and Wales, July 2016, 58.该提案呼吁在第三层级设立面对面听审作为最后的救济手段,⑧(40)⑧Lord Justice Briggs, Civil Courts Structure Review: Interim Report, Report, Judiciary of England and Wales, December 2015, 78.该提案还包含有关在线法院如何允许诉讼人将裁决上诉到主流法院系统的细节。⑨(41)⑨Lord Justice Briggs, Civil Courts Structure Review: Interim Report, Report, Judiciary of England and Wales, December 2015, 86.布里格斯(Briggs)大法官指出,法院将要求法官采取较少对抗性和更多调查性的方法。⑩(42)⑩Lord Justice Briggs, Civil Courts Structure Review: Interim Report, Report, Judiciary of England and Wales, December 2015, 78.英格兰和威尔士在2017年已经放弃引入AI法官以解决某些类型争议的计划(与上述引入在线纠纷解决机制有关的争议较小但重大的措施还在进行当中)。(43)参见John Hyde, Prison and Courts Bill Scrapped, The Law Society Gazette (online), 20 April 2017
维多利亚州最高法院首席大法官沃伦(Warren)提出了另一种技术运用模式:即分布式法庭(the distributed courtroom)。(44)Chief Justice Marilyn Warren, Embracing Technology: The Way Forward for the Courts, (2015) 24 Journal of Judicial Administration 227, 232.这种模式的核心仍然是实体法庭,但参与者会被真人大小的屏幕或全息投影所取代,以确保法官、律师、陪审团成员和当事人可以在其方便的任何地方出庭。在线视频会议技术(例如Skype)能够简化该模型,但法院依然可以选择实体法庭裁判并且要求本人亲自出庭。如果法院能够按照以上模式有效运行,那么向AI法官过渡的基础其实就已经存在了。AI法官作为线上法院程序的中心将允许诉讼当事人远程向系统提供信息,并且由程序自身作出裁决。
同样,在线争议解决(ODR)的发展(一种ADR形式,即当事方使用互联网和技术来帮助其廉价有效地解决纠纷)也可能通过在其中建立机制或平台来支持和促成AI的发展,并使其茁壮成长。由于ODR程序可以通过网络连接远程进行,因此在ODR程序中不需要当事人之间见面。ODR程序中早就使用了AI决策系统,这些系统也被称为专家系统,它由某领域的专家进行规划,并拥有基于规则的算法来帮助该系统依据双方当事人提供的信息做出裁决。莱格(Legg)解释说,这些程序是“通过访谈式问题从当事人处收集案件事实,并根据决策树分析来得出答案”。①(45)①Michael Legg, The Future of Dispute Resolution: Online ADR and Online Courts, (2016) 27 Australasian Dispute Resolution Journal 227, 228.
在荷兰,一种结合了ODR组件的被称为Rechtwijzer的高级ADR程序,能够为处于分居或者离婚过程中的夫妻提供帮助。Rechtwijzer会就当事人以及他们之间的关系进行提问,并基于录入的信息给出选择方案。②(46)②EsméeA Bickel, Marian A J van Dijk and Ellen Giebels, Online Legal Advice and Conflict Support: A Dutch Experience, Report, University of Twente, March 2015, 5.这一程序也能够“提供信息、工具、其他网站的链接和私人建议”,从而鼓励当事人自行解决彼此之间的争议。如果争议未能获得解决,作为最后一步,Rechtwijzer将向各方当事人提供专业第三方的信息和联系方式,如调解员、律师(legal representitives)和其他纠纷解决机制。③(47)③EsméeA Bickel, Marian A J van Dijk and Ellen Giebels, Online Legal Advice and Conflict Support: A Dutch Experience, Report, University of Twente, March 2015, 4.对Rechtwijzer的评估发现,参与者对他们的体验感到满意,④(48)④EsméeA Bickel, Marian A J van Dijk and Ellen Giebels, Online Legal Advice and Conflict Support: A Dutch Experience, Report, University of Twente, March 2015, 22.但大多数人仍然认为需要对通过该系统达成的协议进行第三方审核。⑤(49)⑤EsméeA Bickel, Marian A J van Dijk and Ellen Giebels, Online Legal Advice and Conflict Support: A Dutch Experience, Report, University of Twente, March 2015, 31.尽管Rechwijzer将在很大程度上被新系统和在线安排所取代,但其创建者注意到,这种ODR安排成功的主要障碍在于法院、律师和政府无力全面采用这些类型的创新。⑥(50)⑥参见Maurits Barendrecht, Rechtwijzer: Why Online Supported Dispute Resolution Is Hard to Implement, Roger Smith, Law, Technology and Access to Justice, 20 June 2017
ADR的这些发展也表明,未来AI系统将有可能被进一步引入法律实践。如果这些技术在ADR领域可以有效利用,那么将AI程序引入法院系统也是可行的。设计者和实施者可以借鉴ADR程序的这些经验来完善所有的AI法官程序,或者可以选择更加专业的AI设计来帮助司法人员,并且从上述筹备失败和成功的相关经验中吸取教训。
四、法官的替代者
如上所述,不断更新的技术可以帮助人们尽快解决纠纷或完善需要提交给法官的争点。例如,技术可以帮助人们开发选择方案并使用AI来开发替代方案,并且可以运用于评估、咨询和决策程序当中。在这方面,一些颠覆性技术与“法律人工智能”(Artificial Legal Intelligence,ALI)相关联,可以被视为有能力提供专家法律咨询或决策的系统。⑦(51)⑦Richard Susskind, The Future of Law: Facing the Challenges of Information Technology, Clarendon Press, 1996, 120-1. 专家系统和基于知识的系统可在法律背景下被运用于“解决问题、提供建议并承担各种各样的其他工作”,这直接支持了作者本文的主张,即ALI可能提供“一个具有提供专业的法律咨询或决策能力的系统”(第121页)。
人工智能对司法系统的影响是十分显著的,因为它有能力与现有的司法程序或非司法程序相融合,同时,当一些人类决策和分析过程被技术取代时,有人开始质疑AI程序是否会对律师和法官的角色产生影响⑧(52)⑧Susskind预测司法领域将发生重大变化,参见Richard Susskind, Tomorrow’s Lawyers: An Introduction to Your Future, Oxford University Press, 2nd ed, 2017; Richard Susskind, The Future of Law: Facing the Challenges of Information Technology, Clarendon Press, 1996, 120. 另参见Richard Susskind, Transforming the Law: Essays on Technology, Justice and the Legal Marketplace, Oxford University Press, 2000.。人们普遍赞同技术对司法以外的部门可能有着显著的影响,许多人预测,随着AI所支持的程序逐渐取代日常的工作,AI和其他的技术进步意味着在20年内很多当前的岗位将不复存在。①(53)①Tony Dolphin(ed), Technology, Globalisation and the Future of Work in Europe: Essays on Employment in a Digitised Economy, Institute for Public Policy Research, 2015, 45.然而,到目前为止,关于较高级别法律部门的角色,以及这些发展(包括AI法官的创建)是否意味着司法工作会完全被新技术取代而发生变化的讨论却很少。
显然,未来司法工作的某些方面将由技术流程来主导,特别是在可以构建AI系统的地方。在这方面,法律信息和AI系统已经可以使用复杂的“分支”(branching)和数据搜索技术来创建精密的“决策树”(decision trees),为争议的处理结果提供建议。②(54)②参见Kevin D Ashley, Artificial Intelligence and Legal Analytics, Cambridge University Press, 2017.此外,更多先进的AI系统不仅可以模拟人类智能,还可以创建额外的不同的智能系统——神经网络。③(55)③参见如N B Chaphalkar、K C Iyer and S K Patil, Prediction of Outcome of Construction Dispute Claims Using Multilayer Perceptron Neural Network Model, (2015) 33 International Journal of Project Management 1827.大体上,该AI系统会提出一系列的问题或者依据使用者现有的有关数据,提出与纠纷有关的问题,从而得出对纠纷确切的描述。随后,计算机将法律应用于争议描述,从而将特定事实套用法律规则得出结论。这一过程会得出指示性结论甚至可以得出最终的论断。最终,计算机可以根据给定的描述执行任务。④(56)④Sandra Wachter and Brent Mittelstadt, A Right to Reasonable Inferences: Re-thinking Data Protection Law in the Age of Big Data and AI, (2019) Columbia Business Law Review (forthcoming),研究了基于描述性数据和指导性描述而得出推论的相关问题。这样的系统可以不断更新和反思,因为机器学习使系统得以改进并不断使用新数据集进行修订。
然而,这是否就意味着法官将被技术所取代呢?可以说不是,或至少不是一开始就会被取代。部分原因在于影响司法决策的因素过多。澳大利亚法律改革委员会(Australian Law Reform Commission)指出,这些因素包括经验和直觉,以及评估决策的社会影响的能力。⑤(57)⑤Australian Law Reform Commission, Technology: What It Means for Federal Dispute Resolution, Issues Paper No 23 (1998) 101.但是,如果技术能够支持决策(例如,使参与者更准确地识别潜在结果),那么他们在某些争议中(特别是在家庭领域中)⑥(58)⑥参见Legal Services Society, Separation, Divorce & Family Matters, (2018) MyLawBC
这些类型的技术都已经被试用⑦(59)⑦参见John Zeleznikow and Emilia Bellucci, Family_Winner: Integrating Game Theory and Heuristics to Provide Negotiation Support in Danièle Bourcier (ed), Legal Knowledge and Information Systems-JURIX 2003: The Sixteenth Annual Conference, IOS Press, 2004, 21; John Zeleznikow et al, Bargaining in the Shadow of the Law: Using Utility Functions to Support Legal Negotiation, Paper presented at International Conference on Artificial Intelligence and Law, New York, 4-8 June 2007, 237-46.,但是由于连接性、文化、技术存储和访问问题,到目前为止,这些技术的推广受到了限制。但是,随着人类在技术上的联系越来越紧密,并且能够更好地存储数据,其中许多问题的重要性正在下降。此类程序将发挥越来越重要的作用,可能导致更多的诉讼案件转向ADR⑧(60)⑧参见Monidipa Fouzder, Briggs: Online Court Will Take the “A” Out of “ADR”, The Law Society Gazette (online), 26 September 2016
这种变化引发了有关法院和法官未来角色的争议,也引发了有关如何管理、分类数据以及行政、司法职能如何行使和如何分立的问题。此外,还存在有关知识产权(IP)、谁有权控制和输入外包的AI法官以及算法的透明度等问题(详见下文的讨论),这些问题在美国已经被提出。
此外,法官的工作不只是作出裁决或得出一个结果,他们在案件管理和纠纷处理中还发挥了重大作用。司法评论告知社会该如何运作,许多法官也发挥着教育职能,一方面使当事人和律师了解相关的诉讼方式,另一方面也致力于更广泛的公民教育。法官可以被人工智能取代这一观点的支持者,无疑忽略了法官对社会的贡献,这些贡献超越了裁判本身,一些与服从和接受法治有关的重要的却不易被察觉的议题被包括在内。
五、AI法官
即使是较为简单的审判职能也能清楚表明,许多司法职能的履行需要人类的智慧,而计算机程序还未发展到能够胜任这些职能或以达到同情心、情感和敏捷的反应与人类进行互动的程度。然而,是否有一天技术进步会使得程序化的AI在法院中代替人类法官主持听审并作出更为复杂的判决呢?那么,更富有情感的技术将以何种方式来帮助完成或支持这项工作呢?
哈维(Harvey)借助法律数据库中已有的算法示例,对AI法官需要进行的流程进行了简化描述。这些数据库采取自然语言处理,以便使用搜索词寻找相关材料。对AI法官的要求比这些数据库还要更进一步,先将反馈的资料减少至可管控的相关样本,然后配置工具将所得的法律资源与本案作比较,进行分析并确定结果。①(62)①David Harvey, From Susskind to Briggs: Online Court Approaches, (2016) 5 Journal of Civil Litigation and Practice 93.哈维(Harvey)解释说,最后一步需要“完善用于比较分析和预测分析的必要算法,并开发一种能够生成有益的且信息丰富的结果的概率分析形式”②(63)②David Harvey, From Susskind to Briggs: Online Court Approaches, (2016) 5 Journal of Civil Litigation and Practice 94.。不过,在哈维(Harvey)的模型中,人类法官的决策在很大程度上获得了保留。
基于文本信息(预测分析),利用AI计算机程序对案件结果进行预测的实验已经完成。阿赖特拉斯(Aletras)及其同事共同开发了一个程序,该程序通过对欧洲人权法院审理的侵犯人权案件的裁判结果进行文本分析,发掘出判决模式。③(64)③Nikolaos Aletras et al, Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing Perspective, [2016] (October) PeerJ Computer Science 1, 15-16.这个程序学习了这些判决模式之后,能够预测以文本形式向其输入的案件的结果,且平均预测准确率为79%。④(65)④Nikolaos Aletras et al, Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing Perspective, [2016] (October) PeerJ Computer Science 11.在这一机器学习的示例中,计算机系统能够“分析过去的数据以形成可概括的、未来通用的惯常做法”。⑤(66)⑤Harry Surden, Machine Learning and Law, (2014) 89 Washington Law Review 87, 105.如前所述,机器学习使得计算机程序能够通过经验,而不是手工输入计算机函数来完成复杂的任务。⑥(67)⑥Harry Surden, Machine Learning and Law, (2014) 89 Washington Law Review 89; David Silver et al, Mastering the Game of Go with Deep Neural Networks and Tree Search, (2016) 529 Nature 484, 489.素登(Surden)指出,在开发能够有效预测法律结果的AI时,机器学习或许会受到一些限制。机器学习技术仅在分析过的信息与提供给AI的新信息相似的情况下可以发挥作用。如果向AI输入的是不同于原先案例的新案件,则机器学习技术不适合进行预测或得出案件结果。⑦(68)⑦Harry Surden, Machine Learning and Law, (2014) 89 Washington Law Review 105.在案例数量不足以使计算机程序发掘模式并创建有效概括的情况下,也可能出现这些问题。⑧(69)⑧Harry Surden, Machine Learning and Law, (2014) 89 Washington Law Review 105-6.
但是,AI研究人员已经在法律以外的其他领域取得了许多明显的成功,这些成功表明,即便是在新颖性方面存有显著差异的情况下,预测分析也可以被“习得”。最近,Google旗下DeepMind公司的研究员成功开发了名为AlphaGo的AI程序,“直接凭借对围棋规则的监督学习和强化学习方法”构建程序的神经网络,在复杂的围棋游戏中,AlphaGo可以达到超越欧洲围棋大师的围棋技艺水平。⑨(70)⑨David Silver et al, Mastering the Game of Go with Deep Neural Networks and Tree Search, (2016) 529 Nature 489.在医学领域也有许多事例,比如,AI被越来越多地应用在疾病诊断和与人类身体机能有关的领域。⑩(71)⑩参见如A N Ramesh et al, Artificial Intelligence in Medicine, (2004) 86 Annals of the Royal College of Surgeons of England 334; Meg Tirrell, From Coding to Cancer: How AI Is Changing Medicine, CNBC (online), 11 May 2017
六、伴随AI法官发展而产生的问题
除了与法官在社会中的整体职能有关的问题外,在人工智能发展与法官审判职能的背景下,还存在一些特殊因素。总体而言,这些因素表明AI能够替代某些审判职能,但由此产生的问题是,这样的替代是否恰当,在何种情形下人类法官的审判职能应当被最大程度地保留。
(一)合法权力(legal authority)
首先要解决的问题是,计算机程序或自动化处理是否拥有代替人类法官作出裁判的合法权力?针对一个作出行政决定的自动化系统,佩里(Perry)大法官提出了如下问题:“谁”作出了这项决定,谁享有作出这项决定的合法权力。②(73)②Justice Melissa Perry, iDecide: Administrative Decision-Making in the Digital World (2017) 91 Australian Law Journal 31.是计算机程序设计者,政策制定者,人类决策者,还是计算机或自动化系统本身。
立法者已经消除了这个问题的部分复杂性。例如,根据《治疗产品法》(Therapeutic Goods Act),计算机程序做出的决策被视为部长(Secretary)的决定。③(74)③Therapeutic Goods Act 1989 (Cth) s 7C(2).但这样的拟制条款在实际诉讼中的效果如何仍是未知的。
大法官柯比(Kirby)在1999年的文章中指出,公众的需要以及审判的公开性可能会给电子法庭的采用带来困难:
人们有权看到司法决策者以公开方式审慎地认定案件细节,是法院制度不可废弃的特征之一,至少不能冒着让人民接受法院是政府治理手段之一部分的风险。④(75)④Justice Michael Kirby, The Future of Courts: Do They Have One?, (1999) 8 Journal of Judicial Administration 185, 188.
对于国家司法权力的管理而言,如果没有一个公开的法庭,那么这些权力的行使是否会被民众接受?首席大法官沃伦(Warren)的答案是肯定的:几乎没有人会亲自参加庭审,而且,越来越多的信息和资讯来源于包括社交媒体在内的网络媒体。⑤(76)⑤Chief Justice Marilyn Warren, Embracing Technology: The Way Forward for the Courts (2015) 24 Journal of Judicial Administration 233.再者,在当今这样一个与网络联系日益密切的社会中,具有AI裁决程序的线上法院系统并不会被认为是不合适的。
(二)法律转换为代码
评论者们对于如何准确地将法律转换为代码、命令等计算机程序能够识别的语言,产生了疑问。⑥(77)⑥Justice Melissa Perry, iDecide: Administrative Decision-Making in the Digital World (2017) 91 Australian Law Journal 32.法律语言是严谨的,并且通常需要结合语境进行理解(详见下文讨论)。计算机程序员以及IT从业者中鲜有具备法律资格或经验的人,也少有政策和行政方面的专家。然而,正是这些专业人员负责将制定法和判例法转换为自主决策过程所需的计算机代码和命令。这些法律渊源不仅自身复杂,而且还要依靠法律推理和自由裁量来发挥作用。因此,将上述复杂性准确无误地转换为代码并编入自主程序中本身就是一项挑战。正是因为这些挑战,有评论者指出,那些更具规制性的(regulatory)法律领域可能更适合被转换成计算机代码。⑦(78)⑦Chief Justice T F Bathurst, iAdvocate v Rumpole: Who Will Survive? An Analysis of Advocates’ Ongoing Relevance in the Age of Technology, Speech delivered at the 2015 Australian Bar Association Conference, Boston, 9 July 2015, 4 [13].
类似地,频繁颁布的法律修正案、新的判例和复杂的过渡性条款,使得这些代码需要经常更新。自主系统也应当具备运用不同时期的法律的能力,以确保案件裁判的依据是案件行为发生时的法律。在律师和政策制定者参与这些计算机程序的创建和更新时,可能会遇到上述问题。①(79)①Justice Melissa Perry, iDecide: Administrative Decision-Making in the Digital World (2017) 91 Australian Law Journal 32.
(三)裁量性判决
在法律体系内,许多判决的作出都涉及自由裁量权。计算机程序基于逻辑运行,将输入的数据经过程序算法的处理,从而获得确定的结果。这种严格性与裁量性决定无疑是不相容的。裁量性决定需要考虑社会价值、当事人的主体特征以及其他相关情况。
佩里(Perry)大法官建议立法者和行政人员,以更多的强制性规范代替任意性规范,以便借助自动化决策提高工作效率。②(80)②Justice Melissa Perry, iDecide: Administrative Decision-Making in the Digital World (2017) 91 Australian Law Journal 33.这些修正案将简化法律,并使法律条文更具确定性从而确保计算机更好地运用法律。③(81)③Andrea Roth, Trial by Machine, (2016) 104 Georgetown Law Journal 1245, 1266.但是,一旦失去个别化司法、自由裁量以及法律条文上的细微差异,这些修正案很可能导致不公正的或武断的裁决。
同时,这里还存在裁判的通用形式和偏见问题。正如笔者之前提及的,④(82)④参见Tania Sourdin, Decision Making in ADR: Science, Sense and Sensibility, (2012) 31(1) Arbitrator & Mediator 1.裁判会受到一系列因素的影响,但引入AI后,这些影响将可能不复存在(尽管如前文所述,AI的流程也可能导致被偏见影响的结果)。正如人们在接近正义运动(access to justice movement)中所指出的,法院裁决的结果显然会受到许多因素的影响,这些因素包括代理人的素质、当事人可资利用的资源、决策的质量以及周边的权利基础框架。⑤(83)⑤进一步的讨论参见Tania Sourdin, The Role of the Courts in the New Justice System, [2015] Yearbook on Arbitration and Mediation 95.除此之外,司法决策还可能被影响实体正义的因素左右。⑥(84)⑥Tania Sourdin, Decision Making in ADR: Science, Sense and Sensibility, (2012) 31(1) Arbitrator & Mediator 1.
其中,影响决策主体的因素包括:一个人进食的时间及内容;一天中的某个时间段;一个人当天已经作出了多少裁判(决策疲劳);⑦(85)⑦参见John Tierney, Do You Suffer from Decision Fatigue?, New York Times (online), 17 August 2011
这些因素对法官的影响程度尚不明确,但是,即使法官已经意识到这些因素,也会低估它们所造成的影响。(91)Timothy D Wilson and Daniel T Gilbert, Explaining Away: A Model of Affective Adaptation, (2008) 3 Perspectives on Psychological Science 370.这种现象产生的部分原因是,我们倾向于夸大自身的积极品质,而不愿意接受他人对我们的积极品质提出的质疑。(92)关于这种现象的有趣探讨,参见David Brooks, The Social Animal: The Hidden Sources of Love, Character, and Achievement, Random House, 2011, 220.
技术和偏见问题也是现实存在的,而且人们担心,即使用AI代替人类进行司法审判也不一定会减少自由裁量情形下的偏见。目前正在使用的一些AI形式已经证明,使用AI也很可能产生带有偏见的结果,程序员和其他人很可能会在不经意间复制偏见。这些问题还表明,算法可能会产生一些有害结果,加深种族歧视,造成错误裁判。①(93)①参见Sam Levin, A Beauty Contest was Judged by AI and the Robots Didn’t Like Dark Skin, The Guardian (online), 9 September 2016
(四)句法和语义
顺着相似的思路,AI在法律领域中的应用可能面临句法和语义之间的哲学区别问题。赛尔(Searle)曾指出,计算机程序具有句法(一种正式的运算结构),但不具有语义(这些运算背后的含义)。③(95)③John Searle, Can Computers Think? in David J Chalmers (ed), Philosophy of Mind: Classical and Contemporary Readings, Oxford University Press, 2002, 669, 671.数字技术以1和0的抽象符号处理信息。技术具有处理和操控这些符号的能力,但并不理解这些处理背后的含义。换句话说,机器无法理解其正在处理的信息。相比之下,人类思维却能够理解其处理的信息。
这个问题意味着,计算机程序虽然能够模仿人类思维方式,但要真正复制人类思维方式还需要一段时间。④(96)④John Searle, Can Computers Think? in David J Chalmers (ed), Philosophy of Mind: Classical and Contemporary Readings, Oxford University Press, 2002, 673.然而,毫无疑问,随着人类决策所需的信息变得越来越复杂(即涉及许多复杂的数据源),⑤(97)⑤近年来,法官可能需要考虑的信息有所增加。比如,参见Jason Tashea, New York Considers “Textalyzer” Bill to Allow Police to See if Drivers Were Texting Behind the Wheel, ABA Journal (online), October 2016
七、支持法官的技术
如上所述,尽管在司法工作的某些方面,AI有取代人类司法职能的可能性,但技术上的进步更有可能为人类法官的司法工作提供支持。在这方面,许多评论家已经指出,AI系统的研究目的应当是辅助人类工作进而提高效率,而不是完全代替人类。⑥(98)⑥Harry Surden, Machine Learning and Law, (2014) 89 Washington Law Review 101.这些发展表明,在某种程度上,就AI法官而言,“协作机器人”(co-bots)将比机器人发挥更重要的作用。
能够基于输入的信息进行决策的AI程序可以用来帮助人类法官,而不是代替他们。这些程序会根据系统决策结果提供判决草案。⑦(99)⑦参见Tania Sourdin, Justice and Technological Innovation, (2015) 25 Journal of Judicial Administration 102. 另参见Kevin D Ashley, Artificial Intelligence and Legal Analytics, Cambridge University Press, 2017.然后,人类法官可以利用该草案形成自己的推理,这样一来既实现了人类对计算机程序的监督,也能确保对案件进行计算机程序能力范围之外的自由裁量或社会因素考虑。
对法官工作可能有所助益的进一步的技术发展是超人类主义。尽管听起来像是科幻小说中的概念,但超人类主义的哲学和科学旨在“通过应用理性(applied reason)从根本上改善人类自身条件,特别是通过开发和制造可广泛使用的各种技术来消除衰老,提高人类智力、体力和心理能力”。⑧(100)⑧Nicholas Agar, Whereto Transhumanism?, The Literature Reaches a Critical Mass’ (2007) 37(3), The Hastings Center Report 12, 12.这方面的技术进步可能会让未来的法官将计算机电路和程序嵌入其身体里,或通过改变法官的身体、基因组成来提高其智力、记忆力和管理、处理信息的能力,并减少疲劳的产生。①(101)①参见如Daniel McIntosh, Human, Transhuman, Posthuman: Implications of Evolution-by-Design for Human Security, (2008) 4(3) Journal of Human Security 4, 10.
八、结论
也许更重要的问题并非技术“是否”将重塑司法职能,而是技术会在“何时”、何种程度上重塑司法职能。在这方面,颠覆性技术正在重塑诉讼事务。②(102)②参见如Maggie Tamburro, The Future of Predictive Coding——Rise of the Evidentiary Expert on IMS ExpertServices, BullsEye (26 June 2012)
一些将标的额较低的纠纷类型(例如保险纠纷)移交给法庭和委员会的政策举措,意味着司法工作在接下来的二十年里可能会继续发生变化,很可能的情况是,AI首先在法庭和其他纠纷解决场合发挥显著作用,然后再被运用到法院。然而,这些变化意味着随着更偏重预测分析的AI支持系统在行政决策领域的广泛应用,以及法院在线平台的辅助,AI法官将首先在小额民事案件中产生重要影响。⑥(106)⑥重要的是,英国民事司法委员会(the UK Civil Justice Council, CJC)关于“小额民事索赔的在线争议解决”的报告建议为标的额低于25,000英镑的民事纠纷建立一种新的基于互联网的专门法院服务。参见Online Dispute Resolution Advisory Group, Online Dispute Resolution for Low Value Civil Claims, Report, Civil Justice Council, February 2015, 3. 该报告区分了将ODR纳入司法系统的两种方法:第一种方法涉及技术的应用,以求改善如今已经存在的技术。通过这种方式,将IT引入现有的工作实践中,从而替代或增强现有的系统。IT在法院中的第二种用途是使服务能够以全新的方式交付。当以此为目标时,它鼓励创新和富于想象力的思维,并敦促改革者从一张空白的纸重新开始。CJC的建议实质上在第二种方法中更多地考虑了颠覆性技术,并在第4点进行了说明:我们提出了使用ODR技术来管理司法的新方法。因此,与目前民事司法系统中正在进行的许多项目进行比较(我们得出了如下结论)——那些(正在进行的)项目属于我们(提出的)的第一种(方法),并且正在追求将法院的传统操作系统化。如果一开始就将AI法官(或者是“AI裁判”)限制在小额案件中,那么就会产生这样的问题,AI法官将会在何处止步?更大标的额、更复杂的案件将如何处理?将在多大范围内保留司法审查?在这方面,人类似乎更能接受非法律领域中AI和机器人对人类功能的替代。在某些领域中,使用AI具有许多显而易见的好处,它比人类更准确、更高效,也更廉价。在涉及AI法官的情形下这一路径会被采纳吗?很可能会,特别当决策的作出主要涉及成本和时间的情况下(而不需要考虑人类法官可能为司法系统带来的更广泛利益)。
任何向AI法官的转变显然都会产生许多争议,目前为止有关这些争议的讨论还比较有限。①(107)①参见最近Richard Susskind向上议院人工智能特别委员会提交的编号为AIC0194的文件,Artificial Intelligence-Challenges for Policymakers, 6 September 2017
此外,坚持将AI法官与人类法官以某种方式区别开来的做法并无任何益处。如上所述,许多技术未来主义者认为,人类不一定会被AI取代。相反,人类的智慧很可能被技术进步所补充。这一路径意味着,法官可能依旧为人类,但会“被补充”,换句话说,他们的智慧以及分析能力将会得到AI的支持。这些支持手段又引出了关于司法任命、工作负荷、留任(retention)的问题,以及法官如何贡献于社会的更广泛的问题,还有响应式审判(responsive judging)的重要性,以及对人们在人类法官处理其纠纷时所经历的影响进行深入理解与探索的需求。