算法的法律规制研究

张志刚 施丽芳

引言

近年来，算法在各个领域的应用日趋广泛。算法为我们理解数据提供了帮助，这无形中带来了诸多益处，如创新生活模式、激励科学突破等。同时，算法也存在不少问题，如“信息茧房”效应、算法系统作为一个“黑箱”缺少透明性、算法歧视的产生、人类自我思考能力下降、加剧社会矛盾等等。美国当属最早针对算法进行规制的国家。美国计算机协会（ACM）于2017 年就有关算法透明度及可审查性方面，发布了七项基本原则，并增强了规制算法歧视的自律性 。同年12 月，《算法问责法案》 由纽约州议会通过，这是美国首个通过立法监管算法的法案。

本文以算法所引发的法律问题为出发点，即算法推荐致陷“信息茧房”、算法黑箱以及算法歧视，通过分析问题产生的原因及其危害，论证对算法进行法制规制的必要性，并试图提出对算法进行法律规制的建议。

一、算法的界定

（一）算法的内涵

算法（Algorithm）该词起源于9世纪的一位名叫阿布·阿仆杜拉·穆罕默德·伊本·穆萨·花剌子密的波斯数学家 ，其含义是阿拉伯数字的运算法则。在人工智能时代，以计算机程序代码为载体的“算法”被普遍应用。关于算法的概念，目前没有统一的定义。科尔曼所理解的算法一般是指解决某一特定问题而采取的有限且明确的操作步骤 。西普塞认为算法是为了把问题解决而输入的一套指令 。还有学者将算法理解为在有限的时间里逐步完成特定任务的过程。换言之，算法是在规定的步骤里，将输入数据进行一系列的分析、计算从而输出结果的过程。譬如，广泛应用于日常生活中的手机导航算法为路上的无数司机提供方向指引；美国IBM 公司的认知技术平台与Nextlaw Labs 合作开发的ROSS 系统，可以代替律师完成从法条、司法解释和判例搜寻到研读的一系列任务 。

（二）算法的意义

算法最初被人类设计出来便是为了推动人类社会的发展，具有诸多的积极意义。算法在我们的生活中扮演着日益重要的角色，涵盖教育、就业、新闻、住房、贷款申请、医疗卫生、政府决策、司法审判等等领域 。

第一，算法为我们的日常生活提供了更多的便利并大幅提升了效率。举例来说，在网络中传播的海量数据和信息会导致人们筛选出自身所需内容的任务加重，从而产生过度的疲惫感。而推荐算法能够根据用户的阅读习惯进行精准的推送内容，大幅降低了用户获取信息的成本，同时有效获取到用户自身所喜欢的内容。除此之外，操作系统的调度算法帮助我们顺畅地使用操作系统；看似平凡的文字处理工具在排版、修订方面能够节省很多的成本，等等。算法的正向价值在无形中不断扩大对社会的影响。

第二，算法技术合理应用于司法方面能够增强案件判决的公正性，同时案件处理效率也会提高。在西方国家，法律专家系统 被用于法官判决案件时对类似案件的检索，为司法资源和时间的节约产生了积极作用。在我国，最高院于2018 年发布的评价报告显示，全国“智慧法院” 已经初步形成。通过使用算法技术对大量案件的分析，法官可以获得一定的参考，从而有助于案件判决客观性的提升，推动司法公正的实现。譬如，在当事人到法院立案时，通过智能机器的导诉便可以迅速办理立案；在判决阶段，通过算法分析提供的判决结果能够为最终裁决提供参考，这些都能简化诉讼程序 。

算法产生的的积极意义远不止于此，社会日新月异的变化与算法息息相关，譬如政府利用算法进行行政管理，从而达到降低成本提高效率的目的，等等。

二、算法引发的法律问题

（一）算法推荐致陷“信息茧房”

推荐算法，是计算机专业中的一种算法，是指依据用户的某些行为进行一系列算法分析，从而推测出用户可能喜欢的东西 。而“信息茧房”的概念，最早是出现在桑斯坦《信息乌托邦》一书中，主要指信息传播中公众对信息的需求并非涵盖全部的，其只关心和选择能使自己愉悦的领域，长此以往，会将自身束缚在蚕茧似的“茧房”里 。大量信息通过信息技术在网络中传播，由该技术所营造的愈加自我的思考环境，有些人或许会为了躲避社会矛盾而变得独立。相同群体之间的沟通交流或许会因此更加高效，但相较于信息匮缺的时代，社会群体之间的沟通交流并不见得会更加顺畅。

我国发布的《2016 年中国互联网新闻市场研究报告》显示，互联网新闻已成为网民高频使用的基础类网络应用，而通过算法可以调整用户获取的新闻信息顺序，例如百度、谷歌等利用搜索引擎的方式对信息提供者和用户之间进行匹配 。在互联网时代，丰富的社会信息超过了个人或系统所能接受、处理、有效利用的范围，最终将导致故障的状态。应对这一现象，最理想的便是依据用户的喜好向其推送相关新闻。然而，近几年来，算法推荐变得不加节制甚至为引起用户关注而持续推送同类、劣质信息，这极易促使用户陷入“信息茧房”。《人民日报》于2017 年连续发布了三篇评论，针对通过算法向用户自动推荐信息的互联网业态提出批评意见，意在警示大家，不要受困于“信息茧房”，不要被算法左右我们获取的信息 。2016 年“魏则西事件 ”反映了算法推荐极尽追逐利益的写照。

（二）算法黑箱

作为一种隐喻的“黑箱”，已经被一部分人（算法设计者、开发者）知道，但另一部分人（受众或用户）不一定知道 。算法之所以被称为黑箱，大体上是由于算法自身的工作原理不为一般人所熟知，这使得算法缺少透明性而难以监管。有学者总结了三种形式的不透明性，其一是“固有不透明”，由算法自身的复杂性带来的；其二是“文义不透明”，产生于不同的技术认知水平；其三是“故意不透明”，产生于商业秘密或国家秘密 。

（三）算法歧视

算法歧视，是指那些可能导致不公正、不合理结果的系统性和可重复性出现的错误，其中最常见的是对不同的人产生不同的结果或是对两个条件相同或相似的人产生不同的结果 。例如，含有价格歧视因素的程序将出现“算法杀熟”现象，即同样的商品或服务，老客户看到的价格反而比新客户要贵出许多的现象。

算法的歧视风险来源之一是算法使用者或设计者自身的偏见，这种偏见编入计算机程序后，随着算法自身的不断学习可能会逐渐暴露出来并被放大，导致决策不公。正如腾讯研究院曹建峰先生所言，算法是“以数学方式或者计算机代码表达意见，包含其设计、目的、数据使用等等，这些都是由于设计者或开发者的自主选择，他们或许还会将自身的偏见嵌入算法系统 ”。其次，大数据并非万能药。社会中存在着歧视机制，挖掘数据的过程极易重现现有的歧视模式。即使没有经过手动编程，算法也可能会表现出这些趋势，无论是否有意。“大数据集”的不完备性在一定程度上是由人类社会的不确定和复杂的客观事实决定的。例如，人脸识别算法对于不同种族人类的识别准确率差异明显，针对白人男性的错误率低于1%，而针对黑人女性的错误率却高达35%，造成该差异正是由于黑人女性相关数据的缺失 。

算法歧视不仅极易导致个体失去获取资源和实现自我完善的机会，损害个体公平，还容易出现强弱两极分化的现象，损害社会群体的公平。算法在设计之初就是为了追求经济利益和提升效率。企业在研发算法时，最先考虑的就是经济利益和工作效率，为降低成本和增加利益，经济利益的导向深深地影响算法的运行。

三、算法的规制路径

对算法进行法律规制将面临空前复杂的挑战，并且推进这一过程也需要时间。在承认算法于应用之中产生的价值的同时，应该对算法应用可能产生问题保持警惕性，通过完善关于算法的立法、强化算法监管等路径，以达到有效规制算法的目的。

（一）完善算法立法

第一，针对算法推荐，《数据安全管理办法（征求意见稿）》（以下简称《办法》） 第二十三条规定，网络运营者利用用户数据和算法推送新闻信息、商业广告等（以下简称“定向推送”），应当以明显方式标明“定推”字样，为用户提供停止接收定向推送信息的功能。该条款明确了“定向推送”的内涵，对用户脱离信息茧房的桎梏具有重要意义。笔者建议可以增加网络运营商的告知义务，以电子邮件等形式将清除结果发送给用户，保障用户的知情权、隐私权，减少同类劣质信息的推送。其次，《办法》中对网络运营商明确施加了不得歧视的义务，其中第十三条规定了禁止对个人信息分析后进行定价歧视，这明显针对的是大数据杀熟现象。因此，有必要根据算法应用范围大小分阶段对算法歧视进行法律治理，如人脸识别算法在银行、客运等行业应用迅速且广泛，可以先行进行法律治理。最后，针对算法黑箱问题，可以通过提高算法透明性来应对。

第二，《网络安全法》的相关规定适用算法的规制，因为算法的开发、运行和使用等等过程都置于网络环境中。该法第二十二条规定，网络产品、服务应当符合相关国家标准的强制性要求，网络产品、服务的提供者不得设置恶意程序 。假设有组织或个人利用算法侵害他人权益或公共利益的，应当认定属于“恶意程序”的范围，是该法禁止的。该法第四十一条，强调了个人的信息安全，算法的开发者和使用者应向用户明示并取得同意后才可收集其信息，保障了用户的知情权。

第三，明确问责主体。参照《侵权责任法》 ，可以将开发者、使用者以及第三方侵权的责任人作为算法问责主体。在出现算法问题时，关于结构性问题还是功能性问题的确定是极其重要的一个环节。在开发者和使用者相分离时，若是结构性问题，问题发生在算法系统内部，则由算法开发者作为问责主体；若在算法运用中发生，则由算法使用者作为问责主体。在算法的开发者和使用者相同时，则无需区分。

（二）强化算法监管

确保算法能够被中立的第三方或监管机构有效审查受到国际社会的密切关注，因为这可以提升实现算法决策的透明性和公平性的可能。目前在德国，名为“监控算法”（Monitoring Algorithm）的非营利组织已经成立，该组织主要由技术专家和资深媒体人组成，旨在评估并监控算法决策过程中对公共生活产生的影响 。在监管算法的过程中，明确其主体十分重要。本文建议将算法的开发者和使用者作为主体进行监管。我国可以借鉴德国的做法设立算法监管机构，该监管机构必须是独立的并被赋予了相应职权，要由具备算法知识的法律人员组成。当人们认为自身权利遭受到算法决策过程中产生的问题的侵犯时，可以投诉到算法监管机构；当出现算法决策侵犯公共利益的情况时，该机构也可依职权对相关算法开发者、使用者进行问询。

（三）注重算法教育

在理解的基础上才有助于产生信任，算法的功能必须让那些受其影响的人能够理解，但关于算法怎样运作的问题，一般人无法理解，也没那样的能力理解，即便是吃了算法的亏，也可能无从知道，或者知道却不以为意。因此，必须从公民的算法素养培育开始，公民不能充当“被算法卖了还替算法数钱”的算法文盲。

公民算法素养的培育需要“革命性”的教育努力，包括美国在内的不少国家已经着手将算法教育纳入基础教育中。例如，德克萨斯州大学把“计算机科学的伦理基础”课程列入计算机专业学生的学习范围；康奈尔大学也开设了数据伦理课程，旨在提升对数据伦理问题的关注度 。值得关注的是，我国也开始重视算法素养的培育，在《新一代人工智能发展规划》中提到全面的智能教育不可忽视，并希望加快编程教育进入中小学课堂的实施进度 。

结语

算法作为法律上的新鲜事物，需要纳入法律的调整范围，因为法律经常是各方利益妥协的产物。因此，对算法进行法律规制，一方面，有利于促进人工智能产业的发展；另一方面，可以更好地规范算法与其他法律主体或客体之间的关系。目前，算法技术的发展仍属于初级阶段，法律以及其他社会各界，都应给予其更多的宽容和发展空间。算法问题是新时代的新问题，科技进步是必然的，我们更应该以积极的心态来面对。

1 郑智航，徐昭曦．大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例[J]．比较法研究，2019（4）：111-122．

2 参见算法也有偏见?纽约市通过美国首个算法问责法案_每日观科技网,http://xmkelan.com/a/kxjs/30510.html 最后访问：2020-03-25．

3 克里斯托弗·斯坦纳著.李筱莹译.算法帝国[M]．人民邮电出版社，2014 年版，第43 页．

4［美］科尔曼等：《算法导论（原书第3 版）》，殷建平等译，机械工业出版社，2013年版，第3页．

5 迈克尔·西普塞．计算理论导引[M]．段磊，唐常杰，等译．北京：机械工业出版社，2015．

6 郑戈．人工智能与法律的未来[J]．探索与争鸣，2017（10）：80-86．

7 杨学科．论智能互联网时代的算法歧视治理与算法公正[J]．山东科技大学学报（社会科学版），2019，21（04）：33-40+58．

8 参见法律专家系统_360 百科 https://baike.so.com/doc/28403265-29833084.html 最后访问：2020-04-22.

9 参 见 智 慧 法 院_360 百 科 https://baike.so.com/doc/26292417-27731368.html 最后访问：2020-04-22.

10 刘爱军，周春梅，智慧法院对深化司法改革影响研究——以和谐共同体关系为视角[J].法制与社会，2017(27).

11 参见推荐算法_百度百科 https://baike.baidu.com/item/%E6%8E%A8%E8%8D%90%E7%AE%97%E6%B3%95 最后访问：2020-03-26．

12［美］凯斯·桑斯坦．毕竞悦译．信息乌托邦：众人如何生产知识[M]．北京：法律出版社，2008．8．

13 参见2016 年中国互联网新闻市场研究报告-中共中央网络安全和信息化委员会办公 室http://www.cac.gov.cn/2017-01/12/c_1121534556.htm 最后访问：2020-03-26．

14 人民日报．三评算法推荐［EB/OL］ http：//opinion.people.com.cn/n1/2017/0918/c1003-29540709.html 最后访问:2020-03-26．

15 参见魏则西_360 百科 https://baike.so.com/doc/23848728-24405374.html 最后访问：2020-03-26．

16 张淑玲．破解黑箱：智媒时代的算法权力规制与透明实现机制[J]．中国出版，2018（7）：49-53．

17 崔靖梓．算法歧视挑战下平等权保护的危机与应对[J]．法律科学：西北政法大学学报，2019，037（003）：29-42．

18 刘友华．算法偏见及其规制路径研究[J]．法学杂志，2019，40（06）：55-66．

19［美］凯西·奥尼尔：《算法霸权》，马青玲译，中信出版集团2018 年版，第48～217 页．

20 曹建峰．怎样应对人工智能带来的伦理问题[N]．学习时报，2017-06-14（7）．

21 贾开．人工智能与算法治理研究[J]．中国行政管理，2019（01）：17-22．

22 参见国家互联网信息办公室关于《数据安全管理办法（征求意见稿）》公开征求意见的通知_部门政务_中国政府网 http://www.gov.cn/xinwen/2019-05/28/content_5395524.htm最后访问：2020-05-15．

23 参见中华人民共和国网络安全法（全文）https://ltc.jhun.edu.cn/6c/8a/c3059a93322/page.htm 最后访问：2020-04-28.

24 参见侵权责任法_360 百科 https://baike.so.com/doc/5401123-5638733.html 最后访问：2020-05-16.

25 张淑玲. 破解黑箱：智媒时代的算法权力规制与透明实现机制[J]. 中国出版, 2018(7): 49-53.

26 刘培，池忠军. 算法的伦理问题及其解决进路[J]. 东北大学学报(社会科学版)，2019，21（02）：118-125.

27 参见国务院关于印发新一代人工智能发展规划的通知（国发〔2017〕35 号）_ 政府信息公开专栏 http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm最后访问：2020-03-21.