个人信用算法评分存在的问题与法律对策

一、前言

近几年，全国各城市在个人信用建设方面着重发展，各地方政府都在积极推进个人信用评分的普及和应用，利用算法技术，结合数据进行治理，不仅减少执法的成本，更能提高政府行政监管的效率。个人信用算法评分能够有效制约公民的失信行为，因个人信用算法评分具有信用惩戒功能，所以个人信用算法评分在产生和运用过程的许多问题值得思考。其在带来便利的同时也陷入了滥用和泛化的危机，在研究评分机制的过程中，由于数据的滥用，责任分配不明等问题的出现，就引出了如何约束算法和合理使用信用数据等法律问题。

二、个人信用算法评分概述

（一）个人信用算法评分的发展

随着政府在公共信用治理领域的深入工作，中国正在建设覆盖多个领域的“信用社会”。政府对信用治理进行了探索，在传统的声誉监管的基础之上，在不同的社会场景中推广应用个人信用算法评分。2018 年1 月，杭州市、南京市、厦门市、成都市、宿迁市、惠州市、温州市、威海市、潍坊市、义乌市、荣成市12 个城市被国家评为首批社会信用体系建设示范城市，目前国内已有20多所城市推出了个人信用评分制度。总的来看，现在城市个人信用分有的呈现为等级形式，有的城市既有个人信用算法评分又有细化的信用等级，另外有些城市是基于个人的基础分，再根据行为进行信用分的加减。

（二）个人信用算法评分的特点

我国正处于大规模“评分社会”的初始阶段。在信用数据的归集基础上利用算法技术，使得个人信用算法评分与传统的个人征信评价有所不同，地方的个人信用算法评分的发展呈现了几种特点。

第一，个人信用算法评分的评价体系更加高效，注重社会公共性，能够提高政府的公信力。全国各地都在按照标准化，规范化和制度化的方式来发展个人信用分建设。

第二，信用数据能够更好的整合和保护。个人信用算法评分通过将信用数据进行整合、归类、交流，通过大数据技术，为信用的主体制定了相对精准的个人画像，使信用数据能够更好的反映出主体的行为，进行合理合法的信用惩戒。同时，在个人信用算法评分的各个阶段相对传统征信更注重信息安全和信息主体权利的保障。

第三，个人信用算法评分是基于大数据和算法技术产生的，信用数据的类型十分多，同时个人信用算法评分的指标体系多元化，所得出的评分比传统的评价方法更加准确。

三、个人信用算法评分中数据使用问题

算法行政是通过比较行为与算法选择的奖惩之间相关性来生成对自我之行的激励，进而基于信用数据的算法替代政府执行法律来实施奖惩，从而有效降低执行成本。目前各地政府正在积极推进由算法主导的个人信用评分的应用，但利用算法进行个人信用评分有时会出现令人担忧的问题，如“黑箱”运作，缺乏透明与问责制，难以保障公民的算法解释权。

（一）数据失真

政府在利用算法的同时要也要考虑算法黑箱问题，算法技术的运用可能会超越信用信息主体对数据的控制。

并不是所有的信用数据都对评分有意义，对信用数据的过分挖掘和滥用造成了算法和信息主体地位不平等和信息不对称的情况。目前我国地方实践中已经出现了公共信息目录化管理、信用信息分类管理等制度实践，从而试图将信用信息进行类型化管理。在具体的应用场景与主体认知差距过大的情况下，类型化管理与主体的真实行为可能存在较大偏差，从而加大了算法与行为主体的地位不平等和信息不对称的局面。

（二）个人信用算法评分的归责问题

当个人信用算法评分出现错误时，算法的复杂性和中立性就成为了做出个人信用评分的决策机关推卸责任的借口，使得责任主体认定的复杂化，责任的分配是算法评分中需要解决的重要问题。

算法具有物理上的复杂性。算法在物理上的隐蔽性和分散性使得监管机关很难确定是谁以及在何处制造威胁。在个人信用算法评分的过程中，出于保护算法开发者的知识产权的目的，技术公司和政府机构都倾向于保护算法的不公开。同时，公民缺乏对算法的技术的理解，对自己提交的资料如何经过算法的得出个人信用评分并不清楚，从而对行政机关是否利用算法进行数据滥用和造成结果歧视产生担忧。

算法技术具有中立性。技术中立不仅包括功能中立和价值中立，还有责任中立，即技术使用者和实施者不能对技术作用于社会的负面效应承担责任，只要他们对此没有主观上的故意。因为算法的中立性和自动决策的特性，传统的侵权责任逻辑不能适用，因此不能单一考虑是技术机构或政府机关的责任，需要新的归责制度。

四、个人信用算法评分的法律规制

（一）构建个人信用算法评分的法律框架

制定个人信用评分的相关规定，规范评分工作。当前我国个人信用算法评分一直处在一个实践在前，立法滞后的状态，目前法律中没有对个人信用算法评分的明确规定，只可以参考现有的《征信业管理条例》中的规则。我国目前并没有一部国家层面上的法律和行政法规来指导个人信用的发展。在针对个人信用算法评分的立法上，首先要完善和重新解释现有法律中有关信用管理的条款，对信用管理的内容与相关的最新法律进行整理和结合。个人信用算法评分应以现行的法律和行政法规为依据，结合《行政处罚法》的相关规定，结合实际情况制定《社会信用条例》，更加详细准确地规定个人信用评分的原则、程序、救济机制和应用场景等。其次，在建立健全信用法律法规体系的同时，对于具体的地方个人信用算法评分的建设性意见和指导方案进行补充和完善。

（二）健全个人信用算法评分的程序机制

实质性正当程序权利可以保障基本自由利益，程序性正当程序权利可以防止政府任意剥夺宪法保护的利益。政府应当给予信息主体知晓、使用和维护自己信用信息的权利。

首先，行政机关在收集和使用信用信息时，应遵循行政法中的比例原则进行。关于宗教信仰、身体健康状况、婚姻状况等与评分和社会信用建设无关的信息应排除在外，此外，当前法律规范和道德规范能够调节的信用行为产生的信息也不应当纳入评分的影响因素中。

其次，个人应当拥有知情权，个人有权查看自己的信用信息和信用评分，有权对算法的种类、逻辑、价值观等进行了解，有权要求做出评分的行政机关做出解释。

最后，赋予信用信息主体异议权，在个人信用信息的归集、计算和使用过程中，都可能存在错误。可以对个人信用算法评分提出异议，要求管理信用的政府机关对信用数据的使用、算法的评分逻辑、评分的应用场景等进行审核。

（三）明晰责任分配

算法具有可解释性，这是法律责任的分配的重要前提。在个人信用算法评分的归责问题上，应根据具体的案例进行分析和判断。对于算法解释的过程就是分析责任的过程。倒推算法决策的整个过程，找出导致法律后果产生最为直接的因果关系的环节，然后根据相应的过错确定各主体应承担的法律责任，通过算法解释来构建合理的问责体系。在利用算法进行个人信用评分时出现错误结果、不利结果时，应根据权责相一致的原则进行责任的分配，算法的控制者和使用评分的政府机关都应该对算法做出评分的原因和依据的数据做出解释，否则应该承担相应的法律责任。法律问责是规范算法的有力手段，在个人信用算法评分的运用过程中也作为一项重要机制保护公众在个人信用算法评分的使用过程中权利不受损害，对个人信用评分的发展起到了重要作用。