算法嵌入公共信用评价：内在逻辑、风险检视与规制路径

张 涛

（清华大学法学院，北京 100084）

一、引 言

在推进国家治理体系和治理能力现代化的背景下，“以信用为基础的新型监管机制”逐渐成为提高政府监管水平和监管能力的重要路径，而公共信用评价则是信用监管得以有效运行的前提条件。信用评价也被称为“信用评分”或“信用评级”，而公共信用评价则是指行政机关、法律法规授权的具有管理公共事务职能的组织根据信用主体的信用信息，运用统计和其他方法，建立信用评价模型，对信用主体在社会和经济活动中遵守法定义务、履行约定义务的状态进行评估，并以分数或者等级的形式表现出来的活动。按照信用主体的不同类型，公共信用评价可以大致分为个人信用评价、企业信用评价、政府信用评价等。本文主要以个人信用评价作为研究对象，辐射其他公共信用评价的法律规制。

随着大数据时代的来临，“所有数据均是信用数据”的理念促使传统信用评价模式发生了根本性变革，大数据、算法等先进技术开始广泛运用于公共信用评价之中[1]。相比于传统的信用评价模式，基于算法的信用评价具有丰富信用数据来源、提升信用评价效率、降低信用评价成本等优势[2]。然而研究表明，这种新型的信用评价模式也存在评价过程不透明、评价结果不准确等问题[3]，甚至可能产生歧视性影响并侵害隐私，对公平、正义等基本价值构成挑战[4]。习近平总书记强调，要加强人工智能发展的潜在风险研判和防范，确保人工智能安全、可靠、可控[5]。因此，探讨算法嵌入公共信用评价的风险及其规制，对于促进我国社会信用体系建设的法治化发展、提升政府监管的公信力、推动新时代法治政府的建设具有重要的现实意义。

当前，学术界对于算法嵌入公共信用评价的研究主要聚焦于两个方面：一方面，从法学的角度对特定领域或者特定主体的信用评价问题进行研究；另一方面，从技术的角度对算法在公共信用评价中的应用实践进行探讨。有鉴于此，本文以算法嵌入公共信用评价为研究对象，以行政法基本理论为指引，首先对算法嵌入公共信用评价的内在逻辑进行阐述；然后从技术、法律和伦理3个方面对算法嵌入公共信用评价的风险进行检视；在此基础上，采用“基于过程的方法”，从事前、事中和事后3个阶段分别提出对算法嵌入公共信用评价的规制措施。

二、算法嵌入公共信用评价的内在逻辑

“数据+算法”的智能融合为算法嵌入公共信用评价提供了可能，而政府为了提升其治理能力和治理水平需要吸纳先进的技术，这又有助于因应社会信用失范问题，进而满足人民的美好生活需要和经济社会的繁荣发展要求。因此，技术吸纳、政府治理和社会发展实质上是一种三维互动关系，这构成了算法嵌入公共信用评价的内在逻辑。

（一）技术逻辑：“数据+算法”的智能融合

算法嵌入公共信用评价的实质是政府部门将海量信用数据和先进算法技术进行智能融合，以此来提升信用评价的效率和质量。从人工智能的发展现状看，数据、算法和算力是人工智能发展的三要素。其中，数据的爆炸式增长提供了“肥沃”的土壤；算法能够按照设定程序运行获得理想结果[6]，其迭代推动了人工智能的应用；算力的提升则成为促进人工智能整体发展的催化剂和推动力。在基于算法的公共信用评价中，数据和算法缺一不可。

其一，在大数据技术的帮助下，信用数据的来源更加多元，既包括公共记录中的数据（如行政处罚、行政强制、法院判决等文书中的数据），也包括个人的在线行为数据（如网络浏览、平台社交、在线消费等记录）；信用数据的类型更加丰富，既包括结构化数据（如公民身份证信息数据库、道路交通管理信息数据库、行政审批数据库等），也包括非结构化数据（如图片、音频、视频等）。政府部门借助云存储和大数据分析可以将收集的海量信用数据通过高性能计算技术量化为“信用信息数据库”。

其二，不同类型的算法可以分析和识别海量信用数据中的关系和模式，并且可以对未来的信用风险进行预测，为组织或者个人的行为决策提供参考。传统的信用评价模式主要依赖于线性统计方法和有限的固定变量来计算信用主体的信用分数。算法通过以下两种方式对传统信用评价模式进行了变革：一是利用大量且种类繁多的数据进行公共信用评价；二是使用更复杂的机器学习技术来分析这些数据。机器学习技术可以解析大型、非结构化、高维的数据集，以找到与信用主体信用度相关的特征和模式。更为重要的是，机器学习技术可以更为准确地捕捉数据中的非线性关系，反映人口和环境的变化，以便更准确地评估信用主体的信用度。因此，从技术吸纳的角度看，“数据+算法”的智能融合应当是算法嵌入公共信用评价的技术逻辑。

（二）实践逻辑：推动政府治理现代化

认证能力是政府治理能力的基础，是建设税收国家、监管国家、福利国家的前提条件。在传统的国家治理中，户籍制度、档案制度、单位制度等共同构成了国家的认证体系，这对于解决广阔疆域中的治理难题意义重大。随着社会经济改革的不断深入，城乡一体化的不断推进，户籍制度、单位制度逐渐松动，人们的身份不断多元化，由“单位人”变为“社会人”，社会流动性加强，社会结构进一步分化[7]。在此背景下，“如果不确认、识别和掌握国土上人口、财产、产品、行为和事务的基本事实、流动方向、真假优劣和利弊得失，就无法恰当行动，无法实现目标”[8]。作为一种系统性与技术性的声誉机制，公共信用评价对组织或者个人遵守法律规定、履行合同约定的状态进行综合评价，本质上属于国家认证制度的组成部分。

算法嵌入公共信用评价后，政府部门可以利用更为先进的技术（如机器学习、深度学习等）对海量信用数据进行分析和挖掘，更为及时、完整、全面地对信用主体的信用状况进行“画像”。政府监管部门可以依据公共信用评价结果，改变传统监管模式“平均用力、成本高昂”的现状，大幅提高政府监管的靶向精准性。以浙江省为例，在环境领域执法中，政府监管部门将信用评级较差的433家企业纳入检查重点，共发现47个环境问题，问题检出率达到常规“双随机”抽查的5倍以上；在企业信用领域，应用企业风险模型后，问题检出率从2.3%提升至56.8%[9]。由此可见，基于算法的公共信用评价对于提升行政效能，提高政府部门应对区域性、行业性、系统性监管问题的能力具有重要意义。因此，从政府治理的角度看，推动政府治理现代化应当是算法嵌入公共信用评价的实践逻辑。

（三）价值逻辑：提升社会信用水平

从古代农业社会到现代工业社会，信用问题一直备受关注，信用秩序也被称为“人类秩序的元规则”[10]。目前，在我国社会经济活动中普遍存在造假售假、坑蒙拐骗、学术不端、偷税漏税等违法失信行为，这是社会信用不足的表现[11]，学术界将此种现象概括称为“信用危机”或“诚信危机”，本文将其称为“信用失范”。在当前的社会历史时期，导致信用失范问题的原因是多方面的，除了有传统文化道德的“断裂”和市场经济本身的负面效应外，还有法律制度的不完善与不确定[12]。要有效治理信用失范问题，既要在道德教育中强化诚信美德、在文化建设中促进信用文化的形成，增加失信的柔性约束，也要通过法律制度形成一种应对信用失范行为的治理机制，加强失信的刚性约束。

公共信用评价作为社会信用体系建设的重要一环，也是应对信用失范问题的重要工具，将算法嵌入其中可以使国家应对信用失范问题的能力得到增强。一方面，基于算法的公共信用评价可以发挥“信号传递”功能，以一种更为集约化的形式增加社会经济活动中可用信用信息的整体供给水平。这不仅可以弥补不同社会主体之间的信息不对称，而且可以改善监管机构与监管对象之间的信息不对称，增加信用主体的失信成本，遏制其违法违约的机会主义倾向。另一方面，公共信用评价可以与“诚实守信”的道德理想联系在一起，产生伦理道德所具有的规范性。在“差序格局”中客观社会关系难以继续维持的背景下，个体很可能期望通过一个良好的信用评价结果来塑造自己“诚实守信”的社会形象。当个体将其行为置于对信用评价的假定影响之下时，公共信用评价就成为其自律技术的一部分，以非强制的方式建构个体在社会经济活动中的行动领域和行为标准。因此，从社会发展的角度看，提升社会信用水平应当是算法嵌入公共信用评价的价值逻辑。

三、算法嵌入公共信用评价的风险检视

将基于算法的公共信用评价作为治理工具在一定程度上也强化了政府的工具理性，导致政府部门容易陷入单纯追求技术效率的泥淖，进而忽视公平、正义、安全、透明度、自主性等价值理性，引发一系列风险问题。本文主要从技术、法律和伦理3个方面对算法嵌入公共信用评价的风险进行检视。

（一）技术风险：信用评价的不公正与不准确

基于算法的公共信用评价在充分吸纳算法技术优势的同时，也承继了算法存在的技术风险。这种技术风险既包括算法固有的原始风险，如算法黑箱问题，也包括算法在应用过程中引发的衍生风险，如数据质量问题。

1.算法黑箱破坏信用评价的公正性

公共信用评价结果的公正性不仅会影响行政相对人对行政主体的信任感，而且还关涉信用监管活动能否有效开展。算法嵌入公共信用评价虽然在提升评价效率方面助力颇多，但算法黑箱问题却可能破坏评价的公正性。在算法理论中，“黑箱”是控制论中的概念，作为一种隐喻，它指的是为人所不知的那些既不能打开、又不能从外部直接观察其内部状态的系统[13]，美国学者弗兰克·帕斯奎尔将由算法主导的社会称为“黑箱社会”[14]。算法的黑箱问题也被称为“透明度悖论”，主要可以分为3种情形，即故意的不透明、无知的不透明和固有的不透明[15]。在基于算法的公共信用评价中，算法黑箱问题同样存在，政府部门和算法系统开发者可能以“故意的不透明”和“固有的不透明”为由拒绝对其决策结果承担说明理由的义务。与此同时，组织、个人或者社会公众也可能因为“无知的不透明”而难以知晓信用评价结果到底是依据何种理由作出的、此种理由是否合法及合理。在此背景下，算法黑箱问题可能破坏公共信用评价的公正性：第一，私人资本支配权力的风险。在当前的公共信用评价实践中，绝大多数地方的信用评价系统均是由政府部门外包给私营公司进行开发或者运营，因而算法黑箱的存在可能导致私营公司俘获公共权力的风险。第二，政府公信力下降的风险。信用不仅成为社会资源分配的重要条件，而且成为组织或者个人决策的重要依据，而信用评价是组织或者个人获得信用的重要方式。算法黑箱可能导致社会公众对公共信用评价的公正性产生质疑，引发政府公信力下降的风险。

2.数据质量影响信用评价的准确性

公共信用评价结果不仅成为行政机关分配执法资源的重要依据，而且成为社会经济活动中资源分配的重要条件。因此，评价结果的准确性对公共信用评价能否提高资源分配效率至关重要。在信用评价理论中，有句话叫做“垃圾进，垃圾出”，这意味着并不存在能够化腐朽为神奇的算法技术，数据质量（包括数据的关联性、完备性、时效性、一致性等）本身仍然对信用评价结果起着关键作用[16]。当算法技术全面嵌入公共信用评价时，其隐含的假设是算法在公共信用评价中具有更高的预测准确性，能够以大量信用数据为基础将“风险”或者“信用度”转化为可度量的产出，进而改善资源分配效率。然而实际上，我们不应当高估算法为信用评价系统带来的潜在效率收益，因为假定的收益通常取决于信用数据和算法模型的质量和准确性。如果数据不完整、有偏见或者过时，以致于它们不能很好地概括“非样本”数据，那么公共信用评价结果就并未真正反映信用主体的信用风险状况，这反过来会增加资源分配中的不确定性，降低资源分配效率。

（二）法律风险：信用评价权力滥用和隐私侵犯

当算法嵌入公共信用评价时，其引发的法律风险主要指数据的处理和算法的使用不符合法律法规的规定或者现有的法律规范难以被适用，导致行政权力被滥用或者公民的合法权益受到侵犯。

1.算法权力助推信用评价权力滥用

与传统的消费者信用评价相比，公共信用评价最大的区别在于它以公共权力的行使作为后盾，信用评价权力亦成为一种新的行政权力类型。算法嵌入公共信用评价不仅改变了传统的信用评价模式，而且对信用评价权力的行使产生了深远影响，增加了权力滥用风险，这主要体现在以下两个方面：第一，算法为政府部门滥用信用评价权力提供了可能。美国学者博登海默曾指出，“不受限制的政治权力乃是世界上最有力的、最肆无忌惮的力量之一，而且滥用这种权力的危险也是始终存在的”[17]。在传统的法律规范中，法律通过妥善处理行政权力与公民权利之间的关系，确保行政机关与行政相对人双方权利义务的总体平衡。然而，在基于算法的公共信用评价中，算法对行政机关的赋能明显优于对行政相对人的赋权，打破了原有的平衡关系，导致政府部门可能突破依法行政原则、比例原则、禁止不当联结原则等法治原则的约束，增加行政权力被滥用的风险，实践中“黑名单”和“失信惩戒”的泛化便是例证。第二，算法为私营部门滥用信用评价权力提供了机会。随着算法不断融入社会生活的各个方面，其逐渐成为一种社会建构力量，“算法权力”亦成为一种新型的权力形态，“其背后潜藏着资本的力量”[18]。在公共行政中使用的算法决策系统大多由私营部门研发或者运营，公共信用评价亦不例外。即使是非常具体的政策目标，也很难被准确转化为技术要求，而“公平”“平等”等价值的极强抽象性则进一步加剧了其代码化的难度。这意味着私营部门及其技术人员在算法设计过程中拥有较大的算法权力，可能嵌入其自身的主张、偏见或者利益，最终导致信用评价权力实际由私人行使。正如学者所言：“更糟糕的是，将那些规范性和解释性的选择嵌入到算法本身，不仅掩盖了所选择的政策结果，而且掩盖了做出选择的事实……排除了对重大政策问题强有力的公开辩论”[19]。

2.数据滥用危及隐私与个人信息权益

信用信息与隐私及个人信息之间存在交集，尤其是个人信用信息，本身就属于个人信息的范畴。当算法嵌入公共信用评价时，可能存在滥用数据风险，侵犯隐私及个人信息权益。首先，在信用信息收集阶段，可能违反《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）确立的告知同意、必要、目的限制等基本原则。在基于算法的公共信用评价中，信用信息的数量和种类越多，对信用主体的评价就可能越完整。基于此等考量，政府部门倾向于最大限度归集信用信息，这有可能悖离告知同意与最小必要原则。此外，公共信用评价中的信用信息来源广泛，不仅有不同的政府部门，还可能有企事业单位、私营企业等，这些信息的聚合使用可能违反目的限制的要求。其次，在信用信息处理阶段，可能违反《个人信息保护法》确立的准确性原则。在基于算法的公共信用评价中，信用信息被归集后需经历清洗、分类、聚合等处理过程，一旦出现遗漏或者错误，便违反了准确性要求，甚至可能给信用主体的合法权益造成不利影响。再次，在信用信息存储阶段，可能违反《个人信息保护法》确立的存储限制原则。信用评价本质上是基于组织或者个人过去的信用信息而对其信用风险进行的综合评价，从这个角度看，信用信息的存储需要具备一定的时长，而这可能违反对个人信息存储限制的要求。最后，在信用信息公开阶段，可能因为过度披露个人敏感信息要素而对个人隐私造成侵害，原因在于信用评价结果可能是基于个人身份、偏好、网络浏览等数据聚合而成的“精准画像”。

（三）伦理风险：信用评价自主性困境与分配不公

一些技术的应用可能会与既有的伦理道德发生冲突，因此技术的伦理风险广受社会关注。算法嵌入公共信用评价除了存在技术风险和法律风险外，也可能对自主性、公平性等伦理价值造成冲击。

1.算法至上引发信用评价自主性困境

在社会生活中，人们倾向于认为数据是中立且客观的，因此以数据和代码作为驱动因素的算法也是客观的。这种带有“数据原教旨主义”色彩的观念[20]容易导致组织或者个人在决策过程中过度依赖算法，形成“算法至上”，对人的自主性造成消减。在基于算法的公共信用评价中，“算法至上”引发的自主性困境主要体现在以下两个方面：第一，信用主体的自主性困境。收集个人信用大数据的手段以及数据处理方式，均对个人自治和信息自决施加了压力。在实践中，信用信息的归集往往是在不经意中发生的，而且越来越快，这意味着个体很难在完全与充分理解的情况下作出同意其信用信息被收集的决定。此外，无处不在的信用数据收集、处理和使用可能会对个人行为产生“寒蝉效应”，因为它会给人一种正在被监视的感觉，从而对个人行为产生抑制和控制作用，使个人成为数字化秩序的客体而非主体[21]。第二，行政主体的自主性困境。“人们为了让机器看起来一直比人聪明，会主动降低自己的智商”，在这种情况下，“对行为的科学分析逐出了自主的个人，并且把假定由人类施加的控制力移交给环境”[22]。信用大数据驱动的公共信用评价不但没有进一步扩展行政主体的自主性，反而有可能使行政主体一切都听命于数据，处处受制于数据，使行政主体的自主性、创造性受到限制，甚至产生治理创新的“惰性”。

2.算法偏见破坏基于信用的分配正义

在技术理性的主导下，算法的支持者认为，将算法嵌入组织或者个人的决策中可以克服人类自身存在的偏见或者性格弱点，更有利于促进公平的实现。然而研究表明，算法技术本身也可能存在偏见，就其成因而言，主要包括输入数据导致的偏见和算法自身设计存在的偏见[20]。在基于算法的公共信用评价中，算法偏见可能破坏基于信用的分配正义，其原因来源于两个方面：第一，由于输入算法信用评价系统的信用数据缺乏代表性和科学性而导致的偏见风险。在当前的公共信用评价中，一些地方在确定各类信用信息的权重时，将一些不合理的因素纳入了考量，如户籍、收入水平、学历等，这可能形成“逆差别待遇”，在个体、群体之间造成新的不平等，加剧信用领域的“数字鸿沟”。第二，信用评价系统在设计时可能被植入人类偏见。研究表明，自动化决策，尤其是机器学习算法，极容易受程序员的社会经验、之前所作决策以及社会偏见的影响，从而生成歧视性结果[23]。随着“信用+”正逐渐成为支撑更多领域高质量发展的新支柱，“信用+普惠金融”、“信用+民生”等新模式正在落地实施。在此背景下，有偏见的信用评价结果可能会反过来影响公共服务的可获得性，进而导致分配不公平，阻碍分配正义的实现。

四、算法嵌入公共信用评价的规制路径

算法嵌入社会生活或者政府治理引发的风险是多元的，因此对算法的规制也应当是一个系统性工程，需要汇集技术、伦理、法律等各个领域的力量进行协同规制。结合我国的实际情况，从规制理念的角度看，对算法嵌入公共信用评价的规制路径应当采取一种“整体性视角”，协同运用技术、法律、伦理、教育等手段；从规制方法的角度看，应当采取“基于过程的方法”，将上述手段分别置于事前、事中、事后3个阶段，对可能存在的风险进行全流程规制。

（一）算法嵌入公共信用评价前的审查评估

预防原则是现代风险行政中的基本原则，为了更好地保护公民的基本权利，政府部门可以根据预防原则建立一系列风险预防机制，并在特定条件下采取一定的风险干预措施[24]。在算法嵌入公共信用评价的规制中，也应当按照预防原则的要求，通过一系列措施或者机制将风险消弭在萌芽中。

1.制定算法信用评价技术标准

“在任何一个规制体系中，各类标准都有着重要地位。”[25]在行政法治中，技术标准不仅可以提供一定的关系范式和新的调控方式，而且可以更明晰地提供责任清单和负面清单[26]。近年来，理论界与实务界逐渐认识到“技术设计”在隐私及个人信息保护、算法及人工智能规制中的基础性作用，提出了诸如“通过设计实现公平”或者“通过设计保护数据”等原则[27]。目前，针对公共信用评价，国家市场监督管理总局和国家标准化管理委员会已经联合发布了一系列国家标准，如《公共信用信息分类与编码规范》（GB/T 39441-2020）等。不过这些国家标准主要还是针对公共信用信息的收集、分类、编码、共享等具体环节，尚未直接涉及公共信用评价系统本身。为了将算法嵌入公共信用评价所存在的安全漏洞、隐私侵犯等风险降至最低，也为了确保“通过设计及默认保护隐私/公平”的原则得以实现，有必要通过凝聚行业共识和吸收理论成果，由中国标准化研究院和国家公共信用信息中心研究制定有关算法信用评价系统的技术标准，从技术层面为算法信用评价系统设置责任清单和负面清单，为算法信用评价系统的研发、设计、部署及运行提供指引。

2.建立算法信息公开制度

“良法善治”是新时代法治政府建设的核心理念，而透明度又是良法善治的基本原则。算法黑箱问题不仅悖离了行政决策的透明度原则，而且可能引发私人资本支配公共权力、政府公信力下降等衍生风险。因此，如何通过各种措施来破除算法黑箱问题，成为算法问责制的核心议题[28]。在实践中，法国《公众与行政部门关系法典》第R.311-3-1-2条规定，行政部门应当在不侵犯受法律保护的秘密之前提下，应个人行政决定的对象之要求，以可理解之形式向其提供以下信息：（1）算法处理对决定的贡献程度和方式；（2）处理的数据及其来源；（3）处理参数及其加权；（4）进行这种处理的具体操作。基于已有的理论成果和实践经验，就基于算法的公共信用评价而言，笔者认为政府部门应当通过以下两个方面建立算法信息公开制度，破解算法黑箱问题：第一，应当将算法嵌入公共信用评价的方式作为政府信息公开的基本要求。政府部门应当公布公共信用评价中的算法自动化决策清单，让社会公众知晓算法参与了公共信用评价的哪个阶段或者处理操作了哪些数据。第二，应当借鉴法国的立法经验，将算法信用评价系统的基本规则和参数权重向社会公众公开。

3.完善算法影响评估制度

风险识别是风险管理的核心环节，它是风险干预的前提条件。在风险规制实践中，政府部门通常采取各种风险评估制度来识别风险，例如环境影响评估制度就成为识别和预防环境污染风险的重要机制。我国《个人信息保护法》第55条规定，个人信息处理者利用个人信息进行自动化决策或者处理敏感个人信息时，应当在事前进行个人信息保护影响评估，并对处理情况进行记录。基于算法的公共信用评价既可能涉及对个人敏感信息的处理，同时也包含利用个人信息进行自动化决策，因此应当对其实施个人信息保护影响评估。基于算法的公共信用评价除了涉及隐私及个人信息保护外，还存在算法黑箱、安全漏洞、算法偏见等风险。为了将这些风险降至可接受的范围，也避免给政府部门造成过重负担，可以建立包含个人信息保护影响评估在内的算法影响评估制度：第一，建立动态的算法影响评估启动机制。在部署基于算法的公共信用评价系统之前，应当评估该系统可能对个人或者群体的潜在不利影响及风险；在系统投入应用以后，应当定期对该系统运行的稳健性以及影响与风险进行评估。第二，加强算法影响评估中的公众参与。一方面，可以借鉴“通知—评论”制度建立公众参与算法影响评估的制度化渠道；另一方面，应当将技术专家、法律专家、伦理学家等群体纳入算法影响评估的组织构成。第三，建立算法影响评估报告强制披露制度。政府部门在自主开展或者委托第三方机构对基于算法的公共信用评价系统进行算法影响评估后，应当将算法影响评估报告通过官网或者其他媒介以显著的方式向社会公众公开。

（二）算法嵌入公共信用评价中的权力制约

如前所述，在基于算法的公共信用评价中，既有传统行政权力的行使，也有新兴算法权力的运作，若不加以适当限制，则可能出现权力滥用和权益侵害的风险。在推进法治政府建设迈上新台阶的总体目标下，需要重申传统行政法治原则对基于算法的公共信用评价中行政权力的约束作用；而针对其中的算法权力，则需要借助新的法律权利予以制衡和掣肘。

1.以行政法治原则钳制行政权力

2020年12月，《国务院办公厅关于进一步完善失信约束制度构建诚信建设长效机制的指导意见》（国办发〔2020〕49号）将“法治化、制度化”作为社会信用体系建设的目标，并确立了“依法依规、保护权益、审慎适度、清单管理”的总体思路。结合已有的理论成果和实践经验[29]，笔者认为政府部门在基于算法的公共信用评价中行使行政权力时应当遵循以下基本原则：第一，信用信息的归集和算法代码的处理均应当遵循依法行政原则。政府部门应当严格按照法律法规来归集信用信息，同时建立信用信息清单，不得通过规范性文件等形式随意扩大信用信息的范围。此外，算法代码也应当被置于法律的控制之下，不能用代码替换法律。尽管算法主导的公共信用评价结果可以为治理决策提供参考，但其并非唯一依据，而应当始终保持法律在政府治理决策中的主导地位。第二，基于算法的公共信用评价应当遵循正当程序原则。算法嵌入公共信用评价以后，可以快速即时得出公共信用评价结果，但信用主体所享有的受通知、陈述、申辩、听证等程序性权利就可能受到不当限制。对此，可以考虑通过技术手段将正当法律程序的基本要素进行编码，建构所谓的“技术性正当程序”或者“数据正当程序”[30]，对行政权力进行新的程序控制。

2.以信用及个人信息权利制衡算法权力

在公法理论中，权利除了有给付功能外，还有防御功能，即防止公共权力的侵害。因此，赋予公民权利以制衡公共权力便成为现代民主法治国家的基本共识。在基于算法的公共信用评价中，算法对行政权力的赋能衍生出了新型的算法权力。为了避免算法权力的滥用，也有必要通过法律规范赋予公民相应的权利，并建立相应的权利保障机制，确保这些权利得以正当行使。具体而言，政府部门应当高度重视以下法律规范所提出的要求。

第一，应当严格落实《民法典》第1029条有关信用评价的规定。根据《民法典》第1029条的规定，信用主体对于信用评价结果享有查询权，若发现信用评价不当，还享有更正权和删除权，而信用评价机构则应当采取相应的措施保证上述权利的行使。虽然该条的起草背景主要是针对征信领域的信用评价[31]，但是《民法典》本身并未对第1029条的适用范围进行明确限定，因此该条赋予一般民事主体的权利也应当适用于公共信用评价中的信用主体，相应的义务也应当由公共信用评价中的政府部门来承担。

第二，应当严格遵守《个人信息保护法》关于“告知—同意”的规定。尽管“告知—同意”在理论上遭遇了诸多批判，在实践中也出现了效用不彰的问题，但它仍然构成了我国《个人信息保护法》的核心机制，并且一致适用于私营部门和政府部门的个人信息处理活动。在基于算法的公共信用评价中，司法裁判、仲裁执行、行政许可、行政处罚等法律文书中的个人信用信息属于《个人信息保护法》第13条第六项规定的“其他已经合法公开的个人信息”，因此对这类信息的处理不需要受到“告知—同意”的严格限制。不过，当涉及处理有关行为轨迹、生物识别、市场信用等个人信息时，仍然要遵守“告知—同意”的法定要求。

第三，应当严格落实《个人信息保护法》第24条关于“拒绝权”的规定。根据《个人信息保护法》第24条第3款的规定，通过自动化决策方式作出对个人权益有重大影响的决定时，个人有权拒绝信息处理者仅通过自动化决策的方式作出决定。鉴于在社会经济活动中信用已经成为个人的“第二身份证”，公共信用评价结果显然会对个人产生重大影响，它可能是就业或者入学机会，也可能是政府许可或者奖励的获得，这意味着信用主体对于基于算法的公共信用评价也享有“拒绝权”。因此，政府部门应当建立相应的替代方案或者应急预案，以应对信用主体可能提出的要求。

第四，应当严格落实《个人信息保护法》第24条关于“说明理由义务”的规定。根据《个人信息保护法》第24条第3款的规定，通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求信息处理者说明理由。在理论上，算法自动化决策中的“说明理由义务”可被视为对“算法解释权”的落实，这也是破解算法黑箱的重要方法[32]。基于此，经由算法作出信用评价结果后，政府部门应当向信用主体说明评价结果如何作出以及其主要理由和依据。

（三）算法嵌入公共信用评价后的监督问责

由于公共信用评价结果可能成为行政处理要件、行政裁量因素、行政指导或行政检查的依据[33]，并可能对信用主体的合法权益产生重大影响，因此有必要在事后阶段通过异议申诉、算法审计、司法审查等机制强化对算法嵌入公共信用评价后的监督问责，保障信用主体的合法权益。

1.完善算法信用评价的异议申诉机制

在信用规制中，异议申诉是指公民、法人或者其他组织认为行政主体在信用信息的归集、评价、公开、应用和修复等活动中的行为侵犯其合法权益，依法提出异议申请，由行政主体对系争行为进行审查并作出决定的活动。在基于算法的公共信用评价中，相关争议主要围绕信用评价结果的准确性展开，因此异议申诉也成为最为常见的权利救济机制之一。从已有的异议申诉实践来看，政府部门主要采取“在线异议申诉机制”，即通过网络平台来处理异议申诉。为了充分发挥“在线异议申诉机制”的灵活性、效率性、经济性等优势，还需要从以下两个方面进行完善：第一，政府部门在设计在线异议申诉机制时应当坚持“用户友好”原则。所谓的“用户友好”就是在线异议申诉系统的界面应当简洁、操作流程应当易于掌握，要本着方便用户使用的理念来进行技术设计[34]。第二，政府部门在设计和运行在线异议申诉机制时应当坚持“系统安全性”原则。在线异议申诉系统通常要求信用主体详细填写诸多个人敏感信息，如姓名、身份证号码、电话号码等，同时还要求信用主体上传相关证明材料，这就加大了系统遭受恶意攻击的可能性。因此，政府部门在设计和运行在线异议申诉系统时，应当采取一定的技术性和组织性措施，防止“黑客”攻击与信息泄露，以保证系统的安全运行。

2.建立算法信用评价的算法审计

在现代社会经济活动中，审计同时适用于公共部门和私营部门，能够向利益相关者提供独立的第三方保证。近年来，为了回应算法自动化决策引发的不透明、数据滥用、歧视等风险，学术界、非政府组织和政府部门在不同层面讨论了审计算法决策系统的必要性。所谓算法审计（algorithm audit）是指由独立的第三方评估算法对利益相关者权利和利益的负面影响，并相应地确定引起这些负面影响的特征。根据我国《个人信息保护法》第54条的规定，个人信息处理者应当定期对其个人信息处理情况进行合规审计。为了有效因应算法信用评价中存在的风险，有必要从以下两个方面建立算法审计制度：第一，明确算法信用评价中算法审计的基本要素。按照学者的总结，算法审计至少应当由3个基本要素构成——受算法影响的利益相关者的可能利益列表、描述算法关键伦理显著特征的指标评估、将评估指标与利益相关者利益联系起来的相关性矩阵。第二，丰富算法信用评价中算法审计的主要方法。目前常用的算法审计方法主要有试验、民族志、调查、演练等，高等院校、科研机构、社会组织等第三方在对算法信用评价进行审计时，可以综合运用上述方法。

3.强化算法信用评价的司法审查

由人民法院对行政机关的行政行为进行司法审查，既是监督行政权力行使的需要，也是保障行政相对人合法权益的要求。目前，一些地方政府的社会信用立法及规范性文件也赋予信用主体对公共信用评价享有行政诉讼的权利，如《广东省社会信用条例》第49条。相比于行政处罚、行政许可等型式化的行政行为，公共信用评价的法律属性尚未形成共识，这无疑给人民法院审查此类行为增加了难度。为了最大限度地保障信用主体的合法权益，人民法院可以从以下两个方面入手探索适用于基于算法的公共信用评价的司法审查路径：第一，在司法审查强度上，人民法院应当采取低强度的审查，原因在于基于算法的公共信用评价具有高度专业性，法官是法律专家而非技术专家，应当对政府部门的专业判断保持尊重。第二，在司法审查内容上，人民法院应当重点审查信用信息是是否真实有效、算法技术指标是否不合理地考虑了不相关因素、评价程序是否正当等内容。

五、结 语

算法嵌入公共信用评价既可以改善公共信用评价的质量，满足信用规制的需要，也可能引发技术、法律、伦理等方面的风险，降低社会公众对算法乃至对政府的不信任。本文基于对算法规制的一般性经验的考察，并结合算法嵌入公共信用评价的实际情况，主张采取“整体性视角”和“基于过程的方法”，将技术、法律、伦理等手段分别放置于事前、事中和事后3个阶段，对算法嵌入公共信用评价可能导致的风险进行全流程规制。