算法推荐的风险分析与我国的规制路径

刘佳

（东北财经大学,辽宁 大连 116025）

随着互联网、大数据、人工智能等技术的应用和发展，数字信息得以在全球范围内广泛传播。面对海量的数据信息，以算法推荐为中心的处理技术应运而生。算法推荐在我们日常生活中随处可见，已涵盖新闻资讯、电子商务、工作学习、游戏娱乐等多方面。算法推荐作为过滤与分发的重要机制，能够根据用户的个人特征和特定需求过滤无效信息并提供有效的数据信息服务，给人们的生产生活带来诸多便利的同时也加剧了例如数据安全、利益受损、歧视偏见等诸多问题。北京大学互联网研究发展中心联合360集团发布的《中国大安全感知报告（2021）》显示，70%的用户担心个人喜好和兴趣等隐私问题被算法“算计”，60%的用户担心信息在数字环境中有泄露的风险，50%的用户在算法束缚下想要逃离网络、远离手机。针对上述问题，我国在既有法律法规的基础上出台了《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》）。《算法推荐管理规定》的公布对于中国算法治理体系的建构具有重要意义，在全球范围内也将发挥示范引领作用。但是《算法推荐管理规定》刚刚公布施行，在实践层面上尚处于起步阶段，因此有必要在明确算法推荐风险的前提下，在《算法推荐管理规定》的基础上分析我国算法推荐的规制路径，从而进一步完善我国算法推荐规制体系。

1 算法推荐的风险分析

1.1 强制获取：侵犯用户权益

数据信息的收集是强制获取的基本体现。用户在首次使用软件前都要填写基本信息来注册个人账号，包括用户的姓名、性别、手机号码等内容，大多还会开通通讯录、地理位置、相机等访问权限。虽然算法推荐服务提供者（以下简称“服务提供者”）自身制定了多项条款政策以获取用户信息的知情同意，但通常都是以服务协议等方式展示在界面最底部以供用户勾选，大多数用户并不会仔细阅读协议。即便点开阅读也有可能因为协议中规范性、专业性的词汇和术语而难以准确理解，在发现问题时也不能与服务提供者进行有效的沟通，在一定程度上限制了用户的权利。用户为了获得相应的服务不得不选择同意，否则就会被强制退出应用。服务提供者与用户之间的信息权利不对等，导致服务提供者不仅没有履行提示告知的义务，也侵犯了用户享有的平等权。

数据信息的处理是强制获取的进一步延伸。服务提供者在掌握用户的数据信息后，通过用户在后续使用软件过程中对其访问记录、浏览内容、购买商品等数据进行实时监控，准确抓取用户的个人特征，经过分析、整合，描绘出特定专属的“用户画像”，以便后续进行相关内容的定向推送。当某些服务提供者收集并储存了大量的用户信息后，在经济利益的驱动下将数据信息整合，导致用户的隐私信息泄露事件时有发生，增加了用户隐私权受威胁和侵犯的概率[1]。还有其他第三方主体（如广告经营商等），基于与服务提供者达成的私下协议获取到了“用户画像”，通过用户当前的浏览界面实施广告引导从而跳转到其他相应界面的行为，无疑也在一定程度上侵犯了用户的合法权益。数据信息的长期存续会使得强制获取行为一直持续，可想而知风险也会不断加剧。

1.2 隐性偏见：违背社会公平

算法推荐的隐性偏见主要包含两个方面，即研发中的偏见和运行中的偏见。一方面，算法推荐技术并非独立凭空产生，由人研发的技术必然包含其固有的主观意识和个人倾向。在当前经济模式转型升级、市场竞争日益激烈的情况下，服务提供者更偏向利用算法推荐技术的研发优化给自己创造经济效益。即便研发者主观上尽力保证公平公正，但受制于专业背景、知识储备、价值观念等方面因素的影响，也会不可避免地约束算法推荐技术的研发。同时在研发过程中需要对数据信息进行筛选分析，数据信息的选择范围、时效性、随机性、准确性等都可能会造成数据信息输入时的偏差，往往更加倾向于社会中的“多数群体”和“主流信息”，从而在输出结果时导致算法偏见现象的加剧[2]。另一方面，本就带有偏见的算法推荐技术在伪中立技术的笼罩下，偏见现象会更加严重。算法推荐的运行过程实际上是一个动态的过程，通过对数据信息进行有选择的处理分析，在与网络环境的交互延伸下形成了新的偏见。第一，价格偏见，常见于消费领域。在当前算法推荐模式下，服务提供者针对不同群体制定不同的价格。例如，对老顾客适用较高价格，对新顾客适用较低价格的“大数据杀熟”。如此一来，不仅会侵犯用户的公平交易权，还会破坏其他市场主体的自主经营权。运用算法推荐的服务提供者会排挤其他市场主体，限制行业正当竞争，使其失去竞争优势的同时，也会造成市场失灵和秩序紊乱等问题[3]。第二，性别偏见，常见于劳动领域。例如，谷歌在推送高收入的招聘信息广告时，同等条件下女性用户收到该类推送信息的次数明显低于男性用户[4]。又如，亚马逊的招聘算法系统更倾向于男性简历，导致女性求职成功率偏低，经修改发现作用不太显著后便放弃了该招聘系统。第三，种族偏见。哈佛大学的一项调研显示，出租房屋网站上，非黑人房东的房租平均每晚为144美元，而黑人房东的房租为每晚107美元[5]。这在价格偏见的基础上进一步形成了种族偏见。此外，还有对其他弱势群体的偏见等。综上，算法推荐对数据信息收集、分析、处理的异化导致了对不同群体的区别对待，不仅不利于人们平等权等基本权益的实现，还可能会造成经济差异分化、资源分配不均等更深层次的社会问题。

1.3 自主决策：丧失个体本位

算法推荐具有自主性的特性，自主决策意味着算法推荐将逐渐摆脱有形控制，对个人和社会都产生了潜在的威胁。社会关系的产生以主体达成合意为基础，建立在各主体之间的真实意思表示之上，但是在算法推荐的自主决策情况下这一环节已然被忽略[6]。长时间的自动推荐和自主决策正潜移默化地影响用户，由主动搜寻信息逐渐变为被动接收信息，由绝对的选择自由到相对的限制自由，使用户日益依赖算法推荐，逐渐让渡自我选择的能力和权利，丧失作为社会成员该有的主体性和独立性。同时，精准化、个性化的推荐使数据信息范围窄化，容易发生“信息茧房”效应。用户长时间处在自己所熟悉的领域，逐渐远离多元化的丰富世界，最后陷入自我隔离的境地。受算法推荐的影响，在不断接纳和认同自己的过程中成为了算法所定义的人[7]。虽然服务提供者是根据用户的个人喜好过滤其不感兴趣的内容，提供自认为有针对性的数据信息，但这仅代表着用户的当前喜好或部分喜好，并不意味着在将来很长一段时间内都是如此。且对于用户而言，想知道的信息不等同于需要知道的信息[8]。试想，如果用户偶尔搜索了低俗浅显的信息，由于算法推荐缺乏道德观和伦理观，在忽视内容真实性和优劣性的情况下就会持续推送相关信息，易将用户置于低价值的信息过载处境之中，这对于个人价值观的塑造，甚至对整个社会的价值取向和观念意识都会产生误导。

2 我国算法推荐的规制路径

2.1 安全综合监管

为推进互联网信息服务算法的综合治理和促进其健康发展，2021年9月17日，国家互联网信息办公室等九部门发布《关于加强互联网信息服务算法综合治理的指导意见》，提出“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”。2021年12月31日，国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局联合发布了《算法推荐管理规定》。《算法推荐管理规定》的出台为算法安全综合治理提供了有力的保障，形成了多元协同的治理机制。第一，强调政府层面的治理监管职责。网信部门作为算法推荐服务的治理监管主体之一，突出了其重要地位。梳理我国先前颁布的有关法律文件，不难发现我国网络服务的治理监管主体正由分散走向集中。先前治理监管主体的分散导致了职能交叉，权责不一情况的发生[9]。如今厘清了权力边界，明确了以网信部门作为统筹协调的主体，电信、公安、市场监管等其他有关部门依照各自职权相互协调配合的机制对整个算法治理格局发挥着至关重要的作用。第二，落实服务提供者的安全主体责任。服务提供者在享有相关数据权益的同时也负有安全保障责任，两者是不可分割的。因此应当及时建立健全相关管理制度和技术措施，配备专业人员和技术支撑。第三，倡导社会各界的共同治理模式。一方面，鼓励行业组织加强行业自律，规范行业行为，并自觉接受社会各界监督。另一方面，鼓励社会公众通过申诉、投诉、举报等方式进行监督，积极行使权利，为安全治理提供有力保障，以此形成多元共治的良好局面。此外，《算法推荐管理规定》还建立起了科学的监管体系，形成了全方位的安全监管机制。《算法推荐管理规定》确立了监管部门应对服务提供者实施分级分类的安全管理制度，明确了服务提供者应履行的算法备案手续，落实了相应主体的算法安全评估、算法监督检查等具体工作。同时《算法推荐管理规定》建立起了算法问责体系，针对服务提供者不同程度的违规行为给予相应的惩罚，使其承担相应的法律责任。相比《互联网信息服务算法推荐管理规定（征求意见稿）》（以下简称“征求意见稿”），《算法推荐管理规定》对违规处罚力度进行了一定程度的加强。

2.2 用户权益保障

聚焦侵犯用户权益的乱象，《算法推荐管理规定》旨在保障用户个人权益和用户群体权益相结合。就个人权益而言，一是要保障用户的知情权。服务提供者应当告知用户有关算法推荐服务的基本情况，主动增强规则的透明度和可解释性。这样做不仅能够促进算法推荐服务的公开透明，让其在阳光下运行，也在一定程度上能缓解服务提供者和用户之间信息不对等现象的发生。二是要保障用户的选择权。用户有权自主选择是否使用算法推荐服务，如用户选择拒绝使用，则服务提供者需立即停止提供服务。在保障用户群体权益方面，针对老年人群体，考虑到其年龄、识别能力、网络使用程度等情况，便依法开展了规避电信诈骗的系列服务；针对消费者群体，应避免依据个人喜好、交易习惯、生活水平等特征进行差别待遇，实施价格偏见、“大数据杀熟”等不合理的算法推荐和算法决策，以保护消费者的公平交易权；针对劳动者群体，可以建立诸如订单分配、工作时间等真正有益的相关决策，以切实保护劳动者的合法权益。2021年，美团相继公布了外卖配送“预估送达时间”和“订单分配”的算法规则，有效兼顾了用户、商家和骑手三方的利益。

2.3 社会生态服务

一项技术要得以长期广泛应用，就必须受伦理、价值、法律等多方面的约束。算法推荐的背后实质上是一系列冰冷的、机械的数据，其工具属性不能凌驾于人类理性之上，如果不对其施加正确引导，很难为社会带来利益福祉。2017年，美国计算机协会发布了《算法治理伦理原则》；2019年，欧盟委员会发布了《人工智能道德准则》[10]；2022年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》。由此可见，伦理规范和道德约束对算法推荐领域之重要。如今在我国出台《算法推荐管理规定》的背景下，使算法推荐服务符合当今社会的意识形态和价值导向，这个过程就是向上向善的生态治理过程。针对算法推荐引发的社会治理乱象，诸如片面追求流量，推送恶性广告弹窗，违法传播不良虚假信息等情况，《算法推荐管理规定》做出了正面的回应，明确服务提供者应尊重社会公德伦理，坚持主流价值导向，促进算法向上向善。在拒绝提供传播不良虚假信息、反对实施恶意价值导向、设置违法失德的算法模型的基本条件下，还要积极履行主动作为义务。加强界面的生态管理，促进正能量的传播，通过人工干预和用户自主选择的协同方式，呈现符合主流价值导向的信息。尤其针对未成年人群体，要切实履行未成年人网络保护义务，不得提供诱导其沉迷游戏等不良嗜好的算法推荐服务，努力保障未成年人的身心健康发展。目前国内多家网络平台已采取了行动，例如，抖音开通了青少年模式以实现推荐适龄内容、管理使用时长、合理使用应用等功能，还开通了亲子平台，家长可绑定子女的账号进行远程管理，在此树立了良好的典范。

3 我国算法推荐的规制路径优化

3.1 本体：规范与解释

3.1.1 细化具体阶段规范

在《算法推荐管理规定》已经明确对服务提供者进行分级分类管理的情况下，要进一步细化对算法推荐技术本体的具体阶段规范。在算法推荐技术的研发阶段，可以通过植入自动防御代码、建立安全防火墙、实时监测系统等措施加强科技创新，从源头上为算法推荐技术提供安全保障。例如，IBM首创了数据隐私护照技术，该技术能够保证本地数据不被泄漏，即使数据离开本地存储平台也可以进行有效保护。用户可以制定数据规则，在必要情况下还可以通过该技术行使撤销数据访问权，该技术为算法的数据基础建设增添了强大动力①。在数据信息收集阶段，服务提供者可以根据数据信息的重要程度在进行前置性评估的基础上设置不同的技术要求。对于一般数据信息，例如用户主动公开的个人简介，其敏感性、可识别性较低，可以在算法推荐技术中设置概括的收集程序和用户授权标准。对于特殊数据信息，例如身份证信息、人脸指纹识别，其敏感性、可识别性较高，应当在算法推荐技术中设置严格的收集程序和用户授权标准，从而保障用户个人数据信息的收集安全。在算法推荐技术的运行阶段，服务提供者可以建立安全的数据信息存储平台，严格限制数据信息存储平台的访问主体、访问目的、访问权限，自动形成并保存好相应的访问记录。但是要尽量满足用户对个人数据信息实施的访问、修改、删除等行为，以便能够及时发现个人数据信息安全存在的潜在风险。

3.1.2 推进算法解释机制

加强算法推荐服务的公开透明，其根本目的是让用户知悉并理解，获取对算法推荐服务的信任。《算法推荐管理规定》在一定程度上保障了用户的合法知情权，但是即便将其公开也存在着因专业问题而导致的局限性，因此可以在公开的基础上落实算法解释工作，其必要性体现在如下方面：第一，算法推荐技术的研发过程中必然涉及商业机密等不宜公开的内容，此时算法解释便可以缓解算法公开与知识产权制度之间的矛盾[11]。第二，代码程序的专业复杂等问题使得非专业人员难以真正理解算法推荐的运行机制，即便公开作用也相当有限，进行备案公开后如果不及时更新后果依旧如此。此时通俗易懂的算法解释便可以使公众真正做到知悉并理解。第三，毕竟服务提供者作为单方主体可以进行有选择、有限度的公开，规避某些负面影响，加上缺乏公众的参与机制导致公开的单向化、片面化[12]。此时对于用户提出的请求进行解释，可以促使公众相信和提高算法推荐技术及服务自身的可信度。由征求意见稿中的“算法推荐服务提供者应当综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响、引发争议纠纷”，最后变更为《算法推荐管理规定》中的“鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷”，在严格责任意义上进行了一定的限缩，那么在现有规定基础上应继续具体推进算法解释机制。一是确定解释主体。根据算法推荐服务具体应用场景的不同，以及算法推荐技术的研发者和服务提供者是否为同一主体，来确定承担解释义务的主体。二是确定解释范围。解释范围不仅要包括算法推荐的程序解释，还要包括相关决策解释、信息解释、理念解释等。三是确定解释方式。服务提供者应当采取用户须知等电子协议的必要方式进行覆盖整体范围的初步解释。同时针对用户在使用算法推荐服务过程中提出的个别性、合理性请求进行单独解释，而无须将范围扩大到社会公众[13]。

3.2 法律：赋权与救济

3.2.1 充分赋予用户权利

针对用户个人而言，在《算法推荐管理规定》已经明确用户享有知情权、选择权、投诉权等权利的基础上，加上上述内容中的算法解释请求权以外，可以进一步参考欧盟《通用数据保护条例》中的规定，对用户赋权以平衡算法推荐权力带来的影响。一是访问权。用户在提供数据信息时有权确认自己的信息是否正在被不当处理，并有权在符合适当性、必要性的前置条件下进行访问。二是修改权。在用户进行访问发现内容有误后，可以要求服务提供者对数据信息进行相应的调整修改。三是删除权。当用户依法撤回同意许可或永久退出应用后，服务提供者便不再享有数据信息处理的权限，不应留存备案而应当彻底删除。四是限制处理权。当用户对服务提供者侵犯个人信息等行为进行投诉时，可以不要求其必须履行删除等措施，而是予以限制不再处理个人信息。针对特定群体而言，在《算法推荐管理规定》已经明确包含未成年人、老年人、消费者、劳动者在内的特定群体以外，还要注重其他特定群体的权益，例如基于民族、种族、肤色、宗教信仰、身体健康等因素的差异而形成的特定群体。

3.2.2 拓宽法律救济途径

算法推荐具有专业性和不透明性的特征，这大大加剧了服务提供者和用户之间信息不对等现象的发生。如若出现算法推荐的侵权事件，将会加大用户个人取证的难度，从而引起后续的举证难、诉讼效率低下、权益难以得到有效保护等一系列问题，长此以往即便用户权益遭受损害也会怠于行使权利提起诉讼[14]。此外，算法推荐的侵权现象往往不是针对特定个体，而是可能面临着一对多的情形，即受到利益损害的主体不限于社会中的少数人，已经延伸到了公共领域范围内。因此，对于算法推荐服务中有损于公共利益的事件，可以拓宽法律救济途径，将其纳入公益诉讼领域范围，由相关行业组织、社会团体或国家公权力机关行使诉讼权利。参考《美国算法问责法案（2022）》第九章(b)(1)节的规定：“如果一个州的总检察长有理由相信，该州居民的利益已经或正在受到违反本法案或根据本法案颁布的法规行为的威胁或不利影响，该州总检察长可以作为原告，代表州居民向美国适当的地区法院提起民事诉讼，以获得适当的救济。”②这样可以缓解个人诉讼中所面临的诸多困境，在一定程度上防止公共利益损失的扩大。

3.3 社会：监管与伦理

3.3.1 设立第三方机构

加强监管是防范风险的必然要求，《算法推荐管理规定》中已经明确要加强服务提供者的内部监管和行业监管。但两者依然是在算法推荐的整体领域范围内，且涵盖的绝大部分都是算法从业人员[15]，人员组成、调整范围、价值选择等方面都具有一定的局限性。此时应该设立中立的第三方机构如算法审查委员会来进行评估监管等工作。从人员组成方面来看，第三方机构除了包括既有的算法从业人员，还可以吸纳例如安保、法律、科学、伦理等有关领域的专家学者、从业人员和社会公众在内的多种主体。从调整范围方面来看，社会公众更能以使用者或普通人的角度来发现算法推荐服务在实际生活中所引发的主要问题。相关领域内的人员能够不再单单局限于算法推荐领域内，转而多角度、宽领域、深层次地对算法推荐服务的安全性、必要性、合法性等方面进行评估监管、聚焦问题，进而提出相应的对策。从价值选择方面看，第三方机构更具有中立性，不会有意偏袒任何一方，有利于保证过程和结果的公平公正。服务提供者、行业整体应与第三方机构通力合作，制定相应评估监管事项、标准、流程、频次等具体规定，还可以采取定期视察、不定期检查等措施。当第三方机构在发现算法推荐技术本身或运行过程中出现的包括但不限于安全、伦理、价值偏离在内的相关问题时，应及时向服务提供者反映并提出纠正意见，在其按期完成整改后再次进行评估检查，对不予整改或多次整改不合格的将给予重点预警或拉入行业黑名单，以此形成互补有效的多向交流机制。

3.3.2 引导社会向上向善

服务提供者作为社会的重要主体，承担着多重角色。不仅是市场经济的经营者，更是社会价值的引领者。因此，服务提供者在追求商业经济利益的同时，要兼顾社会公共利益的实现，树立责任观、大局观，积极承担社会责任，发挥算法推荐服务的正向作用。例如，今日头条平台的“头条寻人”公益项目利用算法推荐中的地域维度，以地理位置弹窗的方式将走失者信息精准地定向推送给走失地点附近的用户。截至2022年1月，该项目已累计帮助18 000个家庭团圆。此外还有“感光计划”“无名患者寻亲”“山货上头条”等多个项目，助推了我国社会公益事业的高效发展。除了服务提供者，社会公众在使用算法推荐服务时也要遵守有关规定，遵循社会公序良俗，提高网络安全意识和自我保护意识。树立正确的价值观，坚持主流意识导向，在充分发挥个人自身价值的基础上形成正向的链条效应、网格效应、区域效应。只有人人内化于心，外化于行，才能推动算法推荐服务向上向善的生态治理，实现全社会对算法科技与伦理相结合的美好愿景。

4 结语

技术创新和制度变革往往相伴而生，相向而行。我国数字经济业态正处于高速发展阶段，算法推荐治理问题已成为重中之重。《算法推荐管理规定》的发布使我们能够有章可循，是对我国算法推荐治理体系难题的有效回应。在当前算法推荐前景与风险并行的情况下，我们应筑牢安全意识，强化底线思维，以《算法推荐管理规定》为法律依据，将制度规范与自我约束相结合、经济利益和公共利益相兼顾、科学技术与价值伦理相贯通。通过本体、法律、社会的多重路径进行规制优化，助推算法推荐领域的可持续发展。

注释：

①参见郑凯：《IBM新一代主机z15：清掉企业全面上云的绊脚石》，载微信公众号“科技正能量”，2019年11月1日。

②参见吴建昊：《美国算法问责法案（2022）》，载微信公众号“网络法理论与实务前沿”，2022年2月20日。