算法推荐对用户权益的侵害与保护路径探究

□ 文 孙雪玲 王黎黎

0 引言

随着数字通信技术的发展和移动终端设备的普及，海量的用户数据得到极大的开发和利用，以筛选和分发为技术依托的算法推荐技术应时而生，成为互联网企业抢占市场份额、提高企业竞争力的关键。算法推荐技术的应用不仅提高了网络用户的资源检索效率，而且为数字经济的繁荣注入强劲力量。然而，由于算法推荐技术的专业性、复杂性和不透明性等技术特征，同时引发了个人信息泄露、算法歧视、算法归责困难等诸多法律问题，对用户个人基本权益造成现实的侵害。

1 算法推荐的概述

1.1 算法与算法推荐的一般含义

算法、大数据已经成为人工智能的核心，嵌入到社会经济运行的各个领域。算法是根据预先设定的架构和代码程序，输入的数据经过分析和处理，转化为输出结果。而算法推荐技术是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。简单来说，算法推荐技术会通过抓取用户日常的使用数据，分析得出用户的行为习惯和兴趣喜好，进而精准化地进行信息推荐及分发。

数字经济时代，算法推荐成为互联网平台过滤、分发海量数据的生产工具，被广泛应用于新闻推送和电商平台等领域中，提高了互联网平台信息处理能力，同时给商业企业创造了巨大的经济效益，平台企业充分享受着算法技术带来的红利。但对于普通用户来说，算法推荐是一把“双刃剑”。一方面，个性化推荐算法可以通过对互联网平台用户的数据信息进行挖掘和分析，平台根据对用户个人需求和兴趣偏好进行精准化内容推送，节省搜索时间与成本；另一方面，算法由于太过于“了解”用户，只会根据用户标签推荐用户自身感兴趣的内容，长此以往就会带来“大数据杀熟”“算法歧视”“信息茧房”等法律风险。

本文以算法推荐技术为研究对象，分析算法推荐技术应用中的法律问题，探求一条规范化治理道路，以期在促进科学技术繁荣向上的同时，切实维护网络用户的合法权益。

1.2 算法推荐的现行立法规定

对于算法推荐的法律规定，我国采取的是散布在多部法律文件中的分散立法模式。2019年《电子商务法》率先对电商平台商品或者服务的搜索结果进行了规定，要求电子商务经营者不得向消费者提供针对个人特征的选项，开启了我国关于算法推荐治理的立法之路。此后在《反垄断法》《在线旅游经营服务管理暂行规定》中都能见到关于算法治理的身影。2021年出台的《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）对通过算法推荐向个人进行信息推送的行为进行了积极的回应，并允许个人有权拒绝有针对性的信息推送和商业营销。同年，《关于加强互联网信息服务算法综合治理的指导意见》出台，为我国算法推荐的治理搭建了基本法律框架。

因算法推荐尚未形成体系化规范，在司法实践中难以适用，2022年，国家互联网信息办公室等多部门联合发布了《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》），为规范算法推荐服务进一步提出合规要求，织密了我国算法推荐管理的法律框架。《算法推荐管理规定》施行的目的在于促进算法推荐技术“向上向善”发展，防止不当利用算法推荐服务给国家、社会和公民个人的权益造成非法侵害。

2 算法推荐引发的法律问题

随着算法技术的发展，算法推荐的嵌入领域不断扩大化，成为平台经济发展的强大动力。科技的发展是把“双刃剑”，对网络平台来说，算法推荐技术是平台经济发展的助力剂，算法推荐的应用在提高用户黏性的同时源源不断地为网络企业创造经济价值。对网络用户来说，算法推荐技术侵蚀着网络用户的信息生态环境，用户在算法面前逐渐成为数据化、符号化的“透明人”，算法推荐深谙用户的兴趣爱好、生活习惯以及消费特征，重新塑造着用户的价值观、消费观和意识形态，对用户的个人信息知情同意权、平等权和财产权等产生了深刻的影响。对算法推荐引发的法律问题进行分析，有利于算法推荐技术合理合法应用，同时也为算法推荐服务提供者提出了警醒，有助于引导有关行业和平台合规运营。

2.1 算法推荐服务应用前：对个人信息知情-同意规则的侵害

算法推荐在互联网初步发展之时，用户通过浏览、点击、搜索行为产生的个人数据便被收集和让渡，成为互联网企业商业运作的重要数据来源，用户的个人信息权益遭受着隐形的侵害。如今，算法是数字经济发展的核心技术，算法推荐成为推动数字经济发展的强有力工具，个人信息是算法推荐服务运行的基础和前提，算法推荐又是处理个人信息的一种方式。互联网平台在收集、索取用户个人信息时，用户个人信息的知情同意规则和算法推荐服务提供者的算法告知义务逐渐流于形式。

通常情况下，用户在注册使用某软件前需要提供基本个人信息，甚至某些软件的使用以获取用户地理位置、通讯录权限为必要条件。然而由于用户和算法推荐服务提供者之间存在着地位悬殊、认知局限等因素，用户的知情同意难以得到有效的保障。一方面，网络服务平台主要通过格式条款或者隐私协议的方式取得收集使用个人信息的权限，针对已制定的条款用户没有平等协商的权利，更别说修改亦或变更的权利，而是否同意的格式条款或隐私协议政策常常被设置为获得应用软件使用权的前置程序，因而用户的概括“同意”往往是在迫不得已的情况下作出的，不符合用户本人的真实意愿。另一方面，处于弱势地位的用户群体对专业性、复杂性较高的个人信息条款难以理解，很难投入时间、精力去通读了解晦涩难懂的个人信息收集政策，因此关于个人信息的收集使用情况用户难以实现有效知情，授权条款沦为算法推荐服务提供者免于责罚的避风港。

2.2 算法推荐服务应用中：对用户的歧视性侵害

算法并没有通过技术手段解决人类社会中固有的歧视与偏见问题，反而因为算法推荐固化了歧视与偏见。算法推荐所需要的数据从收集时就非绝对的客观中立，因而算法推荐在进行内容分发时不可避免的存在偏见或歧视。“算法歧视”的具体表现有种族歧视、性别歧视、价格歧视以及就业歧视等。互联网时代，算法推荐助推了更为隐蔽的歧视，有悖于公平正义的社会主义发展理念。除价格歧视之外，算法推荐在就业服务领域中的歧视也应得到重视。算法推荐使得求职者不能平等的获得就业机会与社会资源，算法推荐技术在就业服务领域的应用再现并放大了人类固有的性别偏见。

“算法歧视”不仅是现实歧视在虚拟网络世界的延伸，更有扩大的趋势，这种大规模的“杀伤性”能够在网络世界产生倍增效果。“算法歧视”产生的原因是多方面的，主要可归结为以下几种情况：包括录入数据的偏差、算法设计者的个人偏见和算法黑箱导致的不透明性。第一，数据源的偏差。算法推荐是以海量的用户数据为基础，当社会生活中根深蒂固的偏见作为数据源信息被算法技术抓取，固有偏见不断在算法程序中巩固并深化；且信息数据采集的片面性同样会引起数据源偏差，片面性信息数据无法反映整个群体特征。第二，算法设计者的个人偏见。算法设计者在设计算法程序时有意或无意的将个人主观意识嵌入到程序运行步骤中，弱化了算法推荐结果的客观中立性。第三，算法黑箱导致的不透明性。由于算法的黑箱属性，算法推荐对于用户而言是不透明的，难以知晓算法推荐技术的信息挖掘情况，对算法推荐结果“知其然而不知其所以然”。

2.3 算法推荐服务应用后：对侵权-救济规则的侵害

缘于算法推荐技术的复杂性、专业性，算法运作过程的黑箱性质，以及机器自主学习带来的随机性和不确定性，算法推荐在侵权责任认定方面存在“责任鸿沟”。所谓“责任鸿沟”是指算法推荐侵权主体认定困难、责任分配以及责任承担方式难以落实，给算法推荐的归责和追责带来一定困难。

对于算法推荐侵权责任的认定主要面临以下难题：一是算法推荐侵权主体认定困难。一方面，算法推荐技术从开发到运行涉及多个主体，包括算法设计者、开发者和算法推荐服务提供者等众多参与主体，同时算法推荐运行的不透明性更是对确定具体责任人带来一定的困难，致使在算法侵权过程中难以识别和认定侵权责任人。另一方面，算法推荐技术往往是嵌入互联网平台通过计算机程序运作，而不是由具体的责任人来操作，因而算法设计者和使用者通常通过“技术中立”原则主张对算法推荐技术造成的损害后果无直接控制力，从而规避算法责任。二是算法推荐侵权责任难以划分。随着算法推荐技术在网络平台中应用，算法侵权责任的模糊性愈来愈显现，传统侵权责任法对于算法侵权归责存在着局限性，《算法推荐管理规定》也没有明确侵权主体的民事责任，产生侵权损害时难以衡量、认定侵权主体所应承担的算法责任。

由此，传统的侵权责任归责原则在算法推荐侵权责任归责时存在着一定的局限性，而算法推荐“技术中立”和算法技术受商业秘密保护理论更成为许多平台企业逃避算法责任的辩驳。这样不仅导致用户无法得到其应有的补偿，还有可能导致算法推荐技术滥用，成为平台企业规避算法责任的“挡箭牌”，不利于数字经济健康有序发展。由此，应完善并细化算法推荐服务提供者在算法推荐服务过程中的算法责任。

3 算法推荐的保护 路径

对于算法推荐技术的侵害行为我国应以现存问题和实际需求为方向，平衡互联网企业、网络用户和其他利益相关者的权利义务关系，不断完善并细化现行法律体系，完善我国算法问责法律体系，细化知情同意规则，保障用户算法权利，同时强化算法伦理意识，提高算法透明度，在促进科学技术繁荣向上的同时，探索一条符合我国基本国情的算法治理之路。

3.1 细化知情同意规则，保障用户算法权利

“知情同意”是我国个人信息保护领域的一项重要规则，然而在实践中，算法推荐服务提供者通过动辄数千字且夹杂专业术语的用户协议与隐私政策获取用户个人信息处理权限，“知情同意”规则趋于形式化。算法推荐是算法推荐服务提供者与网络用户之间的一种信息处理活动，因此，明确算法推荐服务提供者与算法用户之间的权利义务关系，充分保障算法用户的基本算法权利显得尤为重要。

首先，对于算法推荐服务提供者，履行有效的告知义务。在形式方面，告知的内容应该具备《个人信息保护法》第十七条所规定的具体内容；告知的方式应当具有显著性，采取条例清晰、通俗易懂的语言降低用户的阅读负担。在实质方面，隐私政策不得冗长复杂、不得频繁使用晦涩难懂的专业术语，必须确保用户能够根据其所提供的信息了解信息处理行为可能对个人权益产生的影响。其次，基于《算法推荐管理规定》充分保障用户的算法知情权、算法选择权和算法拒绝权等基本权利。在用户协议与隐私政策中明确阐释算法推荐所需的个人信息，具体内容包括个人信息的类型、数量、具体目的和用途，是否会提供给第三方等。此外，算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，保障用户的算法知情权。算法告知义务是基于算法推荐服务而设立的特别告知义务，是《个人信息保护法》中告知义务的具体化体现。同时，算法推荐服务提供者需要保障用户的算法选择权和算法拒绝权，用户有权选择进入或者退出个性化推荐程序，算法推荐服务提供者不得不当设置障碍，阻碍用户退出算法推荐程序。再者，加强公民信息安全教育，提高公民个人信息保护意识。在大数据时代，人们依然在网络上毫无顾忌的分享自己的信息，除了公民自身对个人信息安全的忽视之外，也缺乏对公民的信息安全教育，当下，应当提高公民信息保护意识，从长远之计保护个人信息安全。

3.2 强化算法伦理意识，提高算法透明度

如前文所述，数据源偏差、算法设计者的个人偏见和算法黑箱导致的不透明性是算法推荐技术产生歧视性的主要原因，或基于某一原因，或基于几个原因共同作用导致算法歧视，因此可以从规范数据收集、强化算法设计者伦理意识和提高算法透明度入手规避算法推荐技术运行过程中的歧视性，以保证算法公平，维护广大网络用户的平等权。

首先，保证数据来源的多样性和数据内容的客观性。数据收集的质量和范围影响着算法推荐程序的运行结果，缺陷、瑕疵的数据可能会导致歧视性的算法结果。因此，在数据采集方面，应保证数据来源的多样性和数据内容的客观性，规范数据收集从而在源头上减少偏见数据信息植入算法程序。其次，强化算法设计者算法伦理意识。算法设计者应当定期接受算法伦理道德培训，强化算法设计者的技术道德意识，在法律法规以及算法伦理规则框架内，使算法的设计符合主流价值观。最后，算法推荐服务提供者应增强算法透明度，算法透明度不仅可以提高算法的可信度和可接受性，而且可以帮助用户更好地理解算法推荐的决策过程和结果。算法透明的目标是理解，是信任，不是简单的披露源代码。算法透明的目的，一是让不同的主体理解算法设计、部署和运行，让用户感知算法运行的特点，评估算法可能对自身权益带来的影响。二是“刺穿算法黑箱”，有效降低算法推荐服务提供者和算法用户的不平等地位以及信息不对称，增强算法推荐服务提供者和算法用户之间的信任，提高公众对算法推荐过程及其结果的监督和问责。

3.3 明确算法责任，构建算法问责体系

明确算法责任，构建算法问责体系已经被大多数学者所接受并逐渐成为业界共识。由于算法侵权行为的隐蔽性，用户在大多数情况下不了解算法规则，甚至不清楚算法侵权行为的存在，因而给算法侵权主体的认定，算法责任的确定带来了一定的困难，因此，明确算法责任的承担与分配尤为重要。一方面，既能督促算法推荐服务提供者在法律和伦理道德范围内合理利用算法技术，对平台企业起到震慑作用；另一方面，划定责任边界，减少或者避免对平台企业一刀切式的处罚。算法推荐技术从设计、开发到运行涉及多个参与主体，如算法设计者、开发者，算法推荐服务提供者等，因而当用户的权益遭受算法推荐服务的侵害，产生具体侵权损害后果时往往难以查明和认定具体侵权行为人。尽管有学者提出赋予自主学习算法主体地位，但算法推荐技术作为一种人类使用的工具，其产生的算法责任理应由背后的行为主体承担。

首先，明确算法侵权主体。在人工智能算法技术广泛应用的情况下，所有参与其中的主体，无论是算法设计者、开发者亦或算法推荐服务使用者，其在算法运行过程中的身份和地位是动态发展变化的，因而算法推荐侵权责任主体认定，应结合算法推荐服务的具体应用场景给予以剖析，动态追踪侵权事实，将算法侵权责任落实到具体的侵权人。其次，明确算法责任。根据是否具有直接因果关系，以及各个主体在算法推荐应用场景中发挥的效用和扮演的角色予以划分算法责任。如果侵权行为导致的损害后果直接由算法推荐行为引起，算法推荐服务提供者对算法推荐技术具有实际的控制力，即使由于算法通过自我学习创制的技术风险，算法推荐服务提供者也应做到合理的注意义务，因此应当对该损害后果承担相应的算法责任。最后，完善算法侵权损害赔偿。一般情况下，责任认定的前提是产生具体的侵权损害，然而算法侵权责任的认定并不仅仅是对算法滥用行为的惩处和归责，更重要的对用户权益的保护以及产生具体的侵权损害后果时的救济。因此，应进一步完善、优化算法侵权损害赔偿制度，以保护用户的财产权以及人格尊严，推动算法技术向上向善发展。

4 结束语

显然，算法推荐技术在便利用户生活、推动数字经济发展等方面功不可没，但在推动科学技术发展进步的同时，应切实保障用户的合法权益。《算法推荐管理规定》的出台为算法推荐技术确定了新的规则，解决算法推荐问题不仅需要给互联网平台企业设置红线，同时需要进一步细化完善知情同意规则，保障用户算法权利，强化算法伦理意识，提高算法透明度，明确算法责任等等。只有让个人、技术、立法和算法平台共同发挥作用，才能让算法推荐技术更好地服务于人类社会生活，实现真正意义上的算法时代。