算法推荐技术的逻辑“陷阱”及规避

高一丹，李演军

（兰州理工大学图书馆，甘肃 兰州 730050）

“媒介即信息”（麦克卢汉语）。在万物互联、万物皆媒的智媒时代，人与算法皆为媒介。无论你是否愿意，人与万物彼此相连而产生大量的信息，从而形成一个巨大的数据系统。在智媒时代的今天，我们常常会遇到这样一些现象：当你在互联网上搜索或者购买某款产品后，你的首页就会被同类产品所占领。同样，电脑、手机好像很“懂你”，同款的设备，年轻人与中老年的首页、搜索引擎页面完全不同。正如流行语所言，“你相信什么，媒体就会让你看见什么”“你有什么样的观点，你就会经常看到与你相同看法的文章”。在人工智能、大数据、云计算以及5G 应用技术主宰的智媒时代，“千人千面”的个性化、精准化服务已成常态，高科技在给用户带来信息便捷服务的同时，伴随而来的是过度的“索权”和“信息黑箱”。他们违规收集个人信息，侵害个人隐私，泄露个人数据，对用户造成极大的伤害。人们普遍感受到自己已经变成“透明人”，无时无刻不处于恐慌、焦虑和无奈之中。这种现象如果得不到及时有效地规制，将会引发一系列社会问题。

1 算法推荐技术的逻辑

人工智能和大数据的核心技术在于算法，算法的本质是一种权力的让渡。作为数据与人工智能的节点，算法在新闻内容生产和分发环节中起着关键的逻辑控制作用，在信息的准入、准出方面发挥着重要的过滤作用，在检索、分类方面发挥着记录和判定作用[1]。而算法推荐技术是以计算机为平台，利用用户在互联网上的行为轨迹，包括时间、地点、场景等；通过对用户的年龄、性别、职业、爱好、兴趣等数据收集进行偏好分析，推算用户可能的物质、精神需求。然后基于内容推荐、协同过滤推荐、关联规则推荐等技术，对收集的信息进行整理，对环境、内容、个人特质进行分析判断，计算出相关性、热度指标、协同性等方面的特征，形成“用户画像”。再根据“画像”匹配、分发信息，为用户精准推送量身定做的资讯信息产品。算法就是以此为基础进行分析、筛选、分拣、匹配内容，调试人们的价值关系，推送资讯信息产品。

当然，在算法没有足够的数据进行计算时，平台会推送一些极具诱惑力的内容，如文不对题的“标题党”，低俗诱惑的“强烈推荐”，博人眼球的“热点关注”等，引诱用户点击、关注，甚至互动、评论。通过这些操作和内容，进一步试探用户爱好兴趣，吸引用户点击关注，以此收集用户更多、更详细的信息，完善算法元素。为获取更多的数据，算法会不断刺激用户使用产品和信息内容，吸引用户“沉浸”其中，迷恋于网络而不能自拔。随着点击、互动的深入，在完全不自知的情况下让渡更多的“权力”，在奉献“流量”的同时，奉献更多的隐秘信息，让“机器”完全掌握“人类”，在不断地匹配、调试中提高算法的精准度。

2 算法推荐的技术伦理与“陷阱”

2.1 算法推荐技术的伦理失范

“技术是把双刃剑”。算法推荐作为一种“技术”的存在，并没有“好”“坏”的属性，但传播者如果将这种技术与追求最大利润结合起来，与用户的需求偏好和价值取向结合起来，编织信息茧房，攫取流量，自然就会涉及到一些技术伦理的问题。

（1）信息的客观性和公正性受到挑战。有学者认为，坚持新闻信息内容传播时的真实性，是对传媒机构及其从业人员最基本、最底线的要求和应遵循的新闻传播准则，也是媒体最重要的伦理功能之一[2]。信息有“公共产品”的社会属性，传统媒体的信息传播强调的是信息的真实、客观、公正，“正面引导”。传媒机构要牢牢把握传播的内容和方向，而依靠算法推荐技术的运作，按照用户的需求和偏好推荐信息，缺乏人工审核“把关”，信息的重要性、时效性、导向性无法落实，信息的客观性、公正性无法保障。为增加“流量”，提高流量变现能力，传播平台势必会讨好用户，以“非主流”信息内容增加点击率、评论量、用户活跃度等指标，来增加用户黏性，从而消解传媒机构的权威性和公信力。

（2）对用户的真正需求存在“偏见”。“机器”可以识别人在互联网上的“数据脚印”，但无法识别人的情感变化。人在不同时期、不同环境有不同的需求。所以，算法不可避免的存在“偏见”和技术漏洞。很容易出现把用户偶然随意性的行为认为是必然性的行为，这样就有可能造成对用户真正的信息需求进行错误的分类和推荐，在一定程度上反而限制了用户的选择权，形成对受众歧视、偏见性的推荐[3]。

（3）用户信息和个人隐私面临风险。尊重和保护个人隐私是社会生活中应遵循的基本伦理，但受利益的驱动，一些传媒机构和资讯平台基于完善算法数据和“精准画像”的需要，大量违规收集、跟踪用户个人信息和互联网记录，分析用户兴趣和偏好，造成信息侵害和个人隐私曝光，人们在强大的数据旋涡中处于“裸奔”状态。一些应用APP 利用自己市场垄断地位，在安装更新软件时，迫使用户接受其所谓“协议”，否则就不能继续正常使用。甚至出现如央视“3·15”晚会上曝光的一些平台窃取数据和出售个人信息的违法案例。

2.2 算法推荐技术的“陷阱”

（1）互联网编制的数据“陷阱”。算法推荐通过数据分析，为用户匹配内容，目的是提高网络应用的效率。但是不得不说，算法不仅存在加剧用户使用网络时长的风险，甚至使用户逐步陷入互联网和数据编制的“陷阱”，难以全身而退。互联网的基本思维是“联结一切”，算法在此基础上通过庞大数据系统，追求更精准的价值关系联结[4]。可见，我们需要具有从互联网为我们编织的“陷阱”中脱身、逃离的能力，要认清算法的接受逻辑，对算法推荐技术有清醒而冷静的思考，对这种技术有所认识和防范，有意识的保持一定的距离。决不能沉溺于“上网模型”，过度“娱乐至死”，被碎片化的无效信息所包围，掉进“时间的黑洞”。

（2）追求流量强化“数据黑箱”。算法在技术数据的编制上是“资本追求利益”的导向。在当前媒体激烈地竞争下，为了谋求自身更好地生存和发展，获取更大的利润空间，提高流量变现能力成为必然的选择。一些媒体平台为追求经济效益降低了社会效益，放弃传媒承担的社会责任。为增加点击量和关注度，增加用户黏性，会强化“算法黑箱”，“水军”注水，使用户在不知不觉中掉入技术和资本的“陷阱”。个人数据信息过度商品化，形成了用户行为数据足迹的永久存储，甚至造成对用户的“全景监狱式的无缝监视”，价格歧视上的“大数据杀熟”等现象[5]。

（3）“信息茧房”导致认知窄化。传统媒体的消息分发、推荐、传播，注重的是公共、多元、开放、单向的传播模式，而智媒时代的传播，接受信息是双向、多维、互动的模式。过度依赖算法会导致用户主动、自主选择信息产品权力的丧失，如果对资讯平台推荐的信息内容照单全收，就会不断强化“信息茧房”，形成“回音壁效应”，造成认知窄化，甚至自我封闭，排斥其它信息，固化已有的思维,被困于“过滤器泡泡”的“陷阱”之中。有学者指出，随着算法介入数字新闻业，凭借着极强的素材抓取与数据搜集能力，个性化推送成为算法新闻的“标配”，展现在眼前满足我们要求的信息，使用户不自觉陷入“被计算好的领域”，生活在过滤后的泡沫之中。

3 规避算法“陷阱”的路径和策略

有学者认为，过度依赖人工智能会“把人推到一边”，以人为中心的社会体系会逐步让渡到以数据为中心。算法推荐技术无疑将重构传播业态，重塑人们对世界的认知。我们探讨算法推荐技术带来的伦理失范问题，研究如何规避算法“黑箱”在信息推荐过程中对用户设置的种种“陷阱”，并不是要否定和排斥算法这一技术。而是要规制这一现象，规避这一问题，在传媒机构的“商业利益”与公民、用户“合法权益”两者之间找到一个平衡点。近年来，国家有关行业主管部门已经开始着手治理算法推荐技术带来的负面问题，对用户规模庞大、问题突出、反映强烈的多款应用APP 采取了公开曝光、约谈、下架等处理。我们认为要从以下几个方面综合施策：

3.1 从法律法规层面建立他律与自律相结合的责任机制

从制度层面完善相关网络传播法律法规，规范算法权力的滥用，建立健全网络隐私权、公民个人信息保护、传播内容及传播生态保护等规章制度，规范行业行为准则。以问题为导向，对已经发现和暴露出的问题要及时解决，强化行业不正之风要加强监管力度。对网络收集个人信息，公众要有知情权、同意权，对一些垄断性平台的“霸王条款”，要有应对和治理措施。

3.2 从资讯传播平台监管层面实施技术把关与人工把关“双把关”审核机制

把交给“机器”的权力重新收回来，从技术层面设置主流价值观和传播道德伦理审查的因素，确保用户获取主流价值产品，维护信息传播的客观性、真实性、公正性原则，对虚假信息、“三俗”内容进行过滤识别，增加“人工审核”在内容把关中的权重和力度，履行好传媒的社会责任。

3.3 从完善算法推荐技术层面建立多元推荐系统

在算法推荐基础上加入传播价值、社会效果、用户满意度等指标，让技术服务人，而不是给人“挖坑”“算计人”，确保为用户提供更多更好，更有价值的内容产品。用户要有意识地使用多个“信息源”，从不同渠道获取多元信息，从信息获取习惯上打破信息壁垒，走出、突破长期消费习惯形成的“舒适圈”。

3.4 从用户自身层面要培育公众的“算法素质”

对于算法推送的信息，用户要提高鉴别力和防范能力，避免陷入算法设置的“陷阱”。在社会范围内加强算法相关知识的宣传普及非常必要，人们应主动、有意识地学习了解必要的算法知识，清楚算法的基本“套路”，提高对技术的驾驭能力，而不能被技术所奴役。审慎对待和评价算法推送的资讯、信息，反思它所带来的负面问题，培养自身独立的思考能力与批判思维，不过度依赖算法，自觉抵制算法带来的不良影响[6]。

总之，治理算法推荐技术的伦理失范，规避算法“陷阱”的问题是一个复杂的系统工程。国家政策要规制，资讯平台要配合，用户个人也要自省自律。要从源头上为互联网应用程序明确底线，划出底线，让技术不要“跑偏”，在人与技术共同发展中，人机协同共进，推动传播生态的净化和传播业态的健康发展。