马尔库塞技术异化理论视角下算法治理的困境与反思

[摘 要] 马尔库塞的技术异化论继承了马克思的异化劳动思想，还利用弗洛伊德的精神分析学深入分析了发达工业社会条件下性格和心理层面异化的表现。马尔库塞认为科学技术具有两面性，科学技术提高劳动生产率的同时，也让人们丧失了作为主体独立思考的能力。当前社会各种智能技术的广泛应用都需要以算法作为基础，算法技术已经转变了社会治理方式。在算法技术与社会运行和治理融合愈发紧密的背景下，算法治理隐含的异化问题逐渐凸显。面对算法治理导致需求异化、劳动异化、主体性减弱等问题，目前可以从算法技术进行反治理、法律与政策的规范、培养面对算法技术的正确价值观等多个方面解决，促进技术与治理良性循环，从而完善算法治理能力。

[关 键 词] 马尔库塞；技术异化；算法治理

马尔库塞在《单向度的人》和《反革命与造反》以及其他作品中，都阐述了他的技术异化观点，这是技术进步导致他具有极权主义特质的原因。虽然他生活的时代与现在存在差异，但他对于技术导致的异化问题的思考，在当代展现得更深入。在当前的信息技术社会中，算法技术被视为核心技术之一。从计算机程序设计的视角来看，算法是由一系列用于解决问题的指令组合而成，能够在规定时间内按照既定的标准投入，实现高效的输出结果。当前，利用信息技术进行社会治理已经成为一种趋势，但其快速的发展也带来了一系列新的问题，包括威胁数据隐私安全、用户主体标签化、人类主体意识逐渐被减弱、技术奴役人类等。深入反思马尔库塞的“单向度者”和极权社会的观点，将有助于我们更深入地理解算法治理中的异化问题，并在算法治理的发展趋势中寻找合适的解决策略。

一、马尔库塞的技术异化理论

20世纪初期，科技迅速崭露头角，为我们带来了前所未见的物质性财富。然而，科技在本质上的技术理性已经开始逐渐转变为削弱个体主体性的实质性力量。此种变化扭曲了人与社会之间的关系，人类与大自然的关系也失去了平衡。法兰克福学派在当时社会的背景下，汲取了马克思关于异化的观点和卢卡奇的物化理论，进而孕育出其最具有代表性的社会批判立场。马尔库塞作为这个流派的显著人物，他主要关注“技术的异化”。马尔库塞在其作品《单向度的人》中以一个独特的角色出现，他借鉴马克思“异化劳动”的哲学思想，对此进行深度的重新解读。

（一）技术异化的理论来源

异化是当一个主体与其行为的反面分离时，存在一种与主体的外在性和异己性相对立的异化权力。在马克思的观点中，社会的矛盾源于劳动的异化，人们的劳动行为和成果与这种异化是分离的，他们利用异己的权利来奴役和控制人们。

马尔库塞对马克思关于异化劳动的观点进行了进一步的继承和拓展。他认为科学技术是一把双刃剑，随着技术的不断进步，劳动生产率显著提升，然而在财富持续增长的同时，技术也成为一种带有极权主义色彩的操纵工具，给人们造成严重的负面影响。在马尔库塞的著作《单向度的人》中，他首次清晰地阐述了“技术异化”的定义。马尔库塞观察到，在高度工业化的资本主义社会中，阶级间的矛盾似乎得到了消解。他进一步指出，对技术的管理似乎真实地体现了对整个社会群体和社会利益的正面影响，这导致所有的冲突和对立似乎都变得毫无根据。[1]在资本主义初期的成长过程中，科技尚未完全成熟，社会各阶层间的矛盾也变得尤为突出。工人们时常遭受资本家的压迫和剥削，他们视机械为竞争对象，强烈不赞同机械化工作。然而，伴随科技领域的持续进步，技术和工业化带来的高度组织化和标准化趋势已经逐渐淡化了资本家与劳动者的冲突。与此同时，由于生产和消费习惯的改变，人们逐步融入机械设备中，这迫使他们按照统一的工作流程行事，进一步减弱了他们的主观能动性和反抗欲望，导致失去批判思维的能力。

马尔库塞认为，科技的异化导致人们失去了否定、批判和超越性思维。人类是一种由技术主导的生物，这样的统治模式让每个人都陷入一种被压制的境地。在资本主义快速崛起之前，人类的社会进化方式是多种多样的。但是，在资本主义快速崛起的时代背景中，人类的多样性进程受到了某些限制，统治者开始利用科技工具来主导和控制社会的话语结构。伴随科技进步的速度，人们对物质的渴求逐渐得到回应，不再寻求自由或与众不同的生活哲学。在资本主义高度发展的工业社会，居民或许会觉得身处于相对宽松与自由的氛围里，但实际上这只是一种表面上的幸福体验，人们不再进行批判性的思考，而是成为一个单一的存在。单向度是指那些在失去否定、批判和超越的能力后，只满足于现实中的利益的人。尽管这种技术与政治的融合并没有推动人类走出固有的王国，但从技术的外在表现来看，人类的自决权和自主性似乎完成了马克思描述的从自由王国向必然王国的历史性转变。我们似乎已经摆脱了对事物的依赖，实现了人类的自由和全面发展。然而，我们没有受到奴役和折磨，人类在依赖事物的过程中的社会形态并没有发生改变，反而呈现出极权主义统治的另一种形态。

（二）技术异化的表现

第一，技术异化导致人的自我意识和个体生活的异化现象。在现代社会中，技术的发展在一定程度上解放和加强了人与自然的联系，与此同时，技术也成为一种异化力量，使人们逐渐远离自然和自我的本真。这种异化不仅表现在物质层面，还表现在精神层面，即人的自我意识和个体生活的异化。算法治理过程中，治理削弱了主体决策的能力和行政机关的统治权威，人们更加依赖算法产生的治理数据和治理结果，逃避承担治理效果产生的责任，将决策和责任都寄托在算法治理上。

第二，技术异化的外在表现形式是单向度的社会。在这种社会中，人们丧失了否定性和批判性的思维，沉溺于虚假的需求，实则是本质自由的缺失，导致成为单向度的人。这种单向度的社会状态是技术异化对人们思维方式和生活方式深刻影响的具体体现。当前社会，我们许多时刻的判断力和需求都依靠算法结果，这减弱了人们自我学习和自我判断的能力，并且在一定程度上降低了民主化，算法“计划”了人们大部分的需求。

第三，马尔库塞还指出，技术异化的根源在于现代社会对技术的过度崇拜和依赖。人们狂热地追求技术发展，却忽视了技术对人性和生活的负面影响，导致技术与人性的疏离和异化。这是一种技术拜物教的趋势，社会治理过程中对技术高度依赖，忽视了技术本身也是人创造出来的，误以为技术可以完成全部的治理工作，过度崇拜技术本身而无视其对人性和生活的负面影响。

二、算法治理技术异化的困境

算法治理涉及对算法的构建、研发、实施以及可能带来的社会后果的全面管理和监控。随着人工智能和大数据技术的飞速进步，各种算法在多个行业中广泛应用，无论是在商务决策、公众服务还是社会管理中，它们都扮演着不可或缺的角色。但是，算法的不恰当应用或其设计上的瑕疵可能会造成不公正、不透明乃至有害的后果。而目前社会治理的过程中广泛应用信息技术，算法治理的方式已经渗透到社会治理的各个方面，但算法治理使人们的生活陷入困境，比如，人在无形之中被数据监控与监管；用户产生的个性化数据为自身带来许多固定化标签；人们也逐渐依赖算法进行治理等技术异化问题。

（一）无形中侵犯隐私

米歇尔·福柯在杰里米·边沁提出的“全景敞视监狱”理念的基础上，深入解释了“全景敞视主义”的核心思想。“全景敞视”代表一种单一方向的思考方式和技术手段。在一个既封闭又被划分的空间中，每个人都被放置在一个固定的位置，接受全面的观察，并持续地进行探索、检查和分类。[2]随着网络传播技术的不断进步，“全景敞视主义”理论已经崭露头角，成为一种创新的研究方法和范式。这一理论不仅为人们提供了全新的观察角度和认识世界的途径，同时也在不断地改变社会和文化的形态。马克·波斯特将“全景敞视主义”思想延伸至现代数据媒体的范畴，并进一步提出“超级全景监狱”这一新概念。[3]在这个网络环境中，算法的权力得到无限制的扩展，使得技术可以实时监控用户的行为，并根据技术指导逐步实施行为规范。在这个过程中，“算法黑箱式监控”是一种显著的特征。受到“算法黑箱”的影响，用户常常沉浸在技术的困境中，对此视而不见。

（二）用户画像标签化

网络平台经常利用尖端的技术工具实时追踪和监视用户在线的行为模式，同时也会监听和监控用户在线下进行的各种活动。利用这些技术和方法，该平台有能力识别和分析用户的多种特性，并能够实时更新用户的画像，进而高效分析个体和群体的行为模式。新兴算法的影响力呈现出无界限的增长趋势，这为技术带来一种超越时间和地理界限的全新视角。算法权力是一种基于算法构建的权力关系模型，它以数据为基础并通过算法来实现对数据的控制和支配。

（三）人类趋于边缘化

技术异化的危险主要是人类被边缘化，而这一边缘化的问题具体表现为人类对算法技术似乎不能充分掌控，从而诱发不确定性。从技术上讲，算法给社会治理提供了高效率、高自主性等性质，但同时也映射出一个严重问题——身处信息海洋，人要保持清醒、客观、理性就显得格外艰难。在大量信息面前，人在解放个体思维的同时，也随之产生深深的忧虑。在算法技术飞速发展的背景下，资本主义愿望与技术发展需要将持续推动技术进步。

正如马尔库塞曾经强调，高度专制的技术和资金体系正在重塑现行的政府架构，塑造一个由金融力量和权利体系共同主宰的全新的政治氛围。此类变化很可能在政治领域诱发一系列的不稳定性，而技术是否合法是其中的一个重要问题。在目前技术政治的理论框架下，成熟的资本主义社会依靠技术的合理运作征服和管理社会的参与者，这使得技术逐渐转变为一种新的工具来掌控人类社会。

三、算法治理技术异化的解困之道

算法治理虽然带来了一系列技术异化的问题，但也不应当悲观或是不作为，面对困境应当提出针对性的解决办法。算法治理涉及社会的多个主体，可以从不同层面着手提出解决办法。

（一）采用反治理策略的算法管理

公共治理活动是一种权力行为，也必然存在针对权力目标的反作用力。换言之，权力与反抗是并生的，就像物理学中作用力和反作用力同时并存一样。[4]在传统的权力思维中，公众管理活动通常被认为是权力持有者从上至下对治理命令、规章和法律的研究、选定、发布和实施的单一过程，而治理研究则被视为此流程中提高效率的重要工具。这个观念漏掉了治理实体对于公共事务的反应——也就是反治理方面。事实上，反治理活动会深刻影响和改变公共管理的本质，可能导致其形态改变或消失，甚至在某种程度上失去效力。

治理和反治理并存是公共管理领域的常态做法。反治理研究的主要目的并不是完全根除反治理行为，而是希望对其有更深的认识并实施有力的管理。技术治理呈现出知识与权力运作的典型模式，这意味着部分权力的实施依赖于技术的支持，而部分知识的创造则依赖于力量的推动，这两方面都是不可或缺的。在治理过程中，技术反治理的塑造效果与技术治理相当。尽管两者都运用了相似的专业知识，但它们产生了完全不同的效果。由于不同的知识使用者拥有不同的状态，因此他们所表现的权力影响也有所不同。此外，局部知识领域的专家展现了其卓越的能力，这让技术反治理变成了一个治理与反治理双方都必须考虑、竞争和利用的焦点。在技术治理的竞争中，传统的知识分子正逐步被拥有专业知识的人士所替代，导致自由与解放的主题变得更加广泛和紧迫。总之，技术反治理并非排斥技术治理，而是不同的权力拥有者运用权力策略为己争取好处的行为。

算法治理作为一种变化快速的新技术治理手段并不像人们所认为的那样简单、高效与粗糙，反治理行动正逐渐浮出水面，有助于实现智能革命语境下真实世界治理和反治理之间的均衡。

（二）完善算法治理相关法律法规

为规范新兴技术，我国已陆续发布了《网络安全标准实践指南——人工智能伦理安全风险防范指引》《关于加强科技伦理治理的意见》《互联网信息服务算法推荐管理规定》等文件，初步建立了技术治理框架，在一定程度上缓解了算法技术规范的诸多困境。[5]尽管取得了一些进步，但其在法律层面的影响力仍然不够显著，缺乏明确的战略目标和大规模的优化潜力，这使得算法伦理问题日趋突出。过分依赖于算法可能会引发用户隐私被侵犯或技术性歧视的风险，因此有必要紧急强化和不断完善相关的法律条款。为了克服目前法律上的不足以及改变监管的错位现象，有必要制定特定法规或进行相关的司法解释，把有关法律法规融入规制的结构里，进一步明确技术相关的法律规范，并对算法的研发和使用实施标准化，还要确保技术平台对可能涉及的伦理风险承担明确的责任。

（三）制定算法治理管理制度

为更深入地进行算法风险的备案审查，负责主体对核心算法进行了细致的审查，确保这些算法与现行法律、相关法规和普罗大众的利益是相符的，尤其在公共治理和健康医疗等核心领域，算法的合理与合规都需要深入地审核。备案材料包括技术的目标设定、职责范围、应用场景、实施手段、技术途径，以及行业专家所提交的技术可行性评估报告等多个领域。此外，应当对备案程序进行深入审查，以判断其是否为技术模型，是否诱使用户过度依赖、违反规定收集用户的资料或激发他们的过度购买欲望，这些都是违法和违背社会道德的行为。为保障算法的合法、公平、透明，必须对该算法技术做周期性地评估，确保它完全遵循技术备案模型的标准。可以设计一个按技术使用、数据出处、信息感知程度、影响的广度、安全度、透明度和处理的广度等多种要素的算法分级治理结构，这套体系能够针对性地管理各种类别或风险等级的算法。

在算法的构建、实施和监督的每个阶段，我们都应确保对社会大众、私人利益和整个领域的持续成长保持高度警觉，应当确保每一项措施均按照既定技术准则进行，这一切的核心目的是保障用户数据的私密性、减轻潜在的伦理危机以及增强技术的持久性和可信度。应该选择一种透明的展示方法，让人们能够更好地理解技术的逻辑，从而能够对这些新兴技术进行持续性的追踪和监督。在一个开放的算法技术框架内，我们亟须明确如何界定技术产权保护与社会公共利益维护，并且在技术创新与社会伦理观念之间找到合适的平衡点。

（四）树立大众对算法治理的正确价值观

我们必须深化对算法技术的认知和理解，将它视为一种实用工具，而非仅仅是超出人类日常生存需求的一种手段。在人工智能的时代背景下，算法技术为人类带来创新的生活模式，它也逐渐成为决定社会构成和个体行为的主导要素之一。这种生活方式建立在人与人之间的互动和共同生命的基石上，旨在激发人类的生产潜力，同时推动人类更自由和全面地发展。虽然算法技术给人们的日常生活提供了很多方便，但随之而来的也有许多不良后果。虽然算法技术在人类决策过程中有所助益，但要实现创新工具的功能最大化，我们有必要深入了解其内涵，平衡技术急速进展和人们认知能力的局限性，这也构成了防止技术误区的关键手段。因此，我们应该在各个层面上努力，以使算法技术展现其更广泛的效用。我们可以自主进行技术与风险评估，将自然科学与社会科学的研究结合在一起，从而帮助人们深入探讨技术的长处和短处，避免出现过于乐观或过于悲观的看法。算法技术自身固有的复杂性意味着如果我们忽视其核心价值，那么该技术可能给人带来各种不利影响。只有当算法技术形成正确的价值观，才能在社会治理实践中发挥其效用，保证每一位参与治理过程的个体都能利用算法取得满意的治理结果。

另外，把技术同伦理、哲学和社会学知识结合起来，也有利于促进人们全面地认识与评价技术，这样有助于保证技术发展符合人的价值及利益，进而避免其沦为人类异化的工具。

四、总结

算法治理确实面临许多风险和挑战，但我们应该保持乐观的态度来面对算法治理，虽然算法治理并不是一个完全自主的体系，但在某种情况下是有一定自主性的，因为算法可以独立学习、决策和完成某些工作。技术展现了双重属性：首先，它的快速发展让经济繁荣，同时也使生活变得更方便；其次，如果从另一个视角出发，由于科技的进步，我们也面临着在未知的情况下成为其奴隶的可能性。受这种心理和生理的双重压制，技术现在已经对我们居住的环境以及主体意识带来了隐含的风险。算法不只是促进社会进步的关键工具，同时也有可能带来一系列相关的异常现象。因此，在充分利用算法进行社会治理的同时，还必须深化思考，审视其潜在的不良影响，并实施有效策略来应对算法治理产生的问题，以确保算法治理在现代化治理的方式下增加人类福祉。

参考文献：

[1][美]赫伯特·马尔库塞.单向度的人：发达工业社会意识形态研究[M].刘继，译.上海：上海译文出版社，2016.

[2][法]米歇尔·福柯.规训与惩罚[M].刘北成，杨远婴，译.北京：生活·读书·新知三联书店，2019.

[3][美]马克·波斯特.信息方式：后结构主义与社会语境[M].范静哗，译.北京：商务印书馆，2014.

[4]刘永谋.技术治理、反治理与再治理：以智能治理为例[J].云南社会科学，2019（2）：29-34，2.

[5]王婧怡.数字时代算法技术异化的伦理困境与治理路径[J].自然辩证法研究，2023，39（10）：128-131.

作者单位：渤海大学马克思主义学院