“技术利维坦”的傲慢与偏见

袁超

[中图分类号]D035 [文献标识码]A [文章编号]0447—662X（2021）08—0122—07

在人类解放的历史进程中，技术持续发挥着至关重要的功用。从恩格斯撰写《自然辩证法》为科学技术争取“生存权利”开始，人类不仅经历了两次历时性科技腾飞，还正在继续健步迈向第四次科技革命。人类虽已身处技术空前便利的智能时代，但亦从未停止思考“技术进化”与人类解放之关系问题，尤其是经典的“技术异化”问题。随着“人工智能技术丛”，即大数据、云计算、区块链、物联网等高关联突破性技术的互赖助长性发展，兼具“被传统国家权力机器支配”和“脱离国家自行新型统治”两种倾向的“技术利维坦”被视为技术异化的产物，其发生线索及可能的消极后果开始得到敏锐的学术剖析。在此基础上，仍有若干基本问题值得讨论并澄清：“技术利维坦”不应被简单视为“技术控制人类”的新型统治力量，而应被进一步理解为动态演化的支配性社会秩序，它以技术进化为必要条件、以特定的技术与权力关系为结构特征，并集中体现为结合一定时空要素的过程性技术权力形态。本文将从社会关于技术与权力之未来关系的忧虑性建构切入，逐一予以讨论。

一、技术与权力的社会想象

“如果这个东西（高科技）存在，那么它就一定会按照既定逻辑演化”并对人类社会产生可怕影响，“你我早该想到会有这一天”，编剧大师查理·布鲁克（Charlie Brooker）用其系列电视剧作《黑镜》（Black Mirror），向观众呈现了一系列在理论上极具可能的社会想象：在《你的全部历史》（The Entire Historyof You）中，植入“记忆芯片”以记录“眼见为实”，异变为个体记忆（隐私）被随意提取、检查并最终沦为人人可见的“完全显露的透明视像”;在《白熊》（White Bear）中，运用“技术型惩戒”以实现社会正义，被异化成用一技“间歇失忆”让杀人犯反复遭受无尽“合法”折磨的“集体狂欢式复仇”;在《急转直下》（Nosedive）中，基于“数字拟态”来简化社会生活，异变为用“星级评分”来主宰个体社交形象、准入阶级与生存境遇的“数字独裁”，等等。《黑镜》创构了一个“技术全能”的时空，它表面上在技术理性和规则理性的支配下稳定运转，但内里却因技术与权力的捆绑纠缠而暗潮涌动;生存于那个时空的人们，理所当然地拥抱着技术进化，也自觉而不自知地臣服于技术权力，那是一个“踩着”技术全能而迈向技术主宰的“后人类”社会。

尽管影片剧情纯属虚构，但其关于“技术进化”的社会想象以技术发展的人性驱动和逻辑可能在当下与未来之间架起桥梁，它足以给观众带来真实的焦虑感，这不仅是因为技术早已“无处不在”，更是因为技术愈发“无所不能”，以致能够令人们“无所不从”。在人类社会的现代化演进中，我们始终生活在“技术体系”的世界里。所谓“技术体系”，强调一种技术与社会权力的关系状态，在此之中，技术与技术进化全方位弥散式地与“意识形态、经济、军事和政治等社会权力”互联互浸，并围绕社会利益分配而形成两者之间的结构性关系;每一次具有历史性意义的技术进化都会带来生产资料的变化，并打破此前社会权力占有生产资料的均衡关系，而新的均衡会在各种社会权力挟持技术进行的斗争和博弈中再次实现，任何政权、市场和社会主体都不可能处于特定时期下的某类技术一权力关系框架之外。如果将“现代性”视为支配现代社会的理性的集合，那么“技术”无疑参与定义了现代性。作为一种社会生活的合理形式，尽管安德鲁·芬伯格（Andrew Feenberg）认为现代性理应“建立在被合理地设计的技术人造物和由合理地技术规训（technical disci-plines）所赋予的制度（institutions）之基础上”，并寄希望于人们能够基于规约自觉来对技术内部进行合理化的文化改造——以技术的待确定性或曰可选择性来拯救现代性，但历史进程却更凸显了社会权力主宰技术，并不断构建以技术垄断现代性的意识形态，导致技术异化发生，使“技术利维坦”成为可能。根据马丁·海德格尔（Martin Heidegger）的技术本质论，自然界之万物皆是“有限的”，人类社会暴露在自然规律之下，其有限性体现于事物间作用与反作用的相互性之中，并由此建构起应然的社会秩序;失序现象的发生，在很大程度上是与挑战甚或突破有限性密切相关的，比如现代技术超越其自有边界而“挑战性”地介入并限定了自然与社会，冲破其有限性，导致了自然与社会新事物的非自然、非社会状态的展现，自然与社会都失去了自我展现的方式而被技术支配着。

从本文的视角出发，技术是人造物，其本质应是“人性”与“物性”的辩证统一，即代表人之意志目的和遵从自然规律的辩证统一。从结构性历史观察，“现代性屈从于技术”揭示的是技术本质在社会权力介入下的内在混沌;而从过程性历史观察，“现代性屈从于技术进化”则反映出二者之间始终存在着外生性的社会权力机制。“技术利维坦”就是失控的社会权力侵入技术本质的结果，其衍生逻辑由三个渐进相扣的过程构成：首先，社会权力向技术权力转化，进而形成“社会化技术权力”。技术乃人造物，它不存在拥有自主意志的技术权力，任何形式的技术权力都不是技术体系自驱动的结果，而是由迈克尔·曼（Michael Mann）意义上的“社会权力”直接或间接转化形成的，其自主意志、力量限度、作用方向、影响范围等均取决于意识形態、经济、军事或政治权力;换言之，社会权力及其运作状况是决定技术是否会发生异化的关键变量。其次，社会权力在运作中失控，进而发生社会化技术权力对技术本质的反叛与侵夺，即对技术之“人性”与“物性”张弛关系的扭曲。再次，失控的社会化技术权力，即“技术利维坦”集中体现为两种互构共演的过程形态——“权力的技术逻辑”和“技术的权力惯性”。

二、被传染的“偏见”：权力的技术逻辑

作为社会化技术权力的“他权力主宰”形态，“权力的技术逻辑”强调社会权力借助不断进化的技术来实现更加有效和广泛的运作，以实现意识形态、经济、军事和政治权力的巧妙传递，进而完成对权力对象的规制性目的。因此，从宽泛意义上讲，有技术与技术进化的历史，就存在社会化的技术权力;而作为一种张扬而进击的社会化技术权力形态，社会权力对技术理性的主宰使得“权力的技术逻辑”在比较现代化的进程中随处可见。

现代技术是历史性的产物而非自然的产物，从特定的历史性质和社会形式来认识现代技术是马克思技术批判哲学要旨。因此，“技术介入历史”甚至“技术改变历史”均不是自然选择，而是社会权力自主有为的过程和结果。17—18世纪，启蒙运动及其间发生的欧洲三十年战争和法国大革命，用世俗权威取代了宗教权威，假借神之意志支配庶民的神性政治在过渡到以“理性”为根基的人性政治时，实际上也同时跨入了技术型时代。历史地看，技术参与现代性的定义，是以技术对社会发展产生的工具性价值为基础的;尽管在打破蒙昧之后，早期的科学发展仅达到为人们提供便利其政治社会行为的器物进化技术，但此后大到一个政权的对外贸易、殖民甚或战争，小到个体民众的日常社会生活，都享受着技术红利，并逐渐形成现代化早期技术体系的关系秩序。随着技术进化的持续发生，尤其当技术应用愈成功，就愈“使人幻想有上帝般的力量来征服自然并使其服从我们的意志”;但这种以征服自然、改造自然为单一目的的狭义自然技术观念，没多久便在技术体系的关系秩序中发生根本转变，即人们对技术的运用开始从面向自然事物扩展到面向政治社会事务，社会权力与技术也就是在这样的实践中开始发生关联、紧密纠缠、相互转化甚或探出边界的;当技术“对自然事物的这种支配或控制进入社会场景，触及到他人或他组织的利益”，介入到“人与人之间的支配与控制关系”，技术所有者或操控者就拥有了支配或控制他人的力量。正是在这样的关系秩序变换中，社会化技术权力开始强势且具有偏见地改变着历史。

在以欧洲国家为代表的殖民主义史中，相对于伪装埋藏在“现代化”技术话语背后的意识形态和经济权力，政治和军事权力则始终是毫不掩饰地操控着帝国扩张的工具——技术;在不同的国家和地区，技术进化程度的差距往往会形成技术在政治与军事领域的差异化应用过程，进而造成不同地理疆域之间巨大的发展落差，甚至对地缘政治格局产生深远影响。例如，到19世纪末，几乎整个地球都处在欧洲的殖民统治之下;在此前近400年的“征途”中，欧洲之所以能够“畅然无阻”，航海技术与军工技术发挥了至关重要的作用，航海将欧洲人带到了美洲、非洲和亚洲，而机关枪和重炮则荡平了当地人的长矛和战马;欧洲现代化早期的技术进化为帝国主义和殖民主义大开其道，进而深刻影响了15至20世纪的国际格局与权力秩序。正因如此，不同社会才在追逐现代性的过程中将技术与技术进化置于对内建立有效统治、对外实现赶超式发展的战略要位。这意味着，脱胎于社会而成长起来的现代国家在确立其直接统治之后，会进一步借助多维手段来推动自我认知意义上的赶超式发展，尤其对于受到过先进军事装备碾压的国家，技术无疑是他们最为有效、也最具生命力的抓手。由比较历史观之，无论是被后世定义的1800年前后开始形成的东西方“大分流”，还是鸦片战争以来国人基于器物和技术来认识西方现代化以图国强，甚至是深刻改变欧洲格局乃至世界格局的一战、二战和冷战，都无一例外地暗合了“社会权力主宰下的技术改变历史”的实践逻辑。

时至今日，马克思关于现代技术“物质形态”作用的历史性限度主要根源于其后的历史性质、社会关系和社会形式这一判断依然独到深刻，以特定历史社会关系为基础的社会权力限定了特定时代技术应用的方向与限度。人類的自省与文明之演进并未透过社会权力主宰的技术进化及其应用而超越一己私利，技术仍然“被”支持着特殊的目的和偏见，它是“主导的霸权对权力和利益追求的常规化”。如果说从欧洲对外殖民扩张到两次世界大战甚至到冷战，人们还可以相对较明确地勾勒出政治和军事化技术权力的运作，那么到了和平阶段，走在历史前台的社会化技术权力则更多是以模糊复杂但又具备全场景规制性的关系、形式而运作。有国内学者将当下这种经济资本、意识形态、政治等社会权力与数字技术的结合称为“数字化垄断技术帝国”和“超级权力体”，认为“新技术及其技术企业代表了技术革命环境下的某种超级权力，其特质决定了新技术的应用和新技术企业的崛起具有更加复杂的面相和影响”。这实际上反映了技术体系在第四次工业革命背景下发生的巨大变化，即数据、硬件和算法开始成为重要的生产资料，并以用户数据的获得能力、智能算法的编写能力与核心硬件的研发能力等三种能力为数字技术时代生存的核心能力。当获取和掌握数据及其相关资源（所谓“数字权力”的物质形态）能够帮助资本实现增殖，帮助国家提升内部治理和对外竞争，经济、政治和意识形态权力就会不遗余力地将权力运作数字技术化，它形成了一个无硝烟的战场，其权力对抗的激烈程度不亚于历史上任何一场热战。

一方面，从国家内部维度观察，技术总是在政治和资本的支持与利用下实现进化的，因而无论是经济资本权力还是政治权力，二者皆可通过伺机掌控人工智能等全技术应用来实现智能化的社会控制。社会化的技术权力能够大幅提升社会权力的运作效率以达到特定治理目的，但也存在社会化技术权力的驾驭难题：“国家信息技术的全面装备，将公民置于彻底而富有成效的监控体系之下，而公民却难以有效地运用信息技术来维护其公民权利，即无法通过数字民主来制衡国家的监控体系。”有学者提出“液态监控”（Liquid Surveillance）概念以解释在当下这种快速变化的技术社会，由数字信息技术创建、互联网平台积累而形成的各种数据集和信息流能够为政府或企业所利用，进而导致人们处于一种“监控”无所不在且人人皆可执行“监控”的社会状态;此外，社会化技术权力还可以在“监控”基础上实现“操控”，其标志性事件是2016年美国总统大选期问，英国数据公司“剑桥分析”（Cambridge Analytica）基于对5000万脸书用户数据的提取完成关于选民心理、性格和行为偏好的归类分析，进而通过精准的定向广告投送来操控选民情绪以达到干预大选的政治目的，类似操作还发生在2013年的马来西亚选举、2017年的肯尼亚选举以及英国脱欧公投中。

另一方面，从国际竞争维度观察，和平时期的地缘竞争仍然常常凭借政治、军事、意识形态权力的技术化运作来实现，抛开显而易见的军工、航天甚至太空等技术竞争，由政治和意识形态权力主宰的技术压制成为愈演愈烈的社会化技术权力对抗模式。自特朗普执政以来，尤其是2017年开始美国对华采取的一系列科技压制政策和行为即是例证，甚至有西方学者将其称为“技术冷战”（technological cold war）;出于对霸权地位的守持和国家利益最大化的原因，以政治和意识形态权力从内制定技术形态标准、对外垄断技术应用规则，这种“权力的技术逻辑”形态的背后充斥着丛林法则一般的“部落式偏见”，是社会化技术权力主宰下的技术进步时代的人类文明倒退。

三、掩不住的“傲慢”：技术的权力惯性

凭借人类的智慧，关于技术理性及其“自权力驱动”后果的本体论担忧和警惕早已在众多技术哲学思想中浮现，但后现代的技术型统治时代毕竟尚未到来，加之技术进化带来指数级增长的利人能动性轻易就能唤起人类的逐利性，以致人类毫无顾忌地任由社会权力以技术逻辑之形态肆意发展。相比于“他权力主宰”的张扬而积极的“权力的技术逻辑”形态，“技术的权力惯性”虽由技术自权力驱动，但实际上却是人之理性对技术理性的主动放任，是人之理性面对技术理性以“无为”换“有为”的过程与结果，可谓隐蔽而消极的社会化技术权力形态。

在历时性演进的技术体系中，技术迭代持续发生的背后是一日千里的技术进化，其累进式发展确立了技术自体系内部自我强化、增量替代的进化规则。逐渐成长起来的新技术企业或技术巨头可以凭借具有用户依赖性的功能性技术应用（例如深度嵌入社会生活的基于个人唯一ID标识的“社交—认证—金融”交互应用平台）来建构关于社会大众的与政府相同的“易读性”（legibility）系统，它同时结合了“权力的高度集中、统治（支配）技术的智能化管理以及资源（数据）的分布式汲取三重优势”，同时也在社会生活中据此而广泛建立起适用于社会权力传递的、带有唯一性和绝对主义色彩的认授规则。随着技术体系的永动式演化以及深处其中之人类无可避免地被技术化，技术的物质形态及其运用会在不知不觉中形成社会性依赖，进而构筑起以数字信息技术为核心的新型权力结构。

在新冠疫情防控背景下，表面上仅为“二维码”形态的“健康码”，其发挥功用的过程却恰恰体现了社会化技术权力的运作过程，值得予以深入的理论观照。健康码当然展示了技术进化带给疫情防控的便利，但正如德国哲学家汉斯-格奥尔格·伽达默尔（Hans-Georg Gadamer）警言，技术“将以一种超越对它的控制的内部必然性继续自己的道路，它将创造出越来越多令人惊奇的知识和控制力量”，由此而显现的“技术理性很容易以‘科学管理的形式实施控制，在技术理性的规律和机制蔓延至整个社会的同时，它们形成了一套自我的真理价值”，并极易在技术政治中滑向绝对主义。实际上，全方位运用于社会治理和生活场景中的健康码集中暴露出社会化技术权力的傲慢及其正在引发的三方面驾驭风险：

第一，以技术理性“审定”个体健康资格的健康码，存在着因技术意识形态化而导致的“码上失灵”风险。在全民防疫期问，基于“深度数据化”的健康码作为“规制科技”（RegTech）出现，凭借一组颜色标记便改变了社会对个体健康的认授规则，甚至还在特定条件下上升为能够限制个体人身自由的技术权力;作为个体被准许合法流动的技术标识，人们因“绿”而安、见“红”而恐，管治方也因应而动，双方默契地建构着“技术即正确”的意识形态并默许着技术的独裁。然而，健康码以人为设定的健康风险评价和云端大数据为支撑，是基于既有知识论和“已知”数据而评价出来的“概率性健康”，这意味着健康码是“纯科学性质”的事物，本质上是人类实践经验的数据化呈现;但人类的个体健康本质上是“非纯科学性质”的，这意味着除了医学知识论上记载的“已知”，还存在诸多在人类实践经验中未曾显现的“未知”;尽管人工智能时代宣称一切皆可量化，健康码能够具有一定基于“已知”的评判能力，但它不可能业已集成尚未发生的“未知”数据、不具有对“未知”的预测能力。

第二，以技术理性决定准入资格和人身自由的健康码存在着导致技术型“卸责”或“避责”的风险。一方面，从官员全力履行政治职责、高效实现行政管治的角度出发，依据健康码定义的个体健康认授规则因为有科技和大数据的背书而具备了广泛的合法性，它不仅简明直白、易于操作，还实现了对人口流动轨迹数据的便捷掌控;基于此，健康码不但构成了一线执法官员摸排疫情蔓延态势、规制个体行为的准则参照，还成为官僚体系中上级官员制定防疫政策的必备依凭;然而，围绕健康码而建构起来的技术体系同时也构成了一套官员权责体系，无论健康码是否失灵，它都在行政管治权的认授下成为无须人工复核的免疫准入标识，即使出现例外事件，首先也是健康码“背锅”，是技术失灵而非行政之责，或最低限度也可以实现部分卸责;另一方面，从个体完成健康码认证之于履行社会责任的角度出发，在疫情防控期间准许人口跨区域流动的条件下，“健康码治理”造成了“无码寸步难行”的特殊社会现象，行政赋权后的健康码在事实上决定了人们的跨地域准入资格与人身自由，并将主动出示健康码设定为人们在防疫时期必须履行的社会责任。然而，在“健康码治理”背后，隐藏着行政权力的机械主义、官僚主义和形式主義惯性，由它造成的“履责障碍”反而催生了“避责陋行”。例如，因不同地域的健康码互认难题而催生的“伪造健康码”问题。据报道，一款名为“健康码演示”的App于2020年底在某手机应用市场上提供开放下载，“该应用可以模拟各地区的健康码/复工码/通行码的不同显示风格，并且可展示绿码/黄码/橙码/红码状态，同时还可以自定义显示数据，如地区、城市、姓名等。”仅凭一个简单的技术手段，就可能实现技术型“避责”，由此而带来的后续防疫风险是难以估量的。

第三，除了机械主义、官僚主义和形式主义惯性，还可尝试从各自行政区域内部的政治追责压力、“监管俘获”（capture of regulation）倾向与技术意识形态化的三维视角来分析全国范围内的健康码互认困境，此困境会进一步导致地方社会产生“再部落化”风险。如果说健康码是达到必要数据规模和技术标准的健康认授标识，那么为什么会产生省（市）域互认难题？统合来看，在疫情防控成效直接影响官员政治生命的非一般权责压力下，地方官员更倾向于认可本地区、相对发达地区或防疫成效较好地区的健康码。其背后存在着“被动监管俘获”的缘由，即监管者不具有被“俘获”的主动性，但监管者因其某项能力不足而不得不将部分资源或权力让渡于被监管者，体现在健康码开发事项上就是地方政府出于防疫需求而不得不与掌握超强数据收集和云计算能力的市场化企业合作。技术水平越高的企业越能支撑健康码的稳定性和有效性，自然也就越能“俘获”地方政府，而技术企业在全国范围内的水平地域差异程度与其市场自利性便成为造成健康码统一困难的重要原因。基于此，各自行政区域内部愈是强化本区域健康码的唯一合法性，就愈会造成地方社会的“再部落化”。从技术体系的视角出发，由健康码互认困境诱发的地方社会“再部落化”是社会化技术权力的运作结果，当然也是政治和经济资本权力主动放任技术自权力驱动而产生的社会失范现象。对此，国家卫健委曾于2020年12月10日发布《关于深入推进“互联网+医疗健康”“五个一”服务行动的通知》明确推进“一码通”融合服务，由国务院办公厅电子政务办公室负责运行维护的微信小程序——国家政务服务平台（试运行）亦开辟“防疫健康信息码”以促成“一码通”，但一些地方省市在防疫实践中仍以本地健康码为准，并且不同地市之间互不相认的情况屡见不鲜，这揭示出在技术体系中一旦社会化技术权力被放任并形成后果，再以权力来“拯救”权力，其收效未见乐观。

可见，“技术的权力惯性”是以“自权力驱动”之技术理性主宰甚或取代人之理性为根本逻辑的，其实现过程表现为社会生活中技术理性不断扩张“遮蔽”与人之理性逐渐惯性“惰失”的相向演进，前者强调技术理性走向意识形态、成为绝对正确，后者反映人之理性转向对技术理性的“理性屈从”，两者在相向演进中实现接榫并形成路径依赖。而所谓技术权力之傲慢，无非是基于人之理性的社会权力对技术理性主宰的主动遮蔽与惯性放任。

四、结语

面对技术型时代的人类命运，尼尔·波斯曼（Neil Postman）将人类技术的发展分为工具运用、技术统治和技术垄断三个阶段。在技术统治阶段，信息控制机制通过法庭、学校、家庭、政党、国家和宗教驾驭技术，技术试图攻击和取代文明，但无法达成;至技术垄断阶段，信息泛滥成灾，技术至上主义于无形中吞噬着传统世界观，从而实现集权主义的技术统治。技术作为具有历史性质的人造物，其任何形态的自主运作甚至所谓的技术统治都离不开人类本身以及社会权力的因素，“技术利维坦”在本质上是社会化技术权力对技术本质的反叛和侵夺，是社会化技术权力失控的后果。

其实，人类对此早有认知，但治乱循环仍在历时性上演，或许正如安妮·阿普尔鲍姆（Anne Apple-baum）在《古拉格：一部历史》的“尾声：纪念”一节中所表示，“写作本书并不像陈词滥调常说的那样，‘为的是反思历史，让这种事情不再发生。写作这本书是因为，几乎可以肯定，这种事情还会再次发生”。阿普尔鲍姆关于人类会重蹈覆辙的论断，是基于她对古拉格、亚美尼亚大屠杀、南京大屠杀等20世纪大规模悲剧事件的人性洞察而做出的，诚然，或许文化、制度、机制等都可以改变，但人性的逻辑难以改变。回到本文，这意味着无论实践场域中的技术理性表现为自权力驱动还是他权力主宰，它们都是社会化技术权力的物质运作形态;作为以人性逻辑为根基的社会权力，不管面向自然还是社会，社会化技术权力都惯性地漠视着“有限性”而追逐着“无限性”，因此纵向的历史进程中才不断重复着一幕幕似曾相识的悲剧。人类的悲剧往往不是源于“未知”，而是源于对“已知”的自觉遮蔽和主动放任，何时人类能够开始尊重“有限性”，开始让克制的智慧大放异彩，那么人类或许才能真正掌控自己的命运。

责任编辑：秦开凤