马克思主义视野下的人工智能与人权问题探析

孙 强

（山东师范大学 马克思主义学院，山东 济南 250014）

人工智能是当今世界关注的焦点，而人权则是人类社会发展的永恒主题，两者相遇产生了何种反应，对此关注颇多，立足马克思主义视角分析这一问题是一种有益的尝试。

一、既有观点

人工智能的发展对人权带来了诸多影响，人们对该问题的认识也不统一，大致可以分为积极与消极两派。

许多学者看到了人工智能的发展对人权所可能带来的积极影响，可以分为四个方面：

1.AI有助于将人类从劳动中解放出来，实现人的自由全面发展。智能机器对人类劳动的取代、挑战只是暂时的，会将人从繁重体力劳动及无创造性脑力劳动中解放出来，促使生产方式趋向人性化，缓解工业革命以来长期存在的人机对立格局，摆脱旧式分工所带来的人的异化，帮助人类理性地进行价值评价与选择。[1]AI为人类创造充足物质基础，使人的劳动回归自由自觉的活动，丰富人类的生活经验，为人的自由全面发展创造更多自由时间和机会。[2]

2.AI不会危及人的主体性与人的尊严。AI是一个以人为核心的延展认知系统，[3]是对人脑神经网络的模拟，是人脑的延伸。AI不具备自我意识，也不会从事人类实践活动，所以AI不会获得主体性，只会巩固和扩展人类主体地位。[4]即便AI在智力测评上超过人，人类也会因AI而更智能，AI是百分百的人类智能，它的智能恰是人类尊严的明证。[5]

3.AI时代将为人类提供更好的个性化服务。工业化社会最大特点是标准化，使批量化、高效化生产成为可能，改进了人权享有状况，但在工业社会要想享受个性化的产品与服务，成本较高。进入智能时代，AI的水平足以给我们提供个性化服务，使人们生活在更加精细化的社会中。[1]

4.AI不会取代人，人也不会成为无用阶级。机器换人实质是以机器运行时间替换人类劳动时间而非以机器生产能力替换人类本身劳动能力。由于AI未能替换任何一项专属人的劳动能力，这种机器换人只是让人拥有更多专属人的劳动时间。[6]AI再发展也成不了人，因为人的情感能力难以赋予机器。人的历史文化本性（社会生命）是机器所无法呈现的，这可能成为机器人无法取代人的技术瓶颈和价值悖论。[7]机器仍然缺乏人的整体自我意识以及情感、意志，所以对机器人应保持其“物”的基本属性。[8]针对未来人将变成无用阶层的论断，有学者指出使智能机器人经济得以循环的“目的因”在于人类，所以机器人的循环仍是为了人类更好地生存，机器永远都是为人服务的。[9]

这些肯定性认识将AI作为为人类服务而存在的客体，对AI发展带来的人权不断提升保持乐观态度。当然更多人谈到了AI对人权所可能带来的负面影响，体现了学者浓郁的问题意识，可归结为五点。

1.机器取代人引发失业潮甚至严重社会动荡、生活意义丧失。机器替代人既存在于体力劳动，也广泛出现于智力劳动领域。尤瓦尔·赫拉利认为这将引发严重失业潮，所孕育的巨大风险让99%的人成为“无用阶级”。霍金说AI将奴役人，甚至导致人类种族灭亡。国内很多学者也表达了这种忧虑，认为AI所引发的失业与以往大不相同，AI所创造的新工作领域即使需要人也只能是为数不多的掌握AI技术的人，大量无事可做的人将会在体能和智力方面迅速退化，个体因无所事事进而危及社会稳定。[10]绝大多数人可能沦为智能机器的附庸。[11]失去劳动让人失去生活意义与存在的价值，技术进步所带来的是人的解放还是人的新的异化？[12]

2.AI带来诸多具体人权问题。算法歧视将加剧人与人的不平等，数字鸿沟造成社会成员贫富不均。[13]隐私被大量侵犯，且人工智能技术如被滥用，比如研发杀人机器人等将给人类带来毁灭性损害，[14]更可怕的是社会的1%借助人工智能技术变为生物学意义上完全不同的人，并通过人机一体化控制社会权力，99%的“无用之人”将丧失存在的价值。[15]

3.挑战人的本质与人的主体地位。劳动、制造工具原本是人的本质，未来AI也会有，会思维也将成为智能机器的能力，未来人的自然身体会与智能机器一体化，这种共生体是人还是机器？这些都对人的本质带来挑战。进而AI是否应享有人权，是否应被确立为道德或法律的主体。甚至人工智能很有可能在与人类的斗争中产生自我意识，取得自己的主体地位，这些问题都需要得到解决。[1]

4.出现人与人关系的异化。未来AI作为万能的技术、工具系统给人提供全方位的服务，人只需要AI是否就能满足其需求，而无需与其他人打交道，那其他人对于自己而言是否就成为一种非必然存在，人对于人失去意义、失去兴趣是否就是人与人关系的异化。[12]

5.对AI的资本主义应用的批判。AI造就大量“无用阶级”，出现社会流动停滞的“经济奇点”，这不是由技术本身造成的，而是由资产阶级对生产资料、AI技术的垄断权造成的。[16]在特定条件下人工智能仍然受制于资本逻辑，仍旧摆脱不了异化人的本性。[17]要避免现代整个社会的毁灭，根本方向是“结束财产私有制。这意味着把生产、交换和分配交给某种集体所有制，以阻止社会分化和人种分化。”[18]（p211-212）

从这些观点可以看出，很多人对人工智能带来的人权负面影响表现出深刻焦虑，但由于人工智能尚处于发展阶段，相关问题并未得以充分显现，所以对有关问题尚处于探讨阶段，提出的问题较多，而给予的有效应对较少。很多人对人工智能在技术层面的发展显然保持悲观，认为未来的AI将会思维、具备人的能力，AI大范围取代人必然带来社会关系、人的存在状况的巨大改变，如何解决或阻止相关问题出现，让AI服务于而非制约人权发展是大家正致力于解决的问题。对比正反两方面观点，AI对人权的积极影响显然存在，但其负面影响仍不可忽视，这就像一枚硬币的两面，如何兴利除弊，站在马克思主义立场上的分析必不可缺。

二、如何看待人工智能对人权的影响

马克思主义是关于人类解放的学说，其人权指向在于实现人的自由而全面发展。用马克思主义理论分析人工智能对人权的影响首先要借鉴马克思主义关于科技与人权相关理论的分析。

马克思首先肯定技术在促进人的全面发展与解放中的积极作用，他说：“自然科学却通过工业日益在实践上进入人的生活，改造人的生活，并为人的解放做准备。”[19]（p89）但他也深刻洞察到，当人类利用技术来改造自然服务自身生活之时，技术反过来也会对人造成压制，这就是技术中的异化问题，这种批判主要聚焦于人的主体性的丧失，技术是导致人的主体性丧失、困囿于异化状态的重要诱因。在马克思生活的时代正是资本家利用科技发展的成果加大对工人剥削的时代，科学技术的发展与个人的人权实现是相对立的。机器替代工人具有了技能和力量，科学把机器从没有生命的机器肢体改造为有目的的自动机，工人的活动都是由机器的运转来决定和调节的，工人成了机器的一个器官，科技成了异己的力量。“在工厂中，死机构独立于工人而存在，工人被当作活的附属物并入死机构。”[20]（p463）工人被分给专门的机器，劳动者则丧失了自己的专门化，工人的个性在一切方面是与机器对立的，工人只能积极适应机器的要求，劳动的自我满足感荡然无存。科学与技术对工人来说“表现为异己的、敌对的和统治的权力。”[21]（p571）异化劳动带来工人自身的异化，工人在自己的劳动中不是肯定自己，而是否定自己，让自己的肉体和精神受到摧残。所以马克思说，“机器具有减少人类劳动和使劳动更有成效的神奇力量，然而却引起了饥饿和过度的疲劳。财富的新源泉，由于某种奇怪的、不可思议的魔力而变成贫困的根源。技术的胜利，似乎是以道德的败坏为代价换来的。”[22]（p580）

异化问题是马克思对资本主义技术发展所带来的恶劣后果的一个重要批判维度，那今天的AI是否也适用异化理论。今天AI对人的影响仍然存在这一问题，只不过变换了方式。AI与过去技术发展不同的是，不是强化对工人体力的役使，而是取代人的体力劳动，甚至于取代人的智能活动使人无业可做。这一方面使人从繁重的劳动中解放出来，有更多时间从事自己的发展，但未来也面临大量人会无事可做，人求剥削而不得。随着智能机器人渗入的领域逐渐增多，大量的人类工作将被机器取代，伴随生产的智能化及产业转型升级，结构性失业将接踵而至。“‘数字穷人’可能彻底丧失劳动的价值，只能接受失业、彻底被边缘化的命运。”[1]未来比资本家剥削工人更糟的是可能根本不需要工人，从而彻底丧失价值存在感，“数字穷人”被排除在全球化体系之外成为多余的存在。劳动本是人的权利，是实现人的自我价值的重要途径，而AI的发展会不会解构这种价值，带来人权实现的新问题，而这个新问题其实是马克思所批判的科技发展带来人的主体性丧失在AI时代的一种翻版，工人从并入机器的活的附属物到被机器排除在外，人的主体性丧失变换了存在形式，但都面临自我价值与主体性迷失的问题，具有极大相似性，马克思的分析在今天仍有其价值。

马克思之后阐释科学技术对人权影响较多的当属西方人本主义马克思主义中的法兰克福学派，技术理性批判构成他们对社会所做批判的不可或缺的维度，其核心观点认为科技的应用进一步巩固了技术理性统治的合法性。霍克海默首先指出了科学技术与意识形态之间的关系，断言“不仅形而上学，而且还有它所批评的科学，皆为意识形态的东西；后者之所以也复如是，是因为它保留着一种阻碍它发现社会危机真正原因的形式。”[23]（p5）科学成为遮蔽大众去思考社会危机的意识形态工具。马尔库塞提出科技发展在推动社会发展同时又导致新的统治形式（技术理性的统治），技术理性渗透到社会生活的方方面面，形成新的统治形式，科学、技术理性和操纵结成社会控制新形式。马尔库塞在《反革命和造反》中，把技术理性两重性思想概括为一个公式，指出“资本主义进步的法则寓于这样一个公式：技术进步=社会财富的增长（即国民生产总值的增长）=奴役的扩展。”[24]（p4）这种技术理性统治通过合理性外观，不断满足人的物质需求，用大众文化给人提供越来越多的消遣，消解人的否定性和对社会的反抗，使技术从人的解放的力量变为人的解放的桎梏。“技术进步持续不断的动态，变得为政治内容所充满，技术逻格斯被转变为持续下来的奴役的逻格斯。技术的解放力量——事物的工具化——成为解放的桎梏；这就是人的工具化。”[25]（p136）哈贝马斯在此基础上更明确解释了科学技术带来的是政治的科学化与民主社会的美化表象，最大限度消解了阻碍资本主义延续的阻力，科技起到了缓和晚期资本主义社会矛盾、稳定社会统治的作用，而科技在资本主义制度下带来的异化导致的是大众的被殖民化。科学技术一方面是社会发展主要推动力量之一，另一方面成为一种新形式的“意识形态”。“因为现在，第一位的生产力——国家掌管着的科技进步本身——已经成了合法性的基础。（而统治的）这种新的合法性形式，显然已经丧失了意识形态的旧形态。”[26]（p68-69）技术统治因为在某种程度上摆脱了“虚假意识”的某些成分，摆脱了由阶级利益制造的骗局、空想，同时涉及范围更广，因而更难摆脱其影响。法兰克福学派的思想指出科学技术在晚期资本主义社会成为延缓统治、加强对大众奴役的隐蔽意识形态工具，在这种合法化统治外表之下，表面看来人的物质生活在不断提升，人权状况在改善，而实际是用技术将人深深嵌套于现有政治统治之中，使人服从现有制度而放弃抗争，科技成为资本主义奴役人的一种帮凶。

今天随着AI的应用，大量的岗位被机器人取代，在科技进步的名义之下资本家把大量工人予以解雇，用AI机器人既节省了成本，又大幅度提高了劳动生产率，技术本身就成为剩余价值的源泉，而且这一切都是在技术进步合法化的名义之下完成的。我们可以想到被替换下来的工人难以通过短期培训找到新的工作岗位，很多人乐观地认为智能革命会产生新行业，自然会吸收被淘汰的人，其实人工智能革命所产生的新行业大都与智能机器的研发、制造与维护相关，只有很小一部分人能参与进去。结合前几次世界技术革命的经验，人们对新行业新领域的适应周期大概为半个世纪，所以社会不会给予失业人群足够时间，这些人多半只能伴随年龄增长而自然退出就业市场。[27]（p339-361）失业人群也只能得到来自国家的有限保障，其人权状况必然受到影响。而且AI对人的取代正逐渐扩大到社会各个领域，这与以往都不相同，未来会有更多人失去工作。所以部分发达国家已经开始探讨“全民基本收入”问题，防止在AI大量取代人的情况下让人的生活失去尊严。[28]比尔·盖茨甚至提出要对机器人收税，用政治方式延缓人的无用化的速度。[15]另一方面AI又不断给人提供更多物质、精神消遣。AI的发展虽然增加了人的休闲时间，但也带来人在休闲娱乐时生活被全面控制，智能产品正越来越占据人的日常休闲生活。马克思主义认为衡量人的自由一个重要标志就是看一个人在社会必要劳动时间之外他所能支配的时间，虽然AI缩短了人的必要劳动时间，让人有更多闲暇，但AI产品又通过沉溺、上瘾等形式迅速占据人的空闲。随着人工智能产品的普及，很多人通过无处不在的AI产品快速获取所需结果，而不再用思辨、表达、交流等手段获取观念与体验，智能产品在不断控制人的精神。这是机器对人的更为深入的主宰，也是人的一种更为深刻的异化。所以AI技术在提升人权享有状况的同时，也给人套上了一副永远无法解除的枷锁，使人沉沦于技术所可能带来的控制，在AI时代人类对技术的依赖达到前所未有的高度。科技与意识形态深度融合，加强了对人的心理、意识的操控，通过大众传媒及大量具有同化作用的文化产品，无孔不入地占据人的生存空间与闲暇，却又不会激起人的逆反、抗争情绪，工艺的合理带来了政治上的合理性，让人心甘情愿被纳入现存社会体系之中，社会对人的统治范围也大到不可估量，更加使人丧失对社会的抗争。AI所产生的技术理性成为不容置疑的社会发展潮流，为晚期资本主义统治又提供了一层合法化外衣。

这种技术进步已扩展到社会整个控制、调节系统，能够调和与这个系统对立的力量，并击溃所有为摆脱控制而提出的抗议，AI正成为资本主义社会控制的新形式。人虽然从繁重工作中解放出来，但并未获得真正自由，只是被迫、不得不屈从于技术发展所带给人的新枷锁。在高度发展的技术面前，人们也失去对世界的判断能力，只剩下服从。与过去相比人们可能付出的辛苦劳动在极大减少，也有较为富足的生活，但同时也让人满足于眼前的舒适而放弃了对超越性理想的追求，这种状况下的人权繁荣只能算是一种无从选择的套牢。

三、人工智能负面人权影响的根源：技术的资本主义应用

对于科技对人权带来不利影响的根源，马克思主义也给出了自己的答案。这首先应该源于人类认识水平的限制，人们对自然规律、社会运行的认识总带有片面性和局限性。恩格斯说，“到目前为止的一切生产方式，都仅仅以取得劳动的最近的、最直接的效益为目的。那些只是在晚些时候才显现出来的、通过逐渐的重负和积累才产生效益的较远的结果，则完全被忽视了。”[29]（p385）因为人们对科技使用的后果事先无法做出准确预计，这就不可避免会遭遇科技给人类生存所带来的负面影响，这是一个潜在原因。

其次，科技的资本主义应用是科技异化的根源。马克思发现自然科学成为一切知识的基础是在资本主义生产上发展起来的。“由于自然科学被资本用作致富手段，从而科学本身也成为那些发展科学的人的致富手段，所以，搞科学的人为了探索科学的实际应用而互相竞争。”[21]（p572）科学伴随资本的扩张被有意识地加以发展、应用于社会生活中，其规模超过以往任何时代，科学对劳动者来说也表现为一种异己的统治权力。而科技异化根源在于科技的资本主义应用，来自人对人的奴役。对于这种机器对人的奴役之所以归结为资本的力量，马克思这样写道，“因为机器就其本身来说缩短劳动时间，而它的资本主义应用延长工作日；因为机器本身减轻劳动，而它的资本主义应用提高劳动强度；因为机器本身是人对自然力的胜利，而它的资本主义应用使人受自然力奴役；因为机器本身增加生产者的财富，而它的资本主义应用使生产者变为需要救济的贫民。”[30]（p483-484）科技与作为资本的生产资料结合不仅促进生产力发展，也加强了对工人的剥削，科技已经变成了资本的一部分。资本生产的唯一目的是获取高额利润，而不是为了满足人民的人权实现。

马克思主义对科技的批判深入资本逻辑的深处，将技术的发展与资本剥削、掠夺相联系，从对资本的批判入手对上层建筑进行釜底抽薪式的否定。当然我们也要看到马克思主义学说在今天所面临的新挑战，伴随AI的发展，虽然大量工作岗位由AI取代了人，但大量的劳动由机器完成，使工人的劳动强度大幅度下降，很多人认为工人的人权状况因AI而出现了改观，这与马克思对科技与人权的论述是不同的，是不是说明马克思主义过时了。其实AI的出现也并未从根本上改变科技与人权的关系，甚至人权也会因AI的发展而变得更加变幻莫测。很多人赞成发展AI是认为它代表先进科技，而发展先进的科技往往是具有充分的正当性的，所以把科技笼统视为好的，而不考虑科技背后的力量。AI本质上是属人的，仍然是机器与人之间的对抗，马克思说“这些矛盾和对抗不是从机器本身产生的，而是从机器的资本主义应用产生的。”[31]（p508）AI的资本主义应用根源于资本主义生产方式，而资本主义物质财富的生产与人的自由个性的发展却完全对立，资本与科技联姻只为获取更多利润，而不是让人怎样实现自由全面发展，人仍受资本的统治。我们要看到马克思关于资本和技术的意识形态批判虽始于一百多年前，但对今天的AI技术所带来的新变化仍有解释力。当代资本主义社会进入AI时代后，资产阶级与无产阶级的经济差距进一步拉大，资本统治更强了。比如在AI飞速发展的美国，工人的生存状况、收入水平并未得到明显改善，反而出现新的危机。联合国极端贫困和人权问题特别报告员菲利普·阿尔斯通(Philip Alston)在谈到2017年对美国的正式访问时曾提到，“自动化和机器人化已经使许多中年工人失去了他们曾经认为安全的工作。在21世纪的经济中，只有很小一部分人口能够避免由于他们自己无法控制的坏情况而陷入贫困的可能性。”[32]如何调节AI的公共性与私人性之间的关系，如何规避AI被资本驱使而疯狂盲目扩张从而损害人权，这是当下应予关注的。这一深层问题会在现实中带来许多具体表现，如基于资本扩张需求，资本会对AI技术实施垄断，这会带来新的、更大的人权不平等。跨国企业、发达国家一直垄断着关键技术、数据资源，将AI的创新成果与核心技术进行封锁，目的在于获取垄断所带来的优势及超额的利润，使广大发展中国家无法及时享受到AI所带来的利好。从个人层面看，正是基于对AI技术享有的机会不均等，导致少数富人、社会精英可以利用基因改造、人机一体化等延长生命、实现身体机能的跃升，享有更好的人权状况，而大多数人则无法获取这种机会，只能沦为庞大智能机器系统中的零部件。“数字鸿沟”所带来的两极分化将远超人们的想象，资本为了获取利润，不惜动用AI技术大量获取个人隐私，从事杀伤力巨大的武器研发等，如果不加限制，人权更无得到保障的可能。所以AI背后的资本滥用必须得到控制，否则将为人权发展带来更大威胁。

四、可能的规范路径

立足马克思主义视角化解AI对人权的影响，可分为近期、远期两大路径。

1.近期路径：在AI的设计中融入保障人权的价值观念。从近期看，化解AI对人权的不利影响需要把价值整合到科学之中，在技术理性中纳入价值要素，防范AI发展中的价值理性被工具理性所压倒的局面出现，实现人与自然双重解放。马尔库塞断言：“科学和技术的历史成就已使如下转化成为可能：把价值观念转化为技术的任务——价值观念的物化。其结果，重要的便是用技术的术语，把价值观念重新定义为技术过程的要素。这些新的目标，作为技术的目标，不仅在机器的利用中，而且在机器的设计和制造中都将起作用。”[25]（p198）这也印证了AI要融入一种维护人权的价值观念，并且把这种价值观念融入机器的设计、制造、利用之中，把价值标准向技术任务转化，用技术的术语把特定价值准则定义为技术过程中的要素。马克思主义人权理论是人工智能所要遵循的价值观的必要选择，立足人本原则，以人为中心，尽可能满足人权实现。将人而不是技术作为AI价值的根源，实现人的最优发展。“这就是说，是人，而不是技术，必须成为价值的最终根源；是人的最优发展，而不是生产的最大化，成为所有计划的标准。”[33]（p96）唤醒人的主体意识，尽快摆脱对AI的过分依赖与盲目崇拜，将AI置于人的控制之下，利用AI实现人权充分发展。当然也有学者对这一路径提出反驳，认为为AI设置道德戒律不会起作用，因为AI未来会比人要聪明的多，人类社会不断被设置各种道德、法律约束，仍会有很多违反的人，AI又怎么可能会遵守这些约束，况且未来的AI是利用互联网联结的，再也不能通过关闭电源的方式让AI停止，所以有失控的可能。[10]对此质疑只能全面禁止超出人类控制的AI的研发，因为脱离人类控制的AI对人类就是种灾难，设计任何的规范路径都将于事无补。

2.远期路径。对于科技的异化，马克思和恩格斯秉持一种乐观态度，他们指出“一方面，机器成了资本家阶级用来实现专制和进行勒索的最有力的工具，另一方面，机器生产的发展又为用真正社会的生产制度代替雇佣劳动制度创造必要的物质条件。”[34]（p357）“只有工人阶级……把科学从阶级统治的工具变为人民的力量，把科学家从阶级偏见的兜售者、追名逐利的国家寄生虫、资本的同盟者，变成自由的思想者！只有在劳动共和国里，科学才能起它的真正的作用。”[35]（p600）马克思认为只有通过无产阶级革命才能解决科技异化，只有在共产主义社会人类才能在更高层次、更为合理的社会中成就自身，实现人的自由全面发展，一直统治历史的客观的异己的力量在共产主义社会才能处于人们自己的掌控之下，到那时才能真正解决资本主义科技异化问题。

面对AI对人权的不利影响，马克思主义的思想仍然能够发挥作用。AI是以科技为动力的机器长期进化而得来的必然产物，AI只是人的智能在机器上的体现，要从人与人的关系上来审视。要看到使技术衍生出意识形态属性背后的社会制度等因素，AI当然有利于人权实现，但对其不利影响需要根本变革社会关系以及被资本逻辑控制的全球体系。如何利用好AI，怎样破除资本对AI的控制是我们所应着重考虑的，AI的资本主义应用才是根源。只有对社会经济制度进行全面改造，彻底批判晚期资本主义的弊端，只有将AI技术掌握于国家手中，造福于全体人民而不是被资本当作谋利的工具，才有可能用AI推动人权更好实现。中国社会主义公有制的建立确保了国家对技术的掌握与利用技术增加人民福祉的可能性与现实性，而AI技术的未来也应是掌握于人民之手、服务人民。同时为了防范1%的人利用AI技术实现人机一体化，不仅控制财富与权力，而且通过基因技术让自己从寿命、智力、身体机能等各方面全面碾压剩余人群，享有最全面的人权，而剩余的99%变成无用阶层，政治层面的“大同世界”确有必要建立，让所有人都有平等机会享用新技术发展带来的利益。中国所提出的人类命运共同体理念就是要在全球建立共治的并行架构，让技术为全人类利益服务，中国的高铁、5G等技术正为世界人权的发展提供强劲动力，这也是我们未来为人工智能发展贡献的中国方案，也可以说是AI发展的远期路径规划。