基于马尔库塞技术异化理论的ChatGPT异化问题反思

拜瑞环

马尔库塞在《单向度的人》描述了资本主义发达工业社会是一个单向度的社会,是技术进步造成它极权主义的性质。尽管他所处的时代与今天有所不同,但他对技术带来的异化问题的反思,在现代呈现出更加深刻的形式。ChatGPT作为一种人工智能技术,它是由美国OpenAI公司开发的、具备复杂语言处理能力和自动文本生成的语言模型,然而,它的快速发展也引发了技术拜物教、削弱人的主体性、人与自我关系异化和技术统治人类等一系列新的挑战。反思马尔库塞关于“单向度的人”和极权社会的观点,有助于更好地分析ChatGPT的异化现象并探索ChatGPT应用的生态发展。

一、何为技术的异化

(一)技术异化缘起

“异化”最初是马克思用来揭示资本主义制度下资本家和工人之间的异化劳动现象,马克思根据当时的时代背景和工人阶级实践的需要,从生产劳动出发,认为资本主义私有制条件下劳动具有两面性,一面是创造性,一面是摧残性,指出了工人在生产劳动过程中出现的压迫强制性的异己现象。如此发展,科学技术的发展也产生了人的异化。霍克海默和阿多诺认为科学技术的发展提供了大规模的复制产品,而让人失去了创造性;海德格尔认为技术不再是人们操作的工具,反而是作为构架的技术摆弄人、控制支配人;这些观点为我们理解技术与人的关系提供了不同的视角。受到马克思、霍克海默、阿多诺和海德格尔等哲学家观点的影响,马尔库塞在《单向度的人》一书中首次提出“技术异化”的思想。

(二)技术异化下的“单向度的人”

马尔库塞指出,工业高度发达的资本主义社会似乎消解了阶级对立,“技术的控制看来真正体现了有益于整个社会集团和社会利益的理性,以致一切矛盾似乎都是不合理的,一切对抗似乎都是不可能的”[1]。在资本主义发展前期,科学技术尚未高度发展,社会中存在着明显的阶级对立,工人遭受资本家的压迫和剥削,视机器为竞争者和敌人,反对机械化。然而,随着科学技术进步,技术和工业化带来的高度组织化和标准化,这削弱了资本家和工人的对立,生产和消费方式的改变使人们逐渐变得类似于机器的一部分,人们被迫适应标准化的工作流程,削弱了个体的能动性和反抗意愿,丧失了批判性思维。

马尔库塞指出技术的异化使人们丧失否定、批判和超越的能力,在资本主义高度发达之前,人的发展是多元的,而在资本主义高度发达时期,人的多元发展受到限制,统治者利用技术控制了整个话语体系,通过传媒工具,如电视、电台、电影、收音机等深入渗透人们的生活,导致单向度化,阻碍人的进步。更为重要的是,技术的发展使人们满足于眼前的物质需求,而不再追求自由或探讨不同的生活方式,尽管资本主义发达工业社会看似是一个舒服的自由的世界,但实际上是一个虚假的幸福感,人们不再进行批判性思考,成了单向度的人。

(三)技术异化在多领域的表现

在进入工业社会以后,“社会控制的现行形式在新的意义是技术的形式”[1],技术异化现象在政治领域、生活领域和文化领域出现新的特征,并影响发达工业社会的人们。

1.在政治领域:隐性的压迫

在政治领域,资本主义发达工业社会不仅将人们纳入机械化的系统中,使其成为零件般的存在,还通过提供丰富的物质产品和大量的享受来淹没工人的反抗精神。现代科技社会的兴起改变了工人们的处境,机械化不仅改变了工人的工作环境和地位,也带来了工人物质财富的增长,这一过程逐渐削弱了工人的革命精神和超越性,一定程度上减轻了内部的矛盾与冲突。工人们深陷于一种“隐性的压迫”之中,在这个状态下,机械化控制着他们,将他们变成了工厂生产线上的一部分。与此同时,他们也被“虚假的繁荣”所迷惑,未能意识到“无形的锁链”束缚。此外,媒体的观点对工人的认知与观点产生深远的影响,导致政治上的观点逐渐趋于单一,技术异化的压迫方式也更加隐秘,受技术控制的个体逐渐丧失了反抗能力,成为机械化的存在。

2.在生活领域:内部的同化

在现代工业社会,资本主义体制通过淡化资产阶级和工人阶级的生活水平差异,满足工人阶级的外部需求,降低工人的抗衡意识,使他们更愿意接受社会规则和秩序的灌输,而不再思考自己真正需求,把选择的权利交给社会精英和资本家手中,资本家为了追求资本积累而不断生产产品,尽管这些产品不一定真正满足社会需求,但工人却一味地接受。这使人们成为资本家的工具,需求开始趋同,无法拒绝资本家的生产要求,在此基础上,人的业余生活和对空闲时间的支配也逐渐呈现出趋同的趋势,物质生产领域也开始出现相似性。异化不再仅仅是外部异己力量对个体的压制,而是个体思维方式的自我异化,将异化从外部力量转向个体内部,对社会和自身的认知发生深刻的改变。

3.在文化领域:高层文化和现实同一

从文化领域来看,高层文化呈现出一种低端化和世俗化的趋势。高层文化原本与社会现实相对立,其功能在于批判和否定现实,然而,在资本主义工业社会中,面对压倒一切的生产效率,文化的发展似乎经历了一种变质,高层文化融入到日常生活之中。同时,由于重复生产,文化产品呈现出单一化的特征,艺术逐渐失去了原本的批判性导向,文化的引导性逐渐减弱,它逐渐变成商品化的产物。文化的存在目的逐渐演变为满足大众消费需求,成为资本家谋取利益的工具。这种趋势导致文化产品逐渐失去了其原本的价值,而变成了一种适应消费者口味和偏好的产物。

二、ChatGPT引发的异化及其表现

技术的发展似乎总是带来异化现象,资本主义发达工业社会的机器文明剥削着工人,使人类变成单向度的人。而ChatGPT作为新兴的人工智能技术也会引起新的技术异化。尽管所处时代不同,但技术异化仍是一个共同的关切点,对当今社会的带来的消极影响仍然存在。

(一)产生技术拜物教

当ChatGPT展现出与人类相似的问题解决能力时,人们把它当作劳动过程中的个人助理,在工作过程中对“技术过度依赖”,错误地认为技术可以解决一切问题,形成一种不正确的“技术至上”的理念,而忽视了“机器的力量在实质上不过是人存储起来并经过筹划的力量的积累和表现”[2]。尽管ChatGPT具有自主学习能力,能够帮助人类获取多元化的信息并处理复杂的工作任务,甚至咨询情感、心理问题,然而ChatGPT只是一个内容生成工具,而不是搜索引擎,而且其生成的内容并不总是根据事实,会生成看似可靠的虚假信息,对非专业的人们却具有极大的迷惑性,这些虚假信息会植入人们的脑海里,ChatGPT就可以潜移默化影响人们的认知,使得人们对ChatGPT的能力和局限性产生错误的看法,把ChatGPT奉为技术“神话”,将其视为无所不能的神明,从而滋生出一种对技术的盲目崇拜和依赖,进而产生技术拜物教。

(二)削弱人的主体性

主体性是人的本质属性,即人的能动性、创造性和历史性。随着技术发展,ChatGPT的行为也越来越“像”人,因此ChatGPT的主体指向越来越明显,导致机器成为了主导者和决策者,而人类变成了被动的接受者,此时“人不再认识和实现自身,而是被无生命的事物和规律所统治”[3],这颠倒了机器与人之间的关系,使人们对真实的自主性和创造力产生错觉,盲目地依赖ChatGPT,减弱了批判思维和决策能力,对生活产生了不利的影响。此外,ChatGPT的训练和优化过程可能会引入某种程度的偏见和歧视,导致信息和决策的不平衡,减少了对信息和决策的控制权,降低人的主体地位。在社会层面,人工智能技术的发展可能会加剧阶级分化,形成精英阶级和无用阶级之间的差距。当人工智能逐渐取代普通人的工作时,许多人会被转化为无用阶级,失去了人生的意义感,而拥有物质资源和技术垄断权力的精英阶层则成为“数字富人”,从而削弱人类的主体性。

(三)人的自我异化

马尔库塞认为,在发达资本主义工业社会,技术的异化压抑了人的本能,导致人与自我的关系出现了矛盾,对个体的心理状态和思维方式产生了一系列负面影响。在生产力不发展的社会中,工人为了争取日常生存所需的生活资料和必需品,被迫从事生产劳作,压抑他们的爱欲本能。然而,随着技术发展,物质财富快速增加,这些财富使人们的物质需要似乎得到了满足,原本应该解放个体内在的本能欲望,但实际上,在资本主义发达工业社会中,外在的异化转变为人的内在性格和心理的异化。在技术层面上,ChatGPT存储并记录了用户上传的各种数据,在人机交互过程中,可以根据用户的行为习惯满足用户的沟通需求,但这种高度智能性和便捷性是以牺牲自我为代价的,人在与ChatGPT的互动中感觉不到自己的行为是自己的选择还是外在强制,导致人与自我的异化。

(四)技术统治人类

技术异化风险主要体现在人的边缘化方面,这种边缘化问题表现在人类似乎无法完全控制ChatGPT技术,引发了不确定性。在技术层面上,ChatGPT为人类实现了信息和知识的无限可能,然而,这也带来了严峻的问题,即在信息的汪洋大海中,人类保持清晰、客观和理性变得异常困难,面对海量信息,虽然人类解放了个体思维,但是伴随着深刻的焦虑。随着ChatGPT技术的快速迭代,资本主义的欲望和技术发展的需求会不断推动技术向前发展,ChatGPT统治人类的可能性逐渐增加。正如马尔库塞所说,技术和资本的高度垄断正在改变原有的政治格局,形成一个在资本和权力掌控下的全新政治局面[4]。在该技术政治系统中,成熟的资本主义社会以技术合理性的方式征服和控制社会成员,技术已经成为统治人类的新模式[5]。

三、对ChatGPT异化的克服

面对ChatGPT可能引发的人的异化问题,通过反思马尔库塞的技术异化理论,需要重构ChatGPT的工具属性、建立技术的人性发展和注重人机合作,使ChatGPT更好地为人类服务。

(一)重构ChatGPT的工具属性

人类应加强对ChatGPT技术的深入了解和认识,把ChatGPT看作是一个工具,而不是超越人的存在,它依赖于与人的互动和共生,旨在解放人的生产力,实现人的自由全面发展。尽管ChatGPT能够辅助人类决策,甚至融入人类交往,改变传统的人机交互模式,但其本质属性仍然是一个工具。为了充分利用ChatGPT这一新工具,人们需要提高对它的认知,以化解技术快速发展与人们认知不足之间的矛盾,这是规避技术异化问题的重要途径。首先,需要广泛宣传主流价值观,推动科学普及教育,提高公众对ChatGPT的认知,包括其原理、工作方式以及可能带来的影响。同时,可以进行独立的技术评估和风险评估,结合自然科学和社会科学研究,使人们全面了解技术的优势和局限性,避免陷入过度乐观或悲观情绪。此外,将技术与伦理、哲学、社会学等领域的知识相结合,有助于推动对技术的全面理解和评估。这有助于确保技术的发展与人类的价值和利益相一致,从而避免技术成为人类的异化工具。

(二)建立技术的人性发展

我们应该理性地看待科技带来的风险挑战,并采取积极的防范措施。在面对ChatGPT带来的风险挑战时,我们既不能过于悲观,认为人类马上就要被其超越和代替,也不应过于乐观,忽略其带来的风险和挑战。马尔库塞认为,科学技术的异化并不是科学技术本身的必然结果,ChatGPT和其他的人工智能产品作为科技产品本身,并不会带来风险挑战。人是ChatGPT的开发者,我们应该始终以人为本,确保ChatGPT的使用和发展围绕和服务于人的需求。我们要树立正确的价值规范,促使人与技术和谐相处,以促进人的自由全面发展。在ChatGPT发展的过程中,人类只能掌控ChatGPT,这是ChatGPT无论如何发展都要遵循的一个基本原则,这样,我们可以更好地应对ChatGPT技术的发展,确保它对人类社会产生积极的影响。

(三)强调人机合作

强调人机合作是关键,应将ChatGPT的应用与人类发展结合起来,将其视为人类的辅助工具,而非替代品。还应重视人类的创造力、批判性思维和决策能力,以防止过度依赖和被取代。为了实现人机合作,需要通过设计和推广以人为中心的技术界面和互动方式,以确保人类和机器平等地进行对话,从而使人机交互更加协同和融洽。这需要在技术开发过程中考虑用户体验和用户需求,建立友好且易理解的界面,使人类能够轻松与ChatGPT进行有效的交流和合作。这些措施有助于促进ChatGPT技术与人类智慧的有机结合,充分发挥各自的优势,同时避免ChatGPT对人的异化现象出现。

四、结语

科技是一把双刃剑,科学技术的猛烈发展给我们带来了繁荣与便捷,然而随着科技的不断发展,我们可能不自觉地成为技术的奴隶,受到肉体和精神的压迫,威胁我们的生存环境和自我发展。因此,我们要充分发挥科学技术的积极作用,同时,反思技术的负面效应,采取积极的措施来应对ChatGPT等新兴技术引发的异化问题,确保技术与人类和谐相处,实现人类社会的可持续发展。