人工智能：拥有意识重要吗

2024-06-29文莉

文教资料 2024年3期

文莉

摘要：关于人工智能的意识争论由来已久，在生成式人工智能风靡的当下，人类的危机感变强，对“机器具有意识”的担忧也渐盛。然而，细究“思维之脑”与“意识之脑”差异，人工智能表征更应归于“思维”之列。即使人工智能“涌现”出“自我意识”，人类也可以采取多种方式积极应对。展望未来，探索人机智能融合的社会发展新模式，以更好地提升人类思维水平和行动能力。

关键词：意识；人工智能；人机融合；ChatGPT

“ChatGPT之热”席卷全球，它可以用灵活对话的方式与人类用户交互沟通，有着颠覆传统技术的自我生成性等特性，能明显提升人的工作效率。但ChatGPT也会出现“黑箱状态”，具有不可解释性，引出需要通过哲学思考才能解决的人与技术的关系问题，如抄袭、胡编乱造、文化偏见和歧视、无意识引导违反伦理道德问题等等。ChatGPT4“涌现（Emergence）”的不可解释性与“意识”有着一定程度上的相似性，这再一次引发了人们对“人工智能威胁论”的讨论高潮。

对于这种担忧，可从意识是何物，有什么样的特征，机器的表征是不是意识以及与意识有怎样的关联性等角度探讨人类如何把人工智能置于可控可利用的范围内，从积极角度理解人工智能具有的“意识”带来的问题。同时，在促进人工智能发展的同时，也需提高人类自身认知水平，不断确立人的存在的意义。

一、意识的解释

意识时常同“主观现象”“主观经验”“思考”等词联系在一起。康德把自我意识区分为经验性的自我意识和先验自我意识。经验性的自我意识属于内在感官，而先验自我意识逻辑上先在，使经验性的自我意识成为了可能。［1］笛卡尔作为近代哲学的开端者，他所说的“我”是一个“在思维的东西”，就是一个“在怀疑”、“在想象”和“在感觉”的东西，［2］这里的“思维”倒有些“思想”“意识”的含义在里面了。学者胡潇认为“意识是社会的人所特有的自觉反映客观现实和把握内部世界的高级精神形式”［3］。学者赵汀阳把意识功能分为两点：其一，意识能够表达每个事物和所有事物，使一切事物都变成了思想对象；其二，意识把自身表达为一个思想对象，即意识就是思想。［4］总之，意识是大脑对于外部世界的觉察，是人思想活动内容的总和，大概具有以下特点。

第一，意向性。笛卡尔的“思”是指向某个“东西”，胡塞尔的“自我之现象学的意识”是“构造对象”，他们共同之处在于“指向”。学者们多解释“意向性”为“意识之朝向于某物”，而不管其是否真实存在。在具体某个思维接收外部信息之前，意识已经有“意向对象”存在，即意识已经提前规划了“指向”任务本身。

第二，情绪情感性。认识论角度的情绪情感是主体对客体是否符合自己的需要所作的对客体态度的一种特殊反映。［5］情感常伴有特定的指向对象，情绪则可以没有实存的指向对象。人的情绪情感的独特性在于，虽然人的意识在能动地处理感性材料的过程中形成情绪情感，但人的情绪情感一定程度上不稳定和相对不受控，易产生暴怒、冲动等。

第三，个体性。人意识的个体性在于美国分析哲学家唐纳德·戴维森（Donald Davidson）所说的第一人称权威（First Person Authority），即个人关于自己的心状态的第一人称陈述具有不可置疑的权威性。［6］个体的意识具有多种特性。首先，意识具有认知风格的独特性。不同的认知风格会影响人们对信息的处理方式、对问题的发现模式和决策的制定方式。其次，意识具有意志行动的个人性。个人自觉地确定自己的目的，并根据目的支配其行为，最终行为实现又回到目的本身的过程，就是个体意志成为现实的过程。

当然，意识还具有社会性、能动性、层次性、文化规范性等。

二、人工智能的智能表征

人专门为机器发明了一种最适合机器的思维，这种思维并不是充分思维，即兼备还原论和整体论双重能力的思维，因此机器还没有思想。［7］机器还不具备把难以证明的复杂概念、假设等还原到最简单的基本命题的能力，如逻辑上的“和”和“并”等等。

（一）人工智能的理论进路

符号主义（Symbolism）和联结主义（Connectionism）是当代人工智能研究中的两个主流路数［8］，此外还有行为主义理论进路等。符号主义，有着悠久的历史，它主要通过逻辑进路来研究人工智能。现代数理逻辑构成了符号主义研究人工智能的基础。符号主义主张人类思维的基本单元是符号，符号运算的过程就是人认知的过程。因此，人工智能对人的认识的模仿从符号开始，它是一种“自上而下”的模式。这种研究方法的代表人物有美国计算机科学家艾伦·纽厄尔（A.Newell）、美国认知科学家赫伯特·西蒙（H.A.Simon）、美国计算机科学家约翰·麦卡锡（John McCarthy）、美国科学家马文·明斯基（Marvin Minsky）等。其中纽厄尔和西蒙提出了“物理符号系统”假设，即“对一般智能行动来说，物理符号系统具有必要的和充分的手段”。［9］简而言之，就是一般智能可以被分析为符号系统，而足够强大的符号系统，也能拥有一般智能。在人工智能早期的研究中，符号主义取得了巨大的成功，而当机器处于当代开放动态的现实世界时，它要在短时间内识别并处理千变万化的实时情况，这种研究方法就出现了难以回避的“框架问题”。

联结主义，也可被称为“人工神经元网络”技术，它源于仿生学，主要聚焦神经网络及其连接方式，模拟人脑的神经系统运作机制。在“框架问题”日益凸显的当下，人工神经元网络几经波折迎来了它的“高光”时刻。作为联结主义直接的发展成果的深度学习已经成为了当下人工智能主要的技术支撑。深度学习以“自下而上”的模式将宏观层面上的识别任务分解为微观信息传递活动，并通过这些活动体现的大趋势模拟人类心智信息处理过程。［10］当前火热的ChatGPT，前期存储大量数据以供使用，再通过不断“训练”进行参数调整，从而形成特定的输入与输出的稳定映射关系。ChatGPT结合了人类反馈强化学习与大数据预训练语言模型的自然语言处理工具，以对话为主，把传统引擎与人类预训练相结合，实现交互模式上的革新。也许，人类语言覆盖的所有领域，都有望放在同一平台进行数据的智能化处理，按照这个逻辑，通用人工智能（AGI）或许在不远的将来能够实现。

（二）人工智能是“思维之脑”还是“意识之脑”

符号主义是把人类思维公理化表达，以符号形式作为人认知最原始的单位并进行模仿。深度学习以人的大脑神经构造为蓝本进行模仿，带有一定的不确定性，如概率表征的贝叶斯网表征。两者进路都是模仿人的思维过程而不是意识过程，只是在功能上展现出人的部分特征。

1. 思维过程不等同于人的意识

人类通过感官接收外界信息，机器则依赖特人类和元件录入信息。信息被加工、分类并储存后，机器可按需提取并处理，实现即刻或延时反应。自然智能与人工智能在信息处理上有许多共通之处。尽管ChatGPT4等大语言模型已展现一定程度的自我创造性，但当前多数人工智能对信息的处理仍处低层次水平。人工智能与人思维输入输出原理颇为相似，而人意识的能动性、社会历史性等是前者无法具备的。

2. 思维表征相异于人的意识

第一，思维不具有任务先验性。以筛选活动为例，在思维接收外部信息之前，意识已经预先指向筛选活动本身。比如任务是选择红色的花，人眼视网膜可能“余光一瞥”过滤掉黄色的花，机器通过每朵花都识别对比之后择优选择，在这一步，人脑和电脑都是通过实际颜色与已有“红色”概念对比选择的。但是，人脑的意识指向的对象先是“我要”，意向开始之后，大脑才开始工作“找花”思维。而思维是接收到任务之后的处理过程，并不具有先验的任务指向性，即生成“意图”的能力。

第二，思维不具有情绪指向性。认知心理学家认为情绪是“智能系统在表征能力不足的时候，对于外部环境刺激的一种应急性处理模式”［11］，即在外部环境信息不够全面而又要快速给予回应的情况下人脑做出正确的处理，如紧急避险、趋利避害等。人工智能似乎不需要情绪。以恐惧为例，人工智能无惧便无畏，优势是可替代高危职业，劣势是很难受具身性威胁，对于人工智能惩罚无感，于是机器本身难以受社会规范的约束。尽管一些人工智能产品加入了类似于“微笑”、“心碎”这样的情感表达，这并不代表它们真正拥有情绪。

思维表征还缺乏诸如具身感受、伦理道德感、信念价值感等。反驳者可能会有疑问：难道说思维就不从属意识吗？从广义角度来看，排除物质性因素，剩余精神部分若统归于意识，思维当然从属于意识。但本文为了区分大脑不同功能，而使用相对狭隘的表达，把人工智能的表征称作为类人的“思维”，把高级的独属人这种自然智能的心理表征称作为“意识”。

三、人工智能“意识”的重要性反思

“强AI”学派以“机器智能与人类思维具有同一性”作为出发点，认为计算机迟早会具有和人一样甚至超越人的思维和意识能力。［12］但在技术尚未成熟的当下，若把机器思维的处理过程与意识混为一谈，一味讨论人工智能最后是否会驱使人类，虽说是未雨绸缪，但也没有分清孰轻孰重。

（一）人工智能的“涌现”和“进化”

当智能体以一定的方式形成完整的、协同合作的工作闭环时，可能带来超出预期的效果或者致使原本并不存在的东西出现，比如社会脑的出现。现代人类学研究表明，随着人类交往关系复杂化，从部落到国家，需要共同道德约定和教化来形成共识，进而社会生活催生了适应社交的社会脑。［13］再比如生物当中出现的“群体智能”，众多简单个体通过相互之间的简单合作完成某一任务过程中所体现出来的群体的宏观智能行为。基于自然智能体演化过程中“涌现”出人类始料未及的东西的情况，再考虑到人工智能算法本身存在的“黑箱”问题，人类担心人工智能时代“奇点”的到来，届时机器会脱离人类的掌控，“涌现”出自我意识。以ChatGPT为例，到四代GPT模型的参数量已经增长到100万亿，且在足够大的数据集上进行了训练，使其在“提示—响应”会话轮中自发地涌现出小型语言模型所不具备的能力。当大型语言模型的参数量达到200亿左右时，便可能会引起质变，涌现出包括“情境学习”在内的多种新能力，表现为在一轮轮人机对话中，人工智能会根据“小样本提示”的历史输入理解人类意图并生成准确、自然的回复。［14］就算人类没有赋予机器意识，未来的人工智能也许会个体涌现出“意识”，也可能超越个体类别与其他所有智能联合形成无处不在的“网”，涌现出某一种“社会意识”，带有同人类意识一样的协调性和组织性，这是否会带来难以估量的灾难尚未可知。

（二）人工智能的可控性

假如人工智能具有“意识”，从不同角度来看，它应该仍然是可控的。第一，从意识本身来看，人工智能的“意识”并非真正人类所具有的“意识”，它其实是一种通过算法和数据分析得出的模式识别能力和决策能力。第二，从资源限制来看，人工智能的工作需要大量的数据和算力支持，强大的算力需要庞大的物质机器支撑，而物质资料的生产依靠人有目的的劳动，所以究其根本，掌握机器智能程度的是人。第三，从人工智能决策的透明性来看，即使“黑箱问题”依旧存在，只要对人工智能的应用进行事先评估和控制，也能对事后的结果进行原因反溯。第四，从人类的监督和控制来看，人类可以制定相应的规范，确保人工智能的应用服务人类社会。仅把它当成是工具，和任何其他技术一样，工具的存在状态自然取决于人类的使用方式。如果人工智能发展成了“有意识”的个体，不妨就像对待其他工具一样，引导其沿着主流社会价值向前发展。况且，假如人类社会的“社会脑”在机器社会里得到了复现，每个机器“个体意识”之间或许会产生冲突，可能会相互牵制，达到一种微妙的平衡，从而形成不以任何个体意志为转移的“历史合力”，人依旧能从这个过程中找到自己的位置。

四、未来人类智能与机器智能共谋发展

人工智能的发展，重点之一在于取代人枯燥、繁重和危险的工作。人工智能的优势在于海量的信息存储和高速的处理速度，但是它无法处理应然与实然问题。人文价值具有多重性，所以社会科学普遍存在一定的主观性和模糊性。自然科学要求的是精准可测。将人的主观能动与机器的精确可控两者相结合，或可推动人类和机器的互补，优化人类的生活体验。

（一）人机智能融合

人机交互与人机智能融合将会是未来智能科学发展的突破点。以机器的强大计算能力弥补人脑信息处理的短板，用人的能动意识去弥补机器的不足，人类的认知水平将会达到崭新的高度。

目前在科研和医疗领域中，脑科学家们和人工智能强强联手，走出一条脑机接口、人机混合系统和“人机智能一体化”方向发展的道路。人可以直接通过脑来表达想法、操纵设备。奥地利政治经济学家约瑟夫·熊彼特认为，每一次巨大的创新都会对旧的技术和生产体系产生巨大的冲击，即“创造性破坏”。［15］人机智能融合不但可能带来产业技术革命，还会带来有关伦理的挑战。因此，人机智能融合所遵循的第一原则是保持人的理性。造物的根本是为人服务，人的终极关怀是探寻人与世界的关系，而不是机器与世界的关系。第二原则是适度原则。不要让人成为“忒修斯之船”，人脑必须作为第一性的存在。也许科学技术发展到后来，会出现机器的智慧以电信号的形式反向传输给人的情况。如何把人工智能控制在由人类主导的位置，是一个在技术和伦理上都值得思考的问题。

（二）人类智能格局的转型与升级

海德格尔曾悲观地说道：“我们竟如此牢固地嵌入了技术对象，以致我们为技术对象所奴役了。”［16］的确，人机结合也可能会有不同的结果，这很大程度上取决于人的价值观和对技术使用方式的取向。乌托邦式的理想主义与杞人忧天式的悲观主义皆不可取，既然社会发展是不可逆的，就顺势而为走人机双向赋能新道路，理性把握物质世界发展规律。未来学习者的优势可能不在于记忆力有多强，而在于提出好的问题。教育体制的改革，将从培养学生对既有知识进行记忆、理解和总结转变为培养学生运用工具、提出问题和解决问题的能力。反观当下智能系统的运作预设不是使机器人性化，而是让人越来越适应机器化的操作，这与“以人为本”理念相背离。

五、结语

尽管人工智能在某些领域已超越人类，但其是否具备意识仍具有争议。随着人工智能“涌现”和“进化”能力的提升，确保其可控性至关重要。未来人机智能融合将推动人类智能的转型与升级，实现更智能高效的发展。这一进程中人类需要寻求一个平衡，寻找合理的协同机制，保障智能生态系统平稳，不妨遵守功利主义的“最大幸福原理”，但批判其“唯有快乐和免除痛苦是值得欲求的目的”的观点。［17］在人工智能时代，如何将理性提升到人类崭新而合理的叙事之中，是接下需要思考的问题，这也迫使人类不得不重新审视个体、他物、社会乃至世界的原则性问题。

参考文献

［1］龚剑飞.自我意识概念：康德、黑格尔与马克思［J］.江西社会科学，2010（12）：36-42．

［2］［法］笛卡尔.第一哲学沉思集：反驳和答辩［M］.庞景仁，译.北京：商务印书馆，1986：29.

［3］胡潇.意识新论［J］.求索，1995（6）：79-84．

［4］赵汀阳.人工智能的自我意识何以可能？［J］.自然辩证法通讯，2019（1）：1-8．

［5］张浩.论情绪和情感及其在认识中的功能：主体认识结构中的非理性要素研究［J］.广东社会科学，2006（6）：78-84．

［6］唐热风.第一人称权威的本质［J］.哲学研究，2001（3）：54-60．

［7］赵汀阳.GPT推进哲学问题了吗［J］.探索与争鸣，2023（3）：66-74．

［8］魏斌.符号主义与联结主义人工智能的融合路径分析［J］.自然辩证法研究，2022（2）：23-29．

［9］［英］玛格丽特·A·博登.人工智能哲学［M］. 刘西瑞，王汉琦，译.上海：世纪出版股份有限公司，上海译文出版社，2006：119.

［10］徐英瑾.人工智能哲学十五讲［M］.北京：北京大学出版社，2021：55．

［11］徐英瑾.欧陆现象学对人工情绪研究的挑战［J］.探索与争鸣，2019（10）：137-147．