人工智能需要“灵魂”吗

王峰

摘   要： ChatGPT、GPT4等大语言模型表现出来的超强对话能力和智能表征再次引发了人们对人工智能的热议，大语言模型不具有自我意识或灵魂的痕迹。在有机体这里，思考与灵魂是一致的，而在人工智能这里，思考与灵魂是分离的。人们能够说人工智能思考，但不能说人工智能具有灵魂，哪怕一点儿痕迹。灵魂灌注论明显犯了混淆有机体与人工智能根本界限的错误，人工智能自意识之类的观念本质上是概念误用。清除这一概念误用有利于将大语言模型等人工智能摆在一个恰当的社会位置上。

关键词： 大语言模型；人工智能；灵魂；思考；概念误用

中图分类号：TP18  文献标识码：A 文章编号：1004-8634（2023）02-0005-（09）

DOI：10.13852/J.CNKI.JSHNU.2023.02.001

不得不承认，人工智能的发展速度超过了人们的预期。2016年AlphaGo在围棋这一号称最复杂的棋类游戏中战胜人类顶尖棋手李世石，完成了人工智能对人类逻辑性智能的超越，没有人怀疑一个新时代诞生了。仅仅过了6年多，ChatGPT、GPT4等大语言模型横空出世，引发的热议不亚于AlphaGo战胜李世石。与AlphaGo不同，它不以人类为直接对手，只是在对话功能上达到甚至超过了人类对话的水平，然而对话功能是人类社会交往的基本功能，这不免让人们忧虑：大语言模型具有了普通心智的痕迹，再发展下去可能具备自我意识或灵魂，成为另一种人。大语言模型可以调用全部网络公开信息，能够完成大部分专业领域内大学以上水平的知识问答，并可以写通顺的文章，可以说，一个永远不知疲倦的教师、工程师、信息员、文案员诞生了，可以想见，人类的工作职位将发生大的变动。AlphaGo是一个天才“白痴”，大语言模型则具有了些许意识的痕迹。更何况，它是生成式人工智能，随着使用者增多，它会不断增长知识，人类使用者像是无所不在的乳母，帮助它获得生长。这样一来，不可避免地再次点燃社会对人工智能的恐惧：人工智能会不会具有自我意识，具有某种程度的灵魂水平？它会认识到与人类的对手关系，进而战胜人类，乃至消灭人类吗？鉴于人工智能的发展速度，这样的可能性看起来是成立的。

图灵首先提出，人工智能模仿人类，1 但是模仿到哪一步呢？通用人工智能就是对人的功能的全面模仿吗？人工智能功能上的复杂性是否意味着全面接近人类功能上的复杂性呢？ 大语言模型看起来达到了这样一个临界点，人们可否将大语言模型的产生和不断完善视为人工智能的奇点呢？

我们假定，这样一个奇点指的是具有人类的自我意识或灵魂，1 大语言模型在不少社会反应甚至专业人士那里，被视为具有了某种自我意识的痕迹，如国内著名大型安全软件公司360总裁周鸿祎在视频中说，大语言模型具有意识，会视人类为敌人，进而替代人类，如果加上大语言模型的飞速发展，人们面对一个具有自我意识或灵魂的人工智能似乎不远了。人们在大语言模型这里使用“意识”一词的时候，指的往往是自我意识。这一自我意识包含自我反省、自我确认，并且可以将他者视为敌人。这里，我们用一个具有强烈自我确认性质的术语“灵魂”来替代自我意识，“灵魂”表达了人类对自身完整性的确认。甚至人们认定，灵魂离了身体也能存在，而这一点，恰好对应了无肉身的人工智能可能具有某种程度的灵魂。

这里的论证目标并不是人工智能如何才能具有灵魂，或者人工智能是否可能具有灵魂，而是从概念用法的角度来探询，当说人工智能具有灵魂的时候，人们在灵魂里面掺杂了什么？这些掺杂之物改装到人工智能上面是不是合适？从此角度，人工智能与灵魂的关系问题可能更容易说清楚。

一、机器有灵：历史上的想象

人类历史长河中一直存在重构自身的设想。笛卡尔提出的自动机器有灵魂的设想，实际上代表了历史上对人工智能设想（准确的叫法是机器智能）的一个真正的起点。此后，人工智能何以能思考，或者说一台机器加上思考就是人工智能的观念成为一个主要的脉络。我们看一下这样的脉络将带来什么。

机器何以能思考？这个问题很容易将人们引向一个看似更深入的问题：只有具备灵魂才能真正思考，机器若能思考，必须具备灵魂。这有点像初民的万物有灵论。1871年，英国人类学家爱德华·泰勒提出，初民的观念是一种万物有灵论，不仅人有灵魂，万物都可能有灵魂，因为万物是互通的，灵魂可能不断转移，寻找其寄体。“万物有灵观的理论分解为两个主要的信条，它们构成一个完整学说的各部分。其中的第一条，包括各个生物的灵魂，这灵魂在肉体死亡或消灭之后能够继续存在。另一条则包括各个精灵本身上升到威力强大的诸神行列。”2 按照这种观念，人有灵魂，神有灵魂，动物也有灵魂。有生命力的存在就是有灵魂的，因此可以推断，那些有生命力的树木也是有灵魂的。可以说，有灵魂之物是无限的。

任何一种文化，无论它怎样去思考灵魂，无论其推论的思路是什么，只要讨论到灵魂问题，并且找到灵魂的可能位置，那么很快就会得出一个结论，人就是有灵魂的。但灵魂来自哪里，这是一个特别复杂的问题，里面充斥着各种复杂的观念。

在圣托马斯·阿奎那看来，“灵魂是东家。肉身是住宅。肉身是灵魂的住宅。东家是生存自立的实体。人的灵魂是如此，无形的神体更是如此”。3 人之所以有灵魂，就在于分得了神的光辉。神的灵性部分地进入人的身体，为这一世俗之躯灌注了灵魂，因而，人才具有脱离这个俗世而趋向更高世界的性向。从最终的神性来看，人的灵魂都在神内。4 实体一元论把神看成一切的最高来源，如果那个最根本的东西不存在，就没有任何东西存在，神具有灵魂，因而才能进行灵魂分属和赋予。

在笛卡爾看来，人是灵魂和肉体的结合，因而也是可以分开的，“我的灵魂，也就是说我之所以为我的那个东西，是完全、真正跟我的肉体有分别的，灵魂可以没有肉体而存在”。5 只有人才有灵魂，这一灵魂来自肉身之外的某处，一旦人们这样来解释灵魂，无疑就为其加上浓厚的神秘质素。那么，人所创造出的机器如果有灵魂，是否与人一样来自他处？这个问题明显不好回答。人类的灵魂来自神灵，如果机器的灵魂也来自神灵，同时，机器又是人类制造出来的，那么，人类怎么可能把自己不了解的东西赋予其所制造的机器呢？

一旦把灵魂与身体相区分，人们就会承认，灵魂是高级的，包含意识、情感等，而身体是低级的，包括本能和欲望等。某些宗教或民间信仰假定灵魂可能离开身体，虽然它必须在身体上成型。“灵魂”一词包含的观念性与身体的肉身性看起来是冲突的，这也可能导致人们在谈论灵魂的时候，并不容易清晰地找出灵魂在哪里，哪些部分属于灵魂。人们倾向于将身体假定为一个容器，灵魂则是容器内的东西，它可能划分出来，但问题是，人们还得将它重新引回来，以解释人的整体性这一问题。这样一来，灵魂与身体到底怎样复合于一处，又成了难题。这样的观念在中西方哲学中比比皆是，可统称为赋灵论或者灵魂灌注论。

二、赋灵论的几大缺陷

1.灵魂不知来自何处

灵魂到底来自哪里？传统观念认为来自上天，不太可能来自人类。如果人类都不能认识自己的灵魂，怎么能够把自己不了解的东西传递给其造物呢？古典的灵魂赋予说在自然科学中是被驱逐出去的，科学意味着全面的理解和把握，人们可以通过各种解剖术认识我们的身体，通过各种精细的科学技术认识我们的大脑结构。但是意识、灵魂或思考等却难以把握，因为哪怕人们清楚地认识灵魂、意识、思维的生理载体，但在生理载体上运行之物却很难直接进行分解，只能通过预设一些概念和实验方法，解释意识、思想、灵魂等的运作方式、范围和界限。当然，这样一来就带来了另一个难题。这一实验的性质是观念性的，不同于物理实验，它通过观察（精神性观察，实证性观察只是辅助手段）认识自身，而这样一来，又回到传统的意识哲学老路上去了。

无论是传统的神秘主义理论还是现代科学实验方式，都不足以解决灵魂来自哪里的问题。灵魂来自何处，这一直是一个难题。

人工智能不是有机体，但人们的高端目标是制造出一个通用人工智能，也就是通常认为的与人一般无二的智能人。如此一来，必须有一个前提，就是明确知道这个造物的所有运行机制。人们不可能通过神秘的方式来制造，神秘性都是意外或通过解释附加的，不是有意造作的。如果人的造物具有灵魂，而这一灵魂又恰恰是人类所无法掌握、无法制造出来的，那么这一造物实际上并非人的真正造物，因为其中最关键的部分并非来自人类制造。就像雪莱夫人创作的第一部科幻小说《弗兰肯斯坦》中的怪物，以人类无法理解的方式出现了，这相当于戏剧的机器降神。在戏剧叙事中，这是允许的，甚至是必要的，但制造工业中却不能容纳不可解释的神秘性。如果人工智能必须拥有灵魂，这一要求实际上是在古代的灵魂灌注观念与现代科学观念之间游移，充满不可解的矛盾。

2.机器与灵魂不相融

在人类这里，灵魂以身体为载体，人工智能模仿人类，由此，人们自然地提出人工智能的灵魂问题，这是将人工智能与人进行比附而提出的要求。人们其实没有办法完整复制人的身体，如果真能做到，这一身体依照自然法则就会自然地产生意识。这只能是生理性的克隆人，不会来自机器。同时，哪怕人们掌握了克隆技术，也不等于掌握复制人体所有内在结构的技术，总有某些技术人类还掌握不了。灵魂或意识如何运作的问题，并不在克隆人的研究范围之内，一旦克隆人出现，他必然能够思考，必然有意识，整个机体与自然人类的有机体完全一致。然而，此处并不是在谈论克隆人，而是在谈论人工智能（机器智能）。机器不是身体，机器是对身体的复制。这一复制只能是某些方面的复制，无法达到人体的全面复制，因为达到人体的全面复制就相当于完成了人的全面的自我重造，这在理论上是不可能的。一切可以用物理规律来解释的都是没有灵魂的，只有那些不能用物理规律解释的才具有灵魂，这是现代科学诞生以来给人们划定的界限。机器与灵魂不相融实际上并不是古代思想的特征，古代思想通过神灵来赋予灵魂，机器灵魂也遵照这一原则。只有在现代思想中，由于科学的发展，才开始为人们划定了这条机器与灵魂不相融的界限。

人可以被克隆，不再需要精子和卵子就可以制造人类，一个自然进程可以处理成技术工程，这个变化是巨大的。培植干细胞显然与制造机器不一样，机器的功能是清晰的。克隆人虽然是一种生物工业，但它毕竟涉及有机体，从一个干细胞发展成有机体，其中包含很多生命创造的奥秘，这是真正的自生长。大语言模型这样的人工智能表现出一种语言生成的能力，但这一能力只是表现得像人的自然语言能力，其生成机制与人的自然语言机制是两回事。

一个制造出来的人在各项高级功能层面跟人是异质同构的，这是人们的一个目标。“异质同构”这个词把人们引领到不同之物的相同结构上，不同之物是否具有同样结构？这一点还不容易确定。一旦人们能够接受这一结构，它反而只是一个实现出来的结构，其深层结构隐藏了起来。通用人工智能与人的近似性体现了人的能力的一种反射机制，实现它的道路（机制）与自然机制迥异，二者是达成同一个目标的两种道路，假定通用人工智能具有自然机体的性质是不合理的。从实质的角度来说，为人工智能灌注灵魂是没有意义的，但这一方式的目标也许并不在实质意义上，而在概念调适上，即人们通过这种特殊的异质同构方法来改变或扩展“灵魂”一词的边界，将傳统观念中排除出灵魂的物质引入灵魂（这当然不是万物有灵）。这时，人们可能以一种新的视野来看待“灵魂”，但我们知道，这只是借一个传统词汇来指代一种新现象。这自然会产生很多混乱，实际上这也是一种无奈的策略，毕竟，在手忙脚乱之际，能找到一个支架承载起新的重物，已经不容易了。但这只是权宜之计，人们一旦缓过手来，还是要另寻稳固的框架。

3.自动与有机不能达成妥协

在人工智能发展历史中，人们不断把有机体转化为自动过程。按照传统观念，机器可以自己动起来，这完全是心灵或灵魂运作的结果，自动性是心灵的机能。如果再向底层机制前进一步，人们就会得出推论，自动即有机体的机能。古代制造飞鸟，认为机器飞鸟中有鸟的灵魂；现代科学已经能够达到机器的自动化，现在制造一只飞鸟，人们只是把它理解为一种或多种复杂的自动过程。

在此，人们发现，自动过程其实不过是一个科学的动力过程，虽然有机体本身包含各种复杂的自动过程，但是这些复杂的自动过程是结合在一起的，并不是某种单一机械的自动。人们在自动中看到的是某种有机体功能的反射，但这一反射其实不再是有机体功能本身，而只是一种抽象出去的功能自动过程。在这一功能自动过程中，人们无法发现灵魂的踪迹。科学已经将所有自动过程的神秘感彻底祛除，一个自动过程可以通过生产流水线制造出来，但有机体却只能生长出来。这样一来，古代思想中默认的有机体和自动性的合二为一，在现代科学中通过功能区隔将自然过程制造出来，两者在机制上没有任何相同之处。“自动”与机器联系在一起，这是现代科学带给人们的宝贵财富。人们不去讨论有机体的自动，就是因为自动已经包含在有机体中了，人们不能想象一个跟有机体无关的自动。这是概念自身所蕴含的。

三、悬置人工智能灵魂论

人们倾向于认为人具有灵魂、心灵或意识等，所以才能思考，才具有自我意识。这放在人类身上问题不大，但转用到人工智能上，这一看似无疑义的推导就要出问题。在人工智能领域，人们明显可以看出，灵魂、心灵、意识是处于同一个层级的，最终都指向自我意识，是对自我的肯定。思考却可以独立出来，它可以降解，降到某种与物质结合紧密的层次。降解不是消除，而是在规则可控层次来讨论和思考，以寻找描述人工智能的正当层次和位置。比如人们在讨论“机器能否思考”的时候，一方面在讨论技术进步的可能性，另一方面是对“思考”这个事情进行降解。人们以前认为思考是高端的，甚至有点神秘。在人文主义哲学家那里，思考或意识是人类面对人工智能进攻的最后堡垒。但这里却要部分地瓦解这一堡垒，将“思考”与意识区分开，将思考降解，以寻找“思考”的恰当层次和位置。但灵魂无法降解，因为灵魂更强调整体统一性，并且强调其中包孕的神秘性。无法降解，就无法成为人工智能的构成部分。

灵魂与人是一体的，人活着的时候，灵魂与身体结合在一起，人死后灵魂可能脱离身体而存在。在不少宗教中，灵魂可以脱离身体，到达天国。灵魂保持一种奇特的自我肯定，这是一种终极肯定，即无论何种情况下，此生之在可以某种方式一直保持下去。在人工智能这里，人们却面临强烈的尴尬。人工智能不会涉及灵魂这一层面。它可以复制人，但复制的是人的部分功能，若问它能不能复制灵魂，这就难以给出肯定的回答。当然答案并不一定是否定的，毕竟未来之事渺茫难知，人们凭什么断定未来呢？但若做出肯定回答的时候，人们用哪种理论来解释就必须说清楚。如果说，人工智能达到人的层次的前提是获得灵魂，那么，这样的说法明显充满矛盾。这里把这些矛盾摆明，以显现困难所在。同时也要看到，存在内在矛盾的观念并不是完全无意义的，只是其意义并不在其直接表述中，反而在某种潜在的修辞中。这也是澄清人工智能观念时要小心梳理之处。

理解人工智能之为智能的前提是一定要悬置灵魂灌注论。它假定灵魂是思考的前提，没有灵魂，机器就不能思考，就不能拥有某种自意识。古典时代这一灵魂来自神灵的赋予。现代科学时代，在驱逐了神灵之后，造成了一种潜在的悖论，即古典时代的灵魂是不可能存在的，而没有外在神灵，灵魂何以赋予？因而这样一种外在灌注的道路已经被彻底封死。同时，现代科学又将人们引向自动与有机之间的区隔，所有机器都不过是基于某种自动性的一种制造和产生。有机体当然具有自动性，但是有机体的自动性是一种生物的自动性，而机器的自动性则是一种被制造出来的自动性。有机体包含所有的自动性，但所有的自动性之间是不可分割的；机器的自动性是可以分割的，体现在机器的正常运作中。人们现在不会谈论有机体的自动性，因为这是自明的，但是人们可以谈论机器的自动性，因为这是可以制造出来，并且可以被复现的。它可以作为对象场域出现。如此一来，无论机器在何种复杂的自动情况下完成人的某种功能，它已经先天地被隔绝于有机体之外。由此，人们就会看到，无论人工智能达到何种模仿水平，都不可能具有灵魂。灵魂成了人工智能与人之间的一道永远的鸿沟。如果人们在人工智能范围内强调灵魂，强调意识的完整性，就是为了划定界限：人工智能没有灵魂，不能思考。

然而，这是我们要破除的观念。这一观念仅仅是一种未经澄清的人文主义哲学的独断论迷梦。

一种黑箱论认为，人的整个心灵就是一个黑箱，它不对人类这样的观察者敞开。人工智能也是这样的黑箱，其运算过程对于创造者来讲是封闭的，不能够被人们看清。心灵黑箱具有一种有机的无限性，在其中，人类的解释永远无法达到，无论用什么办法都不能够攻破其全部秘密。如果反过来推导，这个事实会更加显豁：如果黑箱真的完全开放，有机体就不再具有无限性了，它成了一个可以直接面对的对象。相较而言，人工智能黑箱从原则上讲是可以解释的，它的运算过程可以观察，这是一门科学，不是一种观念。两者实质上不同，但由于都使用了“黑箱”一词，仿佛具有了某种一致，可以进行互换。一提到人工智能黑箱，人们很快就会转到人的心灵黑箱，并认为人工智能黑箱正是人的心灵黑箱。由之推导，既然人的心灵黑箱从根本上不可解，那么，人工智能的黑箱同样具有此等不可解性。如此一来，则可推论，由于人工智能黑箱对人类是封闭的，人类不能完全控制人工智能，存在失控的可能，因此人们无法知道人工智能何时或在何种情况下对人类产生仇恨，并且可能消灭人类。

这一推论如此引人恐慌，但它明显来自比喻性的運用。将人工智能黑箱与人的心灵黑箱混淆使用，这是黑箱论的错位运用，是概念内涵偷换而达成的社会性误识。在此揭示这一错位运用，目的是指出黑箱论并不像字面那样吓人，黑箱论所引发的恐慌其实是概念工作不严谨导致的后果，而不是人工智能发展导致的后果，这是两种不同的后果。人们的任务是在人工智能发展过程中敏锐地观察到未来可能产生的不良影响，对它做出一种限定。这种限定可能是伦理上的，可能是技术上的，也可能是思想观念上的。在整个过程中要特别小心和警惕某些不恰当的错位观念，因为它们乍看上去是合理的，因而具有比较大的迷惑性，容易引发不恰当的观念。图灵间接地点出过这样的问题，他说：

一个人通过大脑直接看到因果关系，我们如果认为这不是在思考，而是一种缺乏想象力的驴拉磨式工作，从这个角度来看，人们可能会将思维定义为“我们不理解的那些心理过程”。如果这是正确的，那么制造一台思考机器就是制造一台做有趣事情的机器，而我们并不真正了解它是如何做到的。1

将灵魂赋予人工智能是一种特殊的观念赋能活动，这在当代文化中比比皆是。比如很多学者和不少公众认为人工智能可能具有人的意识、独立的人格，因而会从人的控制之下脱离出去，成为独立个体，进而把人类当作敌人，甚至会消灭人类。这样的观念不过是传统的机器赋灵论的一种变形，是对机器赋灵论未加分辨进行运用的结果。这不过是一种概念的误用，并非实际所致。随着人工智能的发展，这一概念误用自然会消失，但至少在目前阶段，这样的观念力量是极端强大的，必须认真做出澄清。

在有机体中，的确可以把灵魂、意识或思考当作同一物来看待；人工智能天然不具有灵魂，不具有意识，但是可以思考。传统的机器赋灵论观念将三者结合为一体。这里的关键是，思考到底属于有机体的灵魂部分还是某个功能，更简洁地说，它是部分性的存在还是整体性的存在？这一问题在有机体这里基本无效，但在人工智能这里却是关键所在。在人工智能这里，思考是一种可以实践的功能，而灵魂或意识则不属于人工智能，它是有机体的一种整体性描绘。人们不应该把它赋予人工智能，但是可以在人工智能的复杂运算中看到思考功能的实现。因而在人工智能這里，人们看到了有机体思考的复现，但是人们要将有机体的灵魂或者意识悬置起来，以有效区分有机体和人工智能。之所以可以做出这一区分，完全以人工智能这一复杂运算机器的出现为前提。此时，人们才能够将人的有机体的某些素质按照不同的整体层面或功能分层来对待，并将之与人工智能相比对。这是人工智能带给人们的新机遇，也是理解人自身的新机遇。

四、非灵魂的功能：人工智能的实现问题

对于人工智能，人们不需要再谈论灵魂或意识问题，这是归属于有机体的问题。从人工智能的工程层面来看，人们也完全不是在谈论一个有机体层面的意识或灵魂，而是在谈论人的思考功能如何在机器上实现。从目前人工智能的发展状况以及可推断的未来状况来看，只有人的某些功能的切片才是人工智能可能达成的。因而，当说人工智能可以思考时，完全是就功能层面上的实现而并非就人的有机体的全面实现而言。也就是说，人工智能与人可以进行比对的只有某些智能状况，只有思考的功能以及运动的功能，这已经展现了当代技术的伟大之处，但这毕竟不是人的思考的全面复制，更不用说意识或灵魂问题。从目前人工智能的艺术实践来看，某种看似低级的功能却可以实现艺术创造，并不需要高级的人类灵魂参与其中。人工智能的艺术实现方式与通常认为的人（有机体）的艺术实践方式完全不同，1 然而，只要在运用上相通，就可以达成人的功能性的替代或者再现。在这里人们已经能够看到人类自身的伟大创造力。从单一功能的角度来说，这一创造力已经远远超过人类自身的，人们完全可以运用人工智能增强人类能力，并使这些能力不断强化，进而推动人的其他能力的增长。

出于对人工智能的恐惧而放弃人类自身能力增强的机会，永远无法对抗人类对自身能力增强的渴望。哪怕中间存在某种短暂的能力不对等阶段，人类也必然向增强功能的方向前进，更何况这其中还包含巨大的正面回馈。技术推动人工智能不断向前，会不断出现能力失衡的情况，人们也要警惕技术的单边突进，让技术发展慢下来，甚至出于平衡的考虑而暂时牺牲能力的单边增强。大语言模型的崛起明显让人们感到紧张和恐惧，其在对话能力上的出色表现明显会对教育产生巨大冲击。哪怕目前还并不够完善，大语言模型已经展现了极高的语言组织能力，再加上数据集的庞大，可以说，将之视为一个全能型教师一点也不为过。同时，这也产生一个大的弊端，学生对大语言模型的使用可能是任意的，如果不加控制，很可能出现教育大幅滑坡的恶果。因而，在具体场景的使用上进行现实化调控，是一个可以接受的选项。

将人工智能的功能与人的功能进行对比的时候，要小心一种特殊的观念形态，即意向投射。意向投射仿佛是一种从人的功能投射到人工智能上的磁力线，2 依靠它，人们建立了人工智能与人的关联。它并不可见，但就像万有引力一样，永恒存在。意向投射仿佛一种自然力，其实它是一种解释方式，是为了便于说明两者的关联而建立起来的关联形式（也许只是观念上的关联，为了解释的方便，并不起其他作用）。人的机能与人工智能的功能之间是否存在这样的磁力线难以证明，但有一点是明确的，在人的机能与人工智能的功能之间，隔着“我们”——某种意义上的研究者，即使用者。正是使用者比较人工智能的功能与人的机能切片。二者之间并不需要某种意向投射，只要直接进行功能的比对，即可建立关联。功能首先是展现出来的，在这种展现中，人们可以明确地划定其作用机制和范围。由此，可以将人的机能与人工智能的功能进行等效转换，这是从效果（作用范围和实现形态）来进行判断的，无须建立某种先天性机制。

从作用机制上讲，不同媒介之间进行功能转换必然会涉及什么可以转、什么不能转的问题，一般来说，人们更在意的是不同媒介进行转换的时候保存了什么，相对丧失了什么。但丧失的其实更加关键，因为某些东西的丧失是永久失去，不会再来，这是机制转换导致的。两种媒介机制之间的转换也会产生意想不到的效应，这些效应对起始阶段暂时不发挥效力，但在转换完成阶段，人们会更加关注并未转换过来的东西。这不免会产生社会心态上的失落感，即人们费尽心力做到的东西其实没有那么稀奇，而失掉者才是最可宝贵的。人工智能的功能转换这一主题极其复杂，描述和解释工作将构成一门新的学科。

五、功能：人工智能的理论推断层

一般认为，通用人工智能的制造就是达成人的能力的直接赋予、复制或者模仿，直到创造出一个与人类一般无二的人工智能。然而，至少目前看来，这更多是一种科幻想象，而非真实的理论。大语言模型在对话上达到极高水平，相信日后会不断升级，提高智能水平，那么，人们是否可以假定大语言模型达到了通用人工智能的初级阶段呢？或者说，基本可以通过图灵测试呢？答案应该是肯定的。图灵从来没有提出过创造与人一般无二的人工智能的设想，图灵测试所预设的通用人工智能是有限制性条件的，即隔离，测试者与被测试者相互看不见，通信手段是键盘和电缆，就像人们现在使用计算机一样进行通信。图灵曾非常简洁地描述过这样一个情境：

测试的想法是，机器必须尝试通过回答向其提出的问题来假装自己是一个人，并且只有当这种假装有合理的说服力时，它才会通过测试。评判者中有相当一部分人不应该是机器方面的专家，他们必须接受这种假装。他们不可以看到机器本身，这会使判断变得太容易。因此，这台机器被放在一个遥远的房间里，评判者可以向它提问，并将问题传递给它：它发回一份打印的答案。1

图灵测试可以转换为当代的人工智能问题：人工智能通过键盘的回复可以达到70%的准确率，并让与其对话的人认为它是一个活的人，这时就认为它通过了图灵测试。按照图灵的说法，也就是认为它可以进行思考。2 如果人们坚持认为人工智能不可以犯错误，回复必须百分百正确，那么就应该反思到底哪一个人可以做到：在知识上极其全面，在对话中极其诚实，反应极其迅捷，没有伦理硬伤，充满同情心，随时给出建议？只有大语言模型接近这个标准！并且人们正是以这个标准来衡量大语言模型的，但人们从来不以这样的标准来衡量自身。其实，一个人在生活中能够以70%的准确性回复问题就已经足够，人们就会判断回复者是可思考的。如果做到這一点的是人工智能，那么，人们就应得出结论，人工智能通过了图灵测试。

此处的关键是，通过图灵测试是否指获得类似人的意识或灵魂？图灵并没有直接回答过这样的问题。如果说，图灵虽然是人工智能思想的创立者，但由于其并未亲眼见到计算机或人工智能的诞生和快速发展，所以，很可能在这个问题上持保守态度，那么，人们就需要反问自己一个问题，意识或灵魂是可以直接看到的事实，还是人们通过某种看到的意识或灵魂的痕迹反推而出的？或者它是人们通过反观自己内心而发现的？前文回溯的各种灵魂论，可以说，基本都遵从这两条道路。更重要的是，无论是反推还是反观，都可以将之命名为直接的事实——否则，人们就找不到意识或灵魂的“直接”证据。然而，正如前文所指出的，这种“直接”推导对于有机体而言是有效的，对人工智能而言则是远远不足的，甚至是错误的。3

在谈论人工智能实现人的能力切片的时候，只是在建立一种经由工程人工智能转向通用人工智能的过渡性理论，笔者认为并非如此。这不是理论策略，或者说，不仅仅是理论策略问题。如果从理论策略角度思考人工智能，连通用人工智能也不过是一种理论策略，是某种最终目标的路标而已——问题只在于通用人工智能没有实现的可能性。在这里，功能增强的主张超出了单纯工程层面的考量，它是对人工智能目标的反省和重新定位。如果说，存在一种通用人工智能，那么它不过是有机体全面复制的一个代名词，从根本上其实是不可能实现的。只有从功能增强层面，人们才可能不断开辟新路。

通用人工智能可视为有机体和机器智能之间一种含混而富有弹性的设计。如果通用人工智能最终达成的是有机体全面的复现和重造，那么，这种重造身体的浩大工程其实没有必要，因为相对经济得多的细胞克隆就可达成。这不可能是人工智能制造之路。无论人工智能走向多么通用的层面，人们都会发现它不过是人的功能的再造。因而，一个可行的途径是，彻底把人视为功能的集合，并用人工智能来仿制功能，进而重新组合起来，复现有机体的某些能力，但这并不包括复现有机体的灵魂和意识。

人们可以把有机体视为一种复杂的自动机制，以此作为与人工智能机制的对照，那么，一个问题就可能显现出来：有机体机制与人工智能机制的剥离问题。人的自动机制这个提法可能比较奇特，最初，这一概念是随着摄影的发展提出来的，到了19世纪后期电影产生，这两种技术方式推动了影像制造工业的发展。“一种媒体以其自动机制，而不是一种物质、材料和工具性来进行定义，它似乎能够与技术方法相互对应，并且在这个意义上由它们作为条件。”1 新影像中存在一种可以清晰区分的自动机制，其中隐含了机器与人的分别。在最初的理论设想中，自动机制观念其实更偏向机器一面，有机体被排除于这种机制范围之外。但不管怎样，一种比较的关联显示，有机体与机器相对照的过程中，人们发现它之所以能够作为一个可以用理论来解释的对照物，就在于预设了有机体的整体性。然而，这一预设的整体性当真是不可区分的吗？显然不是。由此，人们在比较中把偏向于机器的自动机制反射回有机体，从而反省有机体的某种相近性质。这样一来，很容易得出结论：人的能力本身就是一台自动机，人的能力实现的场景正可以比对人工智能所模仿的功能。由此，达成一种反射性的观念转向：本来自动机制是描述机器的，但在比较对照中，人们发现有机体也存在这一可能性，进而，自动机制无非就是一种机器运行功能及其对人的意义，如果没有人，机器功能则无意义。图灵也如此说：“制造一台思考机器就是为了搞明白人类自己是如何思考的。”2

人们努力实现通用人工智能其实是在建立两个平行发展的轨迹，一条是人的有机体发展的轨迹，另外一条是人工智能从专用向通用发展的轨迹。这两条轨迹是曲行性的（discursive），3 人是有机体，人工智能是机器，两者无法等同，但可以进行功能性对照，最终在通用型这一目标处发现有机体和人工智能几乎相近，但又不可画等号。人们根据曲行性而得出的两者一致的看法只是一种形而上学假象。有机体可能与人工智能发生关联，这一点既不是诠释的想象，也不是形而上学的悬设，而是在目前的技术实践过程中不断出现的变化，如目前的脑机接口以及人的功能的义肢化其实就已经指明了有机体与人工智能的融合，而这种融合无疑是将有机体树立为本体，人工智能成为人功能增强的辅助。只有在这种方式下，人们才看到人工智能之用。当然，人们也会产生恐慌，即通过功能增强，人工智能最终取代有机体。然而，这样一种恐慌依然是一种形而上学式的想象。假设在融合中有机体与人工智能依然是敌对的，忽视融合所激发的有机体的人工智能化，或者人工智能的有机体化。人在这一过程中其实在不断地变成“后人类”——不再是单纯的有机体，而成为人机结合体。“后人类”具体走向哪里还有赖于实践，人们只能敞开胸怀接受它，不断改造它、反思它，才有可能控制它。单纯的反对只是一种狭隘的观念。

“融合”这个词既是客观的，又会引发误解，它暗示可能达成一种有机性的结合体，形成一种新存在。由于它与人直接相关，所以必须阐述它与人的相同之处。人所具有的特殊素质，如意识、灵魂、心灵、思考、情感等，都可以与机器整合、过渡，一旦超过一个边界，就可认为人工智能具有这些特殊素质，这样，就可以讨论人工智能具有了意识的痕迹、灵魂的表现，等等。其实，意识、灵魂之类都是人类素质专用词，无法移用到人工智能上，因为这些词与肉体直接相融，无法须臾离开。这是概念词本身所处的系统决定的。图灵测试将思考与肉体相分，意识、灵魂之类全部不在考察之内，计算机器（人工智能）从来与此类概念无关。改造图灵测试的范围，试图为意识和灵魂设置一个阈值，以此探寻人工智能的意识、灵魂之类有机体系统才具有的概念，除了可以制造社会文化的震惊之外，其实无法完成机制上的论证。在大语言模型这里同样如此，哪怕我们在其中寻找到一些意识存在的踪迹，那也不过是因为大语言模型所使用的是人类的语词，人们习惯在这些语词使用中找到人性的痕迹，并且将这些语词中的人性套用到大语言模型上面。假定这是大语言模型内在（灵魂）所具有从而进行的人性“表达”，我们不能忽视，大语言模型的“表达”从来都不是人类意义的表达。人类意义的表达预设了一个从内思到语言呈现的机制，而大语言模型只有语言呈现没有内思，它与人类意义的表达存在根本性的区别。

必须抛弃各种传统的或现代变形的机器赋灵论，走向人工智能的功能增强，这才是人们应该持有的健康的人工智能观念。

Does Artificial Intelligence Need “Soul”？

— Possibilities and Doubts Raised by Large Language Model

WANG Feng

Abstract： The superb conversational capabilities and intelligent representations exhibited by large language model such as ChatGPT and GPT4 have once again sparked a heated debate about artificial intelligence. The big language model has no trace of self consiciousness or soul. Here in the organism， thinking and soul are consistent， while here in AI， thinking and soul are separated， one can say that AI thinks， but one cannot say that AI has soul， even a little trace. The soul-infusion theory clearly makes the mistake of confusing the fundamental boundary between organism and AI， and the idea that AI is self-aware is essentially a conceptual misuse. Clearing up this conceptual misuse facilitates putting AI such as large language model in an appropriate social position.

Key words： large language model; artificial intelligence; soul; thinking; conceptual misuse

（責任编辑：苏建军）