人工智能与泛智能体社会的来临

文／段伟文

智能联网汽车的时代，其实也就是人工智能的时代。在这样一个时代，每一个智能的机器和人，都变成了一种智能体。

段伟文 中国社会科学院科学技术和社会研究中心主任

人工智能的智能

人工智能有所谓的几大部落，第一个是像人一样学习，第二个是像人一样思考，第三个是像人一样和世界互动，即所谓的智能机器，它们还能够像人一样理解和使用语言，如科大讯飞等很多的自动翻译机器。

对于能够像人一样行动的系统，我们可以通过图灵测试进行分辨。当我们分不清楚到底是人还是机器时，我们还可以通过认知建模的方法，让有些系统能够像人一样思考。我们也可以通过一些系统让机器可以理性思考、理性行动。

现在的机器是理性的，还不具有情感，即使有所谓的情感计算，也只是一种外在的模拟，机器本身并不知道是在干什么。

我们现在还希望我们的机器具有道德，可不可以有一种具有道德的智能体呢？

现在的时代，主体不仅仅包括人，还有智能机器、人形的机器人以及虚拟的智能主体。虚拟的智能主体既可以有虚拟的形象，也可以是完全抽象的，比如智能音响，就是一个虚拟的智能主体。

还有人的永生替身，如生物电子的机械，现在甚至可以让某个作家、演员、艺人好像又重新活过来，你和他聊天，让你感觉到和他生前的思路是一样的，他依然能够给到你很多的启迪。

人工智能的自我意识

如果机器人或者人工智能有了意识，会不会产生对抗的情绪呢？

我本人对这个前景表示怀疑。从情感这个角度来讲，机器即使内心没有心灵，我们依然会和他有情感的投射。

实际上，人和机器一开始是主仆关系，机器人这个词造出来就是“苦工”的意思，现在逐渐是陪伴的关系。

在日本有很多陪伴老人的机器人，甚至有的机器人不是人的形象，是海洋动物的形象，这样的机器宠物，陪伴老人的时候有什么好处？一方面会发出很亲切的声音，能够根据老人的情感做一些动作，同时没有传染病，有很多优点。

有这样一个机器人的三定律，按照控制论的办法，就是将三定律分别对应于不同的电位，第一定律的电位最高，这个在机器人的大脑里就能够实现。

一般来说智能体有三个维度，一个叫作表观维度，即看起来是什么样子，而聊天机器人就无所谓表观了。

另外一个就是功能性的维度，如能够演算等功能。

最后就是体验性的维度，有动机、欲望、意向、道德感、宗教意识，甚至有自我觉知。

最早的时候，人在研究动物的时候，觉得动物在某些方面的能力和人比较接近，我们认为动物具有某种智能。后来研究人的智能，并没有找到一个统一的智能理论，有一个大家都接受的理论，叫多元智能，包括智商、情商等。

有些实验，能够把几个人的大脑通过脑机接口连起来，通过直接的沟通，将来可能会有新的改变。而我们现在基本上是按照行为主义的方式来了解他人。

我们在对智能机器进行设计的时候，是要通过对人的理解来设计的，在我们不能让机器具有自我意识、自我表达，成为一个独立的主体之前，我们起码可以让机器像我们希望的那个样子来表达，像我们可以理解的那个方式来行动，因为我们和机器在一起。

第三者的智能机器

我今天讲的很重要的一点，我不再是把机器和人独立起来看待，实际上机器就像是人和人之间出现了一个第三者，由于智能机器的出现，使得人和人之间的关系，变成人和人之间以机器为中介的方式。

春节抢高铁票，为什么别人抢到了票，你抢不到呢？抢票的时候不仅仅体现了你的反应速度，还体现了手机的反应速度，并体现在网络的反应速度。

我们现在来看人工智能中间的拟主体性，有几种，第一种叫受控的拟主体性，即机器人能够按照人的命令来行动。

第二个叫做行动者网络中的拟主体性。当我通过高铁站的安检，或飞机场的人脸识别装置，将身份证一放就通过了，这看起来只是你和人脸识别装置之间的关系，实际上不是，后面还有一个巨大的社会行动者的网络，里面有设计者、研制者、使用者、管理者、相关部门。

另外一种就是虚拟的主体性。每个人在京东、滴滴、淘宝上、都有数字画像。现在有一种掠夺性的贷款，它可以通过数据爬虫找到通信录的人，做一个简单的判断，它借你一千块钱，目标是让你还一万块钱。

从未来来讲，现在有人提出了超人类、后人类的构想，人类可以运用技术使自身变成新物种，人类的文明可以有很多变化，打个比方说，我们将来是不是每一个人都要戴上智能眼镜，这个智能眼镜能够识别对方的微表情，有这样眼镜的人和没有眼镜的人，在社会交往中的能力是完全不一样的。

还有以数字化为中介的虚拟与现实的交杂，现在既可以是我，还可以是很多虚拟的替身，可以按照我的规则做一些事情，将来这些虚拟替身可以像我一样思考，可以像我一样做出决策。我们可不可以打通遗传学和神经接口，彻底改造智能，一方面从遗传学、从基因的角度改变人的智能；另一方面，我们要通过神经的接口，把有生命的智能和没有生命的智能结合在一块。

最后，具有自我意识和主体意识的智能机器能不能实现，我是表示怀疑，很可能是在幻想阶段。

从将来来看，作为它者的机器智能和智能机器的内化，我们将来是不是会和机器结合在一起？智能机器的社会道德能够有哪些能力？刚才说学习、表征、行动，能不能把道德规范学习到，以后付诸到行动中，能不能在道德实践中不断更新，我们能不能进行伦理设计，甚至是道德工程？

道德工程也是很厉害的，我们有各种检测设备来检测行为，当你的行为不道德时就会有这样一个智能机器来提醒，这是我们希望要的，还是不希望要的？

我们设计智能机器时，是通过对人的理解来设计的。在我们不能让机器具有自我意识、自我表达前，我们起码可以让机器像我们希望的那个样子来表达。

人要设法理解智能机器

我们现在来讲的伦理学就是不再从意向，而是从行动的导向，或者是承受者的导向来分析。这就需要有高阶的伦理视角，将来在人机协同的世界里，我们需要有一个大的监测系统，能够对包括人和机器在内的整个智能体，把行动做一个高阶的观察。同时也要慢慢接受智能体不一定有心灵的事实。换句话说，这个时候要做一种分布式的道德促进者，什么叫分布式的道德促进者？就是在别人超车的时候你要让他。

在智能联网汽车出现某些缺陷的时候，比如不会左转弯，你要能够理解他，并及时地协同。

智能机器怎样融入社会，基于人机协同的人工智能体的设计，我们要如何设计部署和对待，智能机器应该具备哪些道德，都是我们要进一步思考的。当然这个里面有很多，这个叫做协同责任，我们叫做算法黑箱，或者是闪电崩盘，高频的交易软件打破了完全由人操作的思维习惯或者权利义务。

这个里面就是我刚才讲的，机器需要理解人，人也需要理解机器，有些是有机器伦理、机器理解人的观点。目前来看，智能机器的主体在本质上不是人类主体，这个时候要克服一种想象，把机器想象成人。不要把机器想象成人，机器就是机器，不是人，我们的出路就是人要设法理解智能机器，以免失控。

在我们这个时代，我们所遇到的另外一个更大的挑战，就是我们和机器的关系会出现一种很奇特的关系，现在每一个人都是自我生活，面对各种各样的界面。

在每个人独立生活、自我生活的时代，人类可能会产生更多的对机器迷恋以及上瘾的症状，我觉得这才真正和我们每一个人的生活有关：在一个泛智能体社会，你怎么样去面对人工智能、面对智能机器等。