物转向视阈下机器人伦理学的发展——兼评图灵分流测试及勃克斯论题

赵玉群，陈晓英（渤海大学政治与历史学院，辽宁锦州121000）



物转向视阈下机器人伦理学的发展
——兼评图灵分流测试及勃克斯论题

赵玉群，陈晓英
（渤海大学政治与历史学院，辽宁锦州121000）

【摘 要】进入21世纪以来，计算机和信息技术得到快速发展，机器人自治性、自主性不断增强，机器人应用与人类的关系越来越密切，先前人们的观念认为机器人只是作为一种人造物或者一种工具来辅助人们工作、生活、学习等，但是在不久的将来机器人便会融入人们的生活，成为人们生活的一部分，机器人的广泛使用会产生一些伦理问题。追根溯源，从机器人伦理学定义、物转向与物伦理这两个方面进行主要论证，图灵分流测试以及“人=机器人”勃克斯论题进行辅助论证，对机器人伦理学进行一个总的概述。

【关键词】机器人伦理学；物伦理；图灵分流测试；勃克斯论题

机器人发展有其独特的历史［1］1。1950年，美国科幻小说家阿西莫夫在他的小说《我是机器人》中提出了机器人必须遵循的“三准则”：首先，机器人不得伤害人类或坐视人类受到伤害；其次，机器人必须服从人类命令，与第一准则相违背的情况除外；第三，机器人必须保护自己不受伤害，与第一、二准则相违背的情况除外。这些准则也成为机器人发展中所遵循的道德底线。目前，随着科技的不断进步，人们正在经历“第三次工业革命”，这次革命不仅是一场信息化、网络化的革命，而且是一场多元化、多领域的革命，而机器人的发展也正处于多元化领域内的一角。机器人在各个领域应用的同时，不免会出现诸多的问题，尤其是在机器人伦理方面，这就需要寻求某种方式来正确处理机器人的伦理问题，以规范机器人的发展。

机器人伦理学也可称为新的应用伦理学。2004年举办了第一届机器人伦理学研讨会，并对机器人伦理学进行公开讨论［2］1200。一些机器人专家针对机器人伦理学给出了在哲学、技术、社会等层面的分析：第一，我们能在多大程度上赋予机器人伦理？第二，机器人应具有何种伦理？第三，机器人一方面要体现伦理，而另一方面又要实现自治，这本身不矛盾吗？第四，是否应该讨论机器人的意识、情感和个性？以上专家的观点可以说是一种宏观的分析，要想进一步具象化，还需对机器人伦理学进行深层次分析。

一、何为机器人伦理学

所谓机器人伦理学是一门关于科学和伦理（科学研究、科技研究、科学技术、公共法规、职业道德等）的研究工作的伦理学，它是由这些研究工作衍生出来的，事实上，机器人伦理学不是无根之木，它的基本原则是由普遍采用的应用伦理学衍生出来的［2］1200。机器人伦理学在一定程度上也属于计算机应用伦理学和生命伦理学。

2002年，机器人专家Gianmarco Veruggio在机器文化与教育活动的框架内，提出建立一种能够引导机器人学研究人员工作的伦理学需要，他称这种新的应用伦理学为机器人伦理学，他认为，机器人伦理学是一门应用伦理学，其目标是发展可被不同的社会团体和信仰共享的科学、技术、文化的工具，这些工具能够促进和鼓励机器人学的发展，是机器有利于人类社会和个人，并且防止及机器人的误用对人类造成伤害。

机器人伦理学是一个交叉性、应用型的学术理论，涉及多方面的知识，其所探讨的并不是机器人本身所带来的一些伦理问题，相反的是探讨其使用者、制造商、设计者等所带来的伦理问题。

二、物转向和物伦理

物伦理学是物转向在伦理学领域内的一个映射。物转向去除的是人本主义的倾向，转而去研究物的德行与伦理，物伦理学是哲学研究的一个重要领域，不仅是研究物本体的存在，更研究的是物伦理的存在。与经典道德责任相比，“物伦理学”是一种实用道德责任。机器人在快速发展的同时，与人类的关系愈来愈密切，那么就需要界定其伦理底线，是人还是物，是理性还是感性，是有意识还是无意识，是有道德还是无道德，这些都是需要去探讨的伦理问题。

1900年，胡塞尔提出了“回到事物自身”这一口号；20世纪30年代、50年代，海德格尔对“物”曾进行过多次讨论［3］158；60年代，罗兰·巴特、鲍德里亚等人关注着“物意义”的阐释；90年代唐·伊德提出了“后现象学”这一口号；到了21世纪维贝克提出的“物伦理学”更进一步推进了这一研究。

在柏拉图所提出的“三张床”理论中，木匠的床即是人工物。柏拉图以床为例，提出床的三个含义：一是理念的床，具有本质意义；一个是木匠造的具体、特殊的床，是本质意义上的床的影像；还有一个是画家画的床，它是床的影像的模仿。亚里士多德从物存在的角度给出了人工物与自然物的区别：凡存在的事物有的是由于自然而存在，有的是由于别的原因而存在。机器人只能看做是人工之物，也可以称作是人造物，这种人造物也可以被看做是存在之存在。既然存在物有其存在的意义，那么从价值论角度讲也就有研究价值，这种价值在物伦理学的建构上才能得以体现，不能仅仅把机器人看做是一种人造物，更应该在价值论的角度去赋予一定的物伦理意义。

三、图灵分流测试引发的道德探讨

图灵分流测试最早是由计算机科学的创立人阿兰·图灵创立的一个竞赛，目的是为了测试机器是否能思考，能否创造出一台高精尖、具有独立思维能力的计算机等问题。图灵为了检测这些问题，设计了一项实验，评委通过计算机终端，向两名测试者提出问题，一位测试者是人，而另外一位测试者是程序，评审并不是直接面对面地与两位测试者坐在一起，而是间接地向测试者提出一系列问题，问题涉及日常生活、物理、天文、生物、医学、八卦、闲聊以及哲学、历史、政治、明星等各个方面，从而判定哪个是程序，哪个是人。如果程序通过了图灵测试，那么这个程序就可以看做是智能的、能思维的。但是，目前还没有完美的程序能够通过图灵的测试，最接近的是2008年在英格兰雷丁举办的一次测试，机器与人只相差一票。可见，机器通过图灵测试的能力不断地增强，其中的伦理问题也不断地凸显。

关于图灵测试的案例也有很多，由麻省理工学院约瑟夫·魏泽鲍姆在1964年到1965年编写的聊天程序“伊莉莎”，对话如下：

用户：男人都差不多。

伊莉莎：怎么说？

用户：他们总缠着我们要这要那。

伊莉莎：你能举个具体的例子吗？

用户：唉，是我男朋友要我来这的。

伊莉莎：你男朋友要你来这。

用户：他说我总是经常沮丧。

伊莉莎：听说你沮丧，我很难过。

用户：这是真的，我很不开心。

伊莉莎：你觉得来这能帮你变得不再那么不开心吗？

用户：我需要帮助，毫无疑问。

伊莉莎：如果你得到帮助，对你意味着什么呢？

用户：或许我能学会如何跟妈妈相处。

伊莉莎：跟我讲讲你的家人吧［4］36。

可以看出以上对话很难分辨出哪个是机器，哪个是人，学者们认为这一测试从整体上解决了计算机理解自然语言的问题。试想，如果机器人通过了图灵测试，是否可以把它当做人看，是否具有道德，是否具有与人等同的伦理。

关于机器人道德的图灵测试是机器人从人工物向人工道德行为本体转化的重要过程。通过这个测试可以检测机器人是否具有人类的道德水平。如果通过这个测试，那么机器人就可以被看做具有相应的道德责任和权利，也就相应地受一些法律框架的约束；相反，如果机器人没能通过图灵测试，那就说明它与人相比，仅仅还是个物，仅仅是人们从事各项活动的辅助工具。正是通过这一测试，我们才可以判定机器人是否具有人类的特征，以及确认具有人类特征的方法。

针对图灵测试引起的道德探讨，我们可以假想几个案例来进行探讨。在未来某一天，专门成立一个“图灵测试部门”，该部分主要功能就是对机器人进行智能检测，如果通过就贴上AMAs（人工道德行为体）的标签，表明具有人类特征可以享用人类特有的权利和义务；那些没有通过的，则被贴上AM （Artificial material，人造物）的标签。情景设定在马路上，一位年长者在过斑马线的时候被一辆汽车剐蹭倒地，而这辆汽车驾驶员则是机器人，副驾驶则坐着的是人类。前提是这位老人并没有违反交通规则，那么法律责任应该由哪一方来承担？是驾驶员机器人？还是坐在副驾驶的人类？这就需要图灵测试发挥其作用，如果机器人为AM，各项指标均达不到图灵测试的要求，那么该机器人只看做是由人来操控的人造物，不需要承担法律责任，而人类则需要代替机器人承担相应的法律责任；相反，如果该机器人为AMAs，通过图灵测试的机器人，具有人类特征以及相应的权利和义务，那么机器人承担相应的法律责任，人类则不需要。

另外一个是关于老人晕倒的案例。未来的某天，老人带着自己的机器人在路上行走，身体不适突发晕倒，这时候有位行人便去把老人扶起来，机器人也作出相应的救助措施，当老人醒来后，知道有三个条件：其一是附近没有其他目击者，只有这一位行人；其二，自己的机器人并没有监拍功能；其三，事发点为监控盲区。老人依据三个条件转而污蔑这位行人撞到，并告上法庭要求赔偿其损失。那么这时候就有可能需要对该机器人进行图灵测试，如果为AM，那么这位行人败诉的可能性就比较大，因为该机器人为这位老人所有，并不能作为证人，即使能作证，也可能会提供伪造的佐证材料；如果判定为AMAs，那么该机器人可以作为证人站在法庭上，并依据自己的道德情感，说出实情，为行人洗刷冤屈。这里有一些分歧，因为图灵测试并不能分辨该机器人具有善的情感还是恶的情感，所以还有另外一种情况，那就是该机器人作证说出同老人一样的情况，最终导致行人败诉。

以上两个案例虽然只是假想的案例，但是却可以说明图灵测试对于机器人发展的重要性。该测试缺陷在于不能判定机器人所具有的情感是善还是恶，是否与人的情感或者伦理观念等同。“尽管新技术在广泛社会应用之前，我们无法预测其对社会的影响，但是，我们相信计算机或者机器人应该能够做出正确的、善的道德决策”［5］30，成功通过道德的“图灵测试”。因此，“每个人对计算机所作出的道德决策都肩负着义不容辞的责任，这样的道德主体包括赛博空间内的机器人和虚拟‘机器人’”［5］39。当然，这只是我们相信机器人朝着善的方向发展，还需要进行另外一个层次的探讨，也就是“人=机器人”论题的探讨。

四、“人=机器人”的勃克斯论题探讨

“人=机器人”论题的诞生，首选要追溯到笛卡尔的心物二元论，也就是物质实体和精神实体的出现。他在大量生理解剖实验的基础上，提出了动物是机器的论断。这一论断是“人=机器人”的雏形。其后拉·梅特里认为宇宙间仅存在一种物质实体，进一步把“动物是机器”的论题向前推进，提出了“人是机器”的论点。随着自然科学的发展，发现非生物与生物处于两种不同的运动轨道，也属于不同质的运动，“人是机器”的机械论的观点被否定了［6］4-5。20世纪40年代，科学技术的发展进入了一个新的历史时期，从信息转换与反馈控制的角度，重新把人和机器进行类比，把有机体看作自动机，20世纪末，逻辑机器哲学的创始人勃克斯曾提出了“人=机器人”论题。他所谓的“人=机器人”论题是：一个有穷自动机可以实现人的一切自然功能。亦即，一个机器人可以实现人的一切自然功能。逻辑机器哲学是在当今信息化、网络化快速发展的基础上提出来的，是一种哲学发展的新思维，是对朴素唯物论、目的论、机械论、柏拉图主义等的扬弃和发展，而“人=机器人”的论题是逻辑机器哲学的核心。

其实这个论题从生物学、物理学等方面来讲，是不成立的。机器就是机器，人就是人，二者有着本质的区别，就像有机物和无机物的区别一样完全是不能等同的。但是从哲学的层次进行分析，可以把“人=机器人”论题看做是逻各斯，是万事万物的逻各斯，同宗同源，只要达到一定的奇点，还是有可能成立的。这里的奇点是区分其为人造物或人工智能行为体的一个临界点。奇点之左，机器人被看做是一种人工物或者人造物，“人=机器人”论题是不成立的；奇点之右，机器人被看做是一种人工道德行为体，但是并不等同于把机器人就可以看作是人，只能说是为证明勃克斯论题的成立提供了依据。目前来看，达到这个奇点，还有很长的路要走。

当探讨机器人是否可以像人一样具有情感的问题时，勃克斯认为机器人可以具有情感，他认为每个人都是在行为上与之等效的有穷自动机，人的行为是与身体各个构造器官的表达形式相符的，因此，这种有穷自动机也可以用作构造扫描的程序。他设想了一个“自动机情人”，这个自动机具有输入和输出装置，并把一些人造的耳朵、鼻子、眼睛等人类器官装入机器人体内，并且各个功能也能够完全行使，勃克斯认为人的这些输入输出装置能够在计算机身上实现，当接通这个“自动机情人”的输入-输出装置，其行为就会表现的像个情人，能够满足计算机的要求，构造自动机情人是可能的，那么机器人也可以像人类一样具有情感。

在2016年围棋人机大战中，韩国棋手李世石不敌AlphaGo（阿尔法围棋）以1：4落败，这个例子充分体现了人工智能的优越性，也进一步说明实现“人=机器人”也不是完全没有可能，以及发展机器人伦理学的必要性。在比赛之前曾有人预测目前的人工智能还不能与围棋冠军匹敌，但事实证明阿尔法程序趋于完美，它是在模拟大脑神经网络系统的基础上构建的一种名为deepmind的程序，它是在日积月累的游戏过程中不断地犯错误并且不断地学习、改善、提升自己的程序。目前，AlphaGo所达到的围棋水平并不是与生俱来的，而是在不断游戏中不断演化。AlphaGo在与李世石比赛的过程也是一个学习的过程，类似于人脑在思考，但不等同于人脑，也就是目前来讲还属于一种程序，也就是人造物。在第四局比赛中，人工智能输掉整场比赛的唯一一局，那么它是某种程序上的错误导致的，还是故意输掉这一局的？这是值得研究的。如果说是因为程序的错误导致的，那么其本身还处于“奇点”之左，也就是人工物的范畴里；如果说阿尔法故意输掉这一盘，目的是为了不显现人工智能的优势或者为了给对手留个台阶下，那么该程序已经不能仅仅称为是人造物了。从目前来看，围棋中的人机大战把“人=机器人”的勃克斯论题向前推进了一步。

2014年，习近平在两院院士大会上指出，机器人有望成为“第三次工业革命”的切入点，中国将迎来机器人发展的黄金时代。未来几十年，机器人应用的领域会越来越广泛，人们对于机器人伦理学的研究也会越来越迫切，机器人伦理学的进一步发展更加有利于机器人与人的和谐共生。

【参考文献】

［1］张奇志，周亚丽.机器人学简明教程［M］.西安：西安电子科技大学出版社，2013.

［2］Bruno Siciliano，Oussama Khatib.机器人手册［M］.《机器人手册》翻译委员会，译.北京：机械工业出版社，2013.

［3］杨庆峰，闫宏秀.多领域中的物转向及其本质［J］.哲学分析，2011（1）.

［4］李婷.人与机器共同进化［M］.北京：电子工业出版社，2014.

［5］Wendell Wallach，Colin Allen.Moral machines：Teaching Robots Right from Wrong［M］.Oxford University Press，2010.

［6］杜建华.“人=机器人”论题辨析［D］.天津：南开大学，2005.

（责任编辑 王先霞）

Development of Robot Ethics under the Visual Threshold of Matter Diversion——Comment on Turing Shunt Tests and Burks Topic

ZHAO Yuqun，CHEN Xiaoying
（School of Politics and History，Bohai University，Jinzhou 121000，China）

Abstract：Since the 21st century，computer and information technology have developed very quickly，the robot autonomy and independence have been enhanced，and robot applications is more and more related to humans.Before，people thought that the robot was just a kind of creation or a tool to help people work，live and study，etc.，but in the near future robots will be integrated into the life of people and become part of people's life，during which some ethical issues may occur.Traced back，from the definition of ethics，matter diversion and matter ethics are the main arguments.Turing shunt test and the"human=robot"of Burks topic are as auxiliary demonstration，providing ageneral overview of robot ethics.

Key words：robot ethics；matter ethics；Turing shunt tests；Burks topic

【中图分类号】B82-057

【文献标识码】A

【文章编号】1009-4326（2016）02-0035-04

DOI：10.13600/j.cnki.jpsslof.issn.1009-4326.2016.02.010

【收稿日期】2016-03-09

【作者简介】赵玉群（1988-），男，河南濮阳人，渤海大学政治与历史学院2014级科学技术哲学专业硕士研究生。研究方向：科学技术与社会。