延展认知技术的五大伦理追问

宋春艳

延展认知技术的五大伦理追问

宋春艳

延展认知技术是指将认知活动从人脑或身体延展到外部的认知环境的一类技术，互联网是其中最为突出的代表。延展认知技术给人类自身和社会发展带来了便捷，也引发了诸多伦理争议。本文首先界定了延展认知技术并对相关概念进行了辨析，然后探讨了延展认知技术引发的五大伦理追问，最后对伦理问题的治理提出了建议。

延展认知；延展认知技术；伦理问题；

当前，信息技术的飞速发展，导致人们工作方式甚至大脑运作方式发生深刻改变。互联网成为外部认知环境与认知主体相互融合的最佳案例，也即延展人类心智的技术代表。从技术演变的历史来看，延展认知技术大致经历了语言、文字、纸张、印刷术、计算机、互联网的历史演变。目前，以大数据、云计算、普适计算和物联网等技术为核心的新一代信息技术成为延展认知技术的主要代表，未来纳米技术、生物技术、信息技术和认知科学的会聚发展，将由于技术对人类认知的超强延展性与大脑的深度融合，突破认知主体与外在媒介或是有机体与无机体的界限。延展认知技术对人类社会生活的快速渗透，不仅改变了传统的人机关系，而且还影响到人们的思维方式、生活方式、知识创造、经济生产甚至社会结构。这些可能产生革命性突破的技术在带来便捷的同时还潜藏着许多未知的风险，对此保持恒定的警觉并进行超前的伦理考量变得日益紧迫和重要。

一、延展认知技术的界定及相关概念辨析

1.延展认知技术的概念界定

目前，学界并未明确提出“延展认知技术”（extended-cognitive technology）这一概念，因此有必要首先对其进行界定。“延展认知技术”这一概念源自“延展认知”（extended cognition）或“延展心智”（extended mind）理论。“延展认知”以及“延展心智”由克拉克和查尔莫斯于1998年提出，其核心思想是“认知并不局限在颅骨之内”和“心智可以延展到身体之外”，强调了外在环境在驱动认知进程中的重要作用[1]（P12）。保罗在此基础上提出了“网络延展心智（web-extended mind）”，认为网络系统的有关技术组件和数据资源也可以成为人类认知系统的功能性基础[2]（P446）。还有学者更进一步地提出，主体认知不仅能够延展到外部环境中的工具上，如笔记本或者互联网，也能够延展到其他人的大脑和身体上，这种延展认知称之为“社会性延展认知”（socally extended cognition），社会性延展认知依赖高度的信任支持或有效的社会契约[3]（P48）。由此可见，延展认知理论伴随着技术和社会的发展而逐渐深化。

如果说认知技术是指一系列对人类认知过程生物机制的模拟和强化[4]（P2），那么延展认知技术则是指将认知活动从人脑或身体延展到外部的认知环境的那部分技术；并且，这部分技术已经成为使用者心智或认知的不可或缺的构件。如果将人类认知分为神经层级、心理层级、语言层级、思维层级和文化层级[5]（P34），那么延展认知技术则是指那些对语言层级、思维层级和文化层级（即高阶认知层级）进行模拟、强化或延展的技术。

虽然“延展认知”自一提出就备受推崇，然而也引起了学界的不少争议，其焦点集中在认知主体与外在认知环境的关系的性质上。一些学者认为，延展认知的错误在于把与身体接触和互动的物体所组成的耦合关系误认为是构成关系，因此错误推导出认知的外溢。延展认知并不是真正的认知过程；并且，颅内大脑的认知所涉及的脑结构与大脑其他部分有着紧密联系，这一点与孤立的外在媒介有着本质的不同。除此之外，福多还指出，如果外界事物统统因为对认知活动的参与而被赋予了认知者的角色，那么认知的延展终点将成为难题[6]（P107）。总的来看，经过学界十多年的讨论，人们已经不再纠结于延展心智是否存在，因为互联网及会聚技术的发展让人们真切地体验到了延展认知技术对心智的延展，这些技术成为人类身体之外的环境而影响着大脑的认知活动。人们开始对延展认知技术带来的哲学问题、伦理问题以及相应的解决途径展开了思考和讨论。

2.延展认知技术的其他相关概念辨析

虽然目前学界尚未对“延展认知技术”进行明确界定，但与之相关的概念有“认知增强技术”、“会聚技术”以及“云技术”、“大数据技术”、“普适计算技术”、“物联网技术”等新一代信息技术。下面将通过阐释这些相关概念的涵义、关联和区别，以期得到关于“延展认知技术”的精确内涵和外延。

(1)认知增强技术

认知增强技术是指利用现代生物医学技术增强认知力的那类技术。认知增强技术起源于对认知损伤的医学治疗，但目前已经发展到对健康个体认知能力的非医学目的干预。从其利用的手段来看，认知增强技术主要包括药物增强、植入器械、基因干预等三类[7]（P64）。与延展认知技术通过对认知环境延展而强化人类认知能力不同的是，认知增强技术强化的是人类身体，也即认知主体本身。

(2)会聚技术

会聚技术（NBIC）指的是纳米技术、生物技术、信息技术和认知科学四大领域的协调综合，其中每一个领域在当前都正处于突飞猛进的发展中。会聚技术提出的初衷就是为了提高人类能力，尤其是认知和交际能力。华莱士以这样的豪言描绘了 NBIC的宏伟目标：如果认知科学家能够想到它，纳米工程师就能够建造它，生物工程师就能够实现它，信息技术工程师就能够监视和控制它[8]（P20）。由此可见，会聚技术对人类认知的延展，不局限于通过生物技术提高认知主体自身的认知能力，而且还通过改善认知环境来提高人类综合认知水平。会聚技术的出现，打破了认知主体与认知环境的界限。

(3)信息技术

信息技术是当代延展认知技术的代表，一般认为包括传感技术、通信技术和计算机技术，分别是人的感觉器官的延伸与拓展、人的神经系统的延展与拓展、人的大脑功能的延伸与拓展。近年来由于大数据技术、云技术、普适计算技术与物联网技术等突飞猛进的进展而使得信息技术在延展人类认知方面取得了令人瞩目的成绩。大数据技术的独特之处是它能从获得的近似全面的信息中获得最接近真实的调查结果，加快了信息通讯速度，大大节约了人类认知成本。云计算技术是大数据技术的核心[9]（P3-74）。普适计算和云计算一样，都是实现服务的无处不在、不知不觉。普适计算技术以人的需求为中心，从根本上改变了人去适应机器计算的被动式思想[10]（P94）。物联网技术是指在互联网基础上，通过遥感、定位、射频等技术并利用终端设备实现智能监控、跟踪定位的技术的总称，强调物物之间的互联通信[11]（P81），增强了人类对认知环境的掌控。

以上研究表明：认知增强技术、会聚技术与信息技术与延展认知技术既有区别，也有关联。认知增强技术与延展认知技术不能混为一谈，虽然延展认知技术也能够增强认知，但二者增强认知的手段并不相同，前者借助于认知环境中的某个要素共同构成认知载体，主要指信息技术或信息技术与其他技术的会聚，后者一般通过直接针对人类大脑或身体的生物技术来增强认知；会聚技术与延展认知技术虽有交叉，但二者并不完全等同，会聚技术中通过信息技术与其他技术会聚来改善认知环境的那部分技术属于延展认知技术；信息技术属于延展认知技术，尤其体现在大数据技术和物联网技术方面。总的来看，信息技术和会聚技术表现出延展认知技术近似的功能属性和发展目标，前者是延展认知技术现今的典型代表，而后者乃是未来主要发展趋势。

二、延展认知技术的伦理追问

延展认知技术虽然自古就有，但是传统的这类技术并未对人类的生活带来如今天这般巨大的影响和伦理风险。伴随着会聚技术的发展，未来延展认知技术呈现出无限发展的可能，这引发了人们的伦理担忧。

1.延展认知技术是否威胁人类安全

当延展认知技术从外在认知环境因素“悄悄”变成心智构成因素时，我们面临的第一个伦理追问就是，它是否会威胁到人类自身的安全，因为它离我们的心智是如此之近。其中，最直接的威胁莫过于隐私安全的威胁。在当今大数据时代，各个系统之间的数据可以彼此印证、互相解释，通过数据整合与信息加总，几乎可以完整再现一个人生活的全部轨迹，个人隐私已经无所遁形[12]（P73）；最严重的威胁莫过于生命安全的威胁。自主机器人杀手（LARs）的问世除了使人远离战火现场之外，还可以自主决定是否杀害目标。这让学者和公众都为全自动机器人能够行使对人类的生杀大权感到极度恐慌[13]（P6）；最深远的威胁莫过于种属安全的威胁。智能机器人设计的初衷本来是帮助人类完成计算、记忆等认知活动，但是当阿尔法狗战胜李世石之后，很多人担心未来智能机器人将超越人类；加之科幻电影中机器人频频以反面角色出现，公众甚至担心未来智能机器人一旦拥有自我意识后可能会屠杀人类。

我觉得人物塑造有一些毛病，像陆浩然在停工之后有两场戏感觉统统不对，厅长已经出面了工厂停工了，所以上任完以后自己已经被钉在墙上了，又到江潮涌家里夜访那场戏，还有跟老太太那场戏，都需要改进。

2.延展认知技术是否对人的认知能力产生负面影响

当诸如互联网这样的延展认知技术成为大多数现代人生活不可缺少的认知构件时，人们就会习惯性地依赖它、信任它，甚至盲从它。以往遇到“不知道”的问题时，我们一般会仔细观察和认真思考，有时会根据以往自我经验或者诉诸权威，但在当前，网民毫不思索地选择上百度检索。这一方面似乎降低了沟通成本，但与此同时也慢慢影响到浸润其中的人类的表达能力、记忆能力甚至沟通能力。因此，延展认知技术对人类认知能力是否产生负面影响就需要追问了。费尔贝克等认为，技术一旦处于使用中，必然会影响它们的使用者[14]（P39）。麦克卢汉指出，当我们观看、使用或感知任何技术形式的延伸时，必然要经历接踵而至的自我感知“关闭”[15]（P62）。芒福德以时钟为例，论述了技术对人和自然的隔离，认为时钟在帮助人们测量世界的同时，也导致了时间跟人们具体活动的事件割裂开来的后果[16]（P16）。卡尔认为，当我们把互联网作为自己的万能传媒，全身心投入其中的时候，在我们作出的所有牺牲当中，最大的牺牲可能就是专注能力的丧失；而专注能力的丧失将会影响到人体神经细胞的生长和长期记忆的形成[17]（P206-208）。

3.延展认知技术的过失由谁负责

当我们使用延展认知技术来改变认知环境，从而使得认知环境成为使用者不可缺少的认知构件时，我们无法回避的一个问题就是，一旦认知行为的结果出现差错，那么责任应该由谁承担呢？对于机器或者计算机参与人类认知活动是否需要承担道德责任，主要有两类看法，一类认为应该由人类承担责任。维纳早在上个世纪中叶就指出，除非人类愿意承担机器选择导致的全部责任，否则不能将作善恶选择的责任转移给制造出来的机器人；如果人类将责任抛给了机器，就相当于把责任抛给了风，结果发现责任在旋风中正在返回[18]（P13）。而在当今依靠信息通信技术进行知识获得和传播活动中，有学者认为，这种集体行动的责任主体应该归因于相关的人类实践者、系统设计者、软件工程师[19]（P200）。而另一些学者却认为计算机系统具有道德代理关系。由于当前计算机系统已经部分取代了那些本该具有道德约束的人类服务人员，计算机系统从一种工具变成了代理人，那么计算机系统具有某种道德代理则是顺理成章的事，因此设计一个在道德上评价计算机系统的框架变得紧迫而且必要[20]（P222-223）。但确切地说，是否计算机系统也能承担道德责任的问题仍处于开放状态。

4.延展认知技术是否会让人类丧失自我

延展认知技术在协助人类完成认知活动发挥了不可替代的作用，尤其是某些特殊群体的工作已经无法离开这种技术。目前席卷全球的互联网借助于智能手机这一便携通讯平台更是以强大的功能展现了独特的魅力，但是人类也因此对技术产生了过度依赖，现代社会中的很多年轻人离开网络或者智能手机往往感到无法正常生活。按照海德格尔的观点，现代技术成为座架控制着人类的思维模式和行为模式，人类也变成了有用性的持存物，丧失了其主体性。正因为如此，很多伦理学者担心延展认知技术会让人类丧失自我。延展认知主体在其认知过程中将可能由于依赖的技术环境越来越复杂而导致主体个体的独特性削弱，这将冲击传统的人以及人类理性的概念[21]（P56）。电子化生活通过改变我们与世界交流的方式来影响本体。如果IT影响了他人看待我的方式，特别是凭借这些方式，它改变了社会交流的各种形式，那么他将影响我看待自己的方式，我们关于自我的概念因此必将改变[22]（P117-118）。

5.延展认知技术是否会增强人类幸福

正因为当前以互联网为代表的延展认知技术所展现出来的伦理问题以及未来的以会聚技术为代表的延展认知技术可能导致的潜在的伦理问题，我们更应谨慎推进会聚技术的发展，必要时设定暂时的技术禁区，确保技术的发展服务于人类的福祉[28]（P106）。

三、延展认知技术的伦理治理尚需时日

针对延展认知技术可能引发的伦理问题，学界一致认为应该建立法律与伦理机制去调控技术发展。陈万求等根据技术产生过程的阶段性特征，提出了“决策阶段：伦理评估—研发阶段：伦理自律—应用阶段：道德立法—推广阶段：伦理矫正”的动态规约机制[29]（P77）。邱仁宗教授等提出大数据技术的顺利推广应用要求制订评价在大数据方面所采取行动的伦理框架，为制订行为准则、管理和立法建立伦理学基础[30]（P36）。丁大尉等提出应对新兴技术发展的潜在风险的四大措施：发挥政府引领作用、提高科学共同体参与、加强新兴技术安全性评估、积极参与全球研发与风险治理[31]（P62）。王国豫等提出了基于行动的可行性伦理原则的框架，强调伦理学与科学结伴而行，共同应对技术的不确定性[32]（P69-70）。

但是，由于人类认知系统的局限，对发展中技术的道德认知绝不会完整；因此恒定的警觉是唯一明智的做法[27]（P118）。Macedo（2008）进一步指出，解决已经出现或即将出现的伦理或社会问题单单靠决策者或科学家或伦理学家都有局限，需要多元部门、多元学科共同参与，由此提出“伦理治理”（ethical governance）这一概念[30]（P4）。而伦理治理和社会治理的结合成为未来互联网伦理构想的一个重要方向，如遵循社会公众的期望来构想未来互联网伦理[33]（P1），通过社会公众来影响互联网而不是约束互联网的发展[34]（P27）。

总的看来，国内外关于延展认知技术伦理问题治理措施基本都还处于理论构想层面，实践经验较少，尤其存在伦理规约机制与其他社会治理措施脱节的问题。这意味着新兴技术的伦理治理从理论到实践还有很长一段路要走。

[1]Clark & Chalmers.The Extended Mind[J].Analysis,1998（58）：7-19.

[2]Smart，PaulR.TheWeb-ExtendedMind[J].Metaphilosophy，2012,43（4）：446-463.

[3]Merritt ，Michele.Instituting impairment：Extendedcognitionand the construction ofFe-male Sexual Dysfunction[J].Cognitive Systems Research，2013，（25-26）.47-53.

[4]卢文静.当代认知技术的哲学分析[D].东南大学硕士学位论文，2013.

[5]蔡曙山.人类认知的五个层级和高阶认知[J].科学中国人，2016（2）.

[6]范伟伟、王光荣.延展认知论及其争议[J].心理学探新，2015（2）.

[7]冯烨.认知增强机器伦理社会问题探析[J].自然辩证法研究，2013（3）.

[8]罗科，班布里奇编.聚合四大科技提高人类能力：纳米技术、生物技术、信息技术和认知科学[M].蔡曙山、王志栋、周允程等译.北京：清华大学出版社，2010.

[9]刘智慧，张泉灵.大数据技术研究综述[J].浙江大学学报（工学版），2014（6）.

[10]Weiser，Mark.（1991）.The Computer for the 21st Century[J].Scientific American.265（3）.

[11]江媛.物联网技术发展与应用[J].电子测试，2016（5）.

[12]李军林.大数据时代公民隐私安全保障机制建构[J].当代传播，2016（3）.

[13]海恩斯报告——关于致命自主机器人系统的联合 国 调 查 员 报 告 .2013-04-09.http：//www.docin.com/p-1010915039.html.

[14]Verbeek，Peter-Paul&Slob，Adriaan.User Behavior and Technology Development：Shaping SustainableRelationsbetweenConsumersandTechnologies[M].Netherlands：Spinger，2006.pp.386.转引自：陈凡、陈多闻.文明进步中的技术使用问题[J].中国社会科学，2012（2）.

[15]麦克卢汉.理解媒介：论人的延伸[M].何道宽译.南京：译林出版社，2011.

[16]芒福德.技术与文明[M].陈允明、王克仁、李华山等译.北京：中国建筑工业出版社，2009.

[17]卡尔.浅薄：互联网如何毒化了我们的大脑[M].刘纯毅译.北京：中信出版社，2010.

[18]拜纳姆.诺波特.维纳和信息伦理学的兴起//霍文、维克特主编.信息技术与道德哲学[M].赵迎欢、宋吉鑫、张勤等译.北京：科学出版社，2014.

[19]米勒.集体责任、信息和通信技术//霍文、维克特主编.信息技术与道德哲学[M].赵迎欢，宋吉鑫，张勤等译.北京：科学出版社.2014.

[20]约翰逊，波瓦斯.计算机作为代理者//霍文、维克特主编.信息技术与道德哲学[M].赵迎欢，宋吉鑫，张勤等译.北京：科学出版社，2014.

[21]刘晓力.延展认知与延展心灵论辨析[J].中国社会科学，2010（1）.

[22]史蒂夫.马修斯.本体与信息技术//霍文、维克特主编.信息技术与道德哲学[M].赵迎欢、宋吉鑫、张勤等译.北京：科学出版社，2014.

[23]哈拉维.类人猿、赛博格和女人[M].陈静等译.郑州：河南出版社，2012.

[24]Kass，Leon R.et al.Beyond Therapy：Bio-technology and the Pursuit of Happiness.A Report by the President’s Council on Bioethics，2003.

[25]克莱曼.科学技术在社会中[M].张敦敏译.北京：商务印书馆，2009.

[26]Gorman，E.M.，Groves，J.F.& Catalano，R.K.Societal Dimensions of Nannotechnology[J].IEEE Technology and Society Magazine，2004，23（4）.

[27]Moor.Why We Need Better Ethics for E-mergingTechnologies[J].Ethics andInformation Technology，2005，7（3）.

[28]胡明艳、曹南燕.人类进化的新阶段[J].自然辩证法研究，2009（6）.

[29]陈万求、贺冰心.会聚技术的发展机器伦理规约机制[J].伦理学研究，2013（4）.

[30]邱仁宗、黄雯、翟晓梅.大数据技术的伦理问题[J].科学与社会，2014（1）.

[31]丁大尉、李正风、胡明艳.新兴技术发展的潜在风险及技术治理问题研究[J].中国软科学，2013（6）.

[32]王国豫、龚超.伦理学与科学同行[J].哲学动态，2015（10）.

[33]Shilton，Katie.Anticipatory Ethics for a Future Internet：Analyzing Values During the Design of an Internet Infrastructure[J].Science& Engineering Ethics，2015（21）：1-18.

[34]Sharma，S.，Lomash，H.，& Bawa.S.Who Regulates Ethics in the Virtual World?[J].Science& Engineering Ethics，2015（21）.

宋春艳，湖南省社会科学院助理研究员，湖南师范大学哲学科研流动站博士后，博士。

国家社会科学基金重大项目“高科技伦理问题研究”（12&ZD117）；中国博士后科学基金资助项目“延展认知技术的伦理问题研究”（2016M592432）；湖南省社会科学院青年科研基金项目“延展认知技术的伦理问题及治理”（2015QNKT03）