善抑或恶：人工智能的根本伦理问题

唐代兴

〔中图分类号〕TP18 〔文献标识码〕A 〔文章编号〕0447-662X（2022）06-0076-12

人工智能技术的研发与运用，引发出许多伦理问题和伦理忧虑，对其伦理问题及忧虑予以伦理考察，就形成“人工智能伦理学”（Ethics of Artificial Intelligence），包括人工智能“机器伦理学”（Machine Ethics）和“机器人伦理学”（Robot-Ethics）。前者侧重探究人工智能产品的功能释放如何合伦理，其基本任务是探讨制定机器的行为规范和边界约束;后者侧重于研究人工智能技术的研发如何合伦理，其基本任务是研究制定人类研发主体的行为规范和边界约束。由于研发人工智能技术与研发人工智能机之间客观地存在因果关系，机器人伦理学必然构成机器伦理学的指导之学，所以人们在研究人工智能伦理学时，越来越将重心转向人工智能研发的伦理思考，由此形成国内的人工智能设计伦理研究①和人工智能道德算法研究，①这两个维度的探讨拓展了人工智能伦理的研究领域，推动了人工智能道德哲学②的产生和人工智能社会伦理研究的铺开。③ 人工智能技术研发与不断更新的产品的社会化运用所引发的伦理问题，本质上既不是技术研发的问题，也不是产品的问题，而是人的问题，这意味着人工智能的伦理研究还得回到伦理的原点上来。

人类伦理的原点既不是物也不是社会，而是人。人工智能引发的现实的或潜在的伦理问题都是人的问题，具体地讲是人的存在及敞开与他者构成的关联取向及边界问题，生成这些问题以及求解这些问题的原发机制，却是天赋人的本性的内凝和外播。以此观之，将人工智能伦理定义为机器伦理和机器人伦理，实是前设了人的非在场视角。当人处于非在场状态，对人工智能伦理问题的审视和思考，往往漂浮于半空之中缺少落地的实在而呈舍本逐末取向。所以，讨论人工智能的伦理问题，必须有人的在场，从“人”出发审查人工智能技术及产品运用引发出来的所有伦理问题，才能真正找到问题产生的根源而予以对症的伦理诊断，以求真正的救治之方。

在原发存在状态，人是一普通的地球生物，它与众物一样顺应生物本性而适应自然的生变。在继发存在进程中，人从物演变成为人的基本形态学方式是“两脚走路，两手做事”。④ 手与脚在功能上的分责实是将人予以了两分：“双脚走路，是自然地存在;双手做事，是人力的存在。从双脚行走到双手做事，生成起一个逻辑，开创出一种结构，更建构一种秩序：这个逻辑，是人从自然物到人的逻辑，展开为从脚到手的进化;这种结构，是人从自然物到人的时间进程，或者说历史结构，展开为从脚的本能运动到手意识地安排事务;这种秩序，是人从自然物到人的存在秩序，展开为本原性自然存在的世界与人质性质的存在世界的生成性联结，使自然存在的世界和人质存在的世界最终沦为技术化存在的世界。”①这是因为手与脚的功能分责，既推动大脑快速发育，也激活人的想望性存在，这种想望性存在就是按照人自己的方式和欲求存在。基于这种“按照自己的方式和欲求存在”的想望不斷放大，人被两个根本问题牢牢地套住并为此展开永不能停息的努力，这就是从不间断地解决存在安全和生活保障的问题，由是只能无限地延长自己的手臂即功能，即发展技术：技术是人的手臂的无限延长方式。技术的功能呈现是开辟存在安全和生活保障的道路，但在本质层面，却是人将自己从物的世界中剥离出来而走向人。所以，“技术是从自然转化到人的目的的媒介。其特点是，将生物学上有缺陷的人保持在‘自然’之中。”②地球上的所有生物都存在生物学的缺陷。这种缺陷由两个方面规定：一是由生命规定，即地球上所有的生物都是生命的存在物，而生命存在物既是向死而生的存在物，也是需要资源滋养才可存活的存在物。由此两个方面的生命制约因素，构成了地球生物的根本生物学缺陷。二是地球生物是物种化的生命存在物，生物的物种化存在既赋予生命存在物自身特质与个性，也规定了生命存在物的限度与边界。生物的生命化和物种化从两个方面规定了生物的生物学缺陷，这既是一种普遍的存在论缺陷，也是一种存在敞开生存的正常的生存论缺陷。唯有当人这一物种的进化（遗传变异）遭遇一些至今都不可知的偶然因素的激活从“自然转化到人”时，才将其原本正常的缺陷突显出来成为非正常的即需要去改变或缩小的一种“缺陷”，所以“人的生物学缺陷……（引发）技术的无条件性将会自行出现。人无外乎就是一个技术的动物，倘若"抛弃技术，他失去的将不仅是对自身负担的消除，而且是自身存在的基础。”③

从根本上讲，“技术是从自然转化到人的目的的媒介”这一表述道出了技术的人本性质：技术是一道门槛，跨进这道门槛，人这个动物就朝人的方向转化，不再是纯粹的物，而成为人，成为“既是物在形式”又是“人在形式”的人。④ 这是因为“从生物学上说，我们属于人这个物种，此物种通过进化而成，并且只是细微地同高等动物有所区别。从精神科学和文化科学的观点上说，人具有意识和理智，发明了文字并建立了诸如法治国家这样的社会组织机构。因此，人和技术可以用两种互补的方式进行考察——依附于自然的束缚和摆脱了自然的束缚。人具有符号方面的能力，如语言、技术和宗教。自古以来，宗教的目的就是为了革除这样一个认识，即我们完全听命于大自然的摆布而且终不免一死;技术的作用则是利用自然的过程，达到进一步对自然进行掌控的目的。人类的技术就是有计划地进行改造后的自然，人就是有计划地重塑自己的自然环境和自身自然本性的一种动物。”⑤

从发生学讲，技术构成人由物到人的标志。从生存论讲，技术构成人的自我重塑的方式，即通过“利用自然”来“重塑自己的自然环境和自身的自然本性”，这是技术诞生的动机，也是技术发展的目的，这一动机和目的最为实在地落实在对两个根本“存在缺陷”的努力解决上：第一个存在缺陷是存在的无安全性，它源于两个方面：一是来源于生物世界生物的威胁，二是来源于自然世界的生变运动;第二个存在缺陷是生活的无保障性，具体表征为生存资源的无现成性、匮乏性和谋求必付出高成本的代价。技术就是解决人的存在安全和生活保障的根本社会方式，也是在更新的生存处境中不断地解决其存在安全和生活保障的基本工具，因为技术武装了人的“生存能力”，“将自然改变为服务于自己的生活之物”。在物理层面，技术“改变自然”的实际成果是“重塑了自己的自然环境”，即不断地解决存在安全和生活保障——因为人“按照自己的方式和欲求存在”的想望无限度无止境，激发人解决存在安全和生活保障的水准也敞开为无限变化的进程，从而导致存在安全和生活保障问题成为“人成为人”的永恒生存问题。在精神层面，技术“改变自然”的实际成果是“重塑了自身的自然本性”，即它的“总概念叫作文明，文明世界就是人的世界。”

由于技术的动机和目的是通过“利用自然”亦即改造自然来“重塑自己的自然环境和自身的自然本性”，所以它始终是合伦理的。人类从动物进化为人类，经历旧石器技术、新石器技术再向农牧社会的手工制作技术以及工业社会的机械生产技术演进，技术伦理尚未产生，其根本原因是通过利用自然来“重塑自己的自然环境和自身的自然本性”的技术，始终绝对忠诚地服务于人而体现完全的合伦理性。技术的发展从合伦理性向伦理问题滋生的方向展开，既是创造技术的人出了问题，也由此推动技术本身出了问题，只有当技术与人相向敞开为问题时，技术合伦理性的历史格局才被打破而不得不将技术伦理问题突显出来予以生活的和理论的双重关注。

从技术角度观，技术引发出伦理问题，可能源于两种情况。一种情况是技术通过“利用自然”来服务于人，逾越了人与生物或人与自然的边界;一种情况是技术的研发和运用扩大了“利用自然”来服务于人的动机，抑或是技术的研发和运用改变了“利用自然”来服务于人的动机。前一种情况的具体表征是技术“改变自然”突破了人与生物、人与自然之间共生存在的边界，逾越了技术“利用自然”来服务于人的合伦理的限度。由于技术对自身动机的逾越而造成人的存在与自然的对立、人的生存发展制造出来的环境死境化日益明显和普遍，致使由技术引发出来的伦理问题被环境的伦理所遮蔽，即人们往往关注环境的伦理问题而忽视技术的伦理问题，但在本质上，一切形态的环境问题都是技术问题，所有方面的环境伦理问题最终都是技术的伦理问题，因为人对环境的破坏是通过延长的手臂——技术来实现的。后者的突出表征是现代临床医学技术引发出来的伦理问题：从技术的伦理问题显形化这个角度观，技术的伦理问题最初在临床医学技术中呈现，但并不等于说临床医学技术必然会产生伦理问题，中国传统医学在其发展过程产生的诸如按摩、推拿、针灸、药石等治疗技术，弘大古希腊医学传统的西医体系中不断涌现出来的诸如手术技术、诊断技术、治疗技术等医疗技术，都没有出现伦理的问题，无论中西，传统医学伦理的目光都聚焦在医护主体的职业伦理以及医患关系方面。临床医学技术出现伦理问题，恰恰是通过堕胎、遗传控制等技术的临床运用而呈现。这就出现一个问题，为什么在堕胎、遗传控制等技术未产生之前运用于临床医学中的诸多技术没有生发出伦理问题，而堕胎、遗传控制等技术的临床运用会滋生出伦理问题？这就涉及技术的动机和目的定位。如前所述，技术是为了提升人的生存能力，其构造是以改造和征服自然为目的——通过利用自然来“重塑自己的自然环境和自身的自然本性”。这一动机和目的可具体表述为如下三个维度的硬性规定：

第一，技术开发的对象是指向自然的，而不是指向人的。具体来讲，技术是“利用自然”来服务于人，其实质是通过改变自然（和自然物）的性质、状貌、结构的方式来服务于人的存在，使人的存在安全和生活保障得到根本的或更好的解决。

第二，技术改变自然只是手段，其目的是从两个方面服务于人的存在：一是重塑人得以存在的自然环境，使自然环境人化，也就是马克思所讲的使“自然人化”;二是重塑人自身的自然本性，使人获得本性上的文质彬彬，成为有尊严地存在且有意识地追求高贵生活的文明人。

第三，技术通过改变自然（或自然物）的方式实现“重塑自己的自然环境和自身的自然本性”的过程，就是不断解决或更高水准地解决其存在安全和生活保障的过程。

以此观之，当技术改变其动机和目的时，必然导致技术与伦理之“合”的分离，即当技术通过“利用自然”来服务人转向通过“利用人”来服务人时，其伦理问题必然出现。临床医学中的中医按摩、推拿、针灸、药石技术和西医手术技术、诊断技术、治疗技术的运用之所以未突显伦理问题，是因为所有这些技术都是通过“利用自然”事物、资源、物质条件来恢复人的健康，而产生于20世纪70年代临床医学中的堕胎技术、遗传控制技术之所以导致伦理问题的产生，①是因为堕胎技术、遗传技术是通过“利用人体”来解决人的生命问题，这种改造人身体的技术方式对人类技术产生了根本性质的逆转，即技术既违背人的生命伦理，也违背生物伦理和自然伦理。因为在存在世界里，生命的诞生或死亡不是由人的权力决定的。通过技术来决定生命的诞生和死亡，从根本上违背了生命伦理和宇宙自然的律法。同样，人的遗传（或变异）也不是人的权力所致和职责所司，它所遵从的是宇宙自然的律法和世界进化的法则。世界的进化法则本质上是生物世界的生态平衡法则，包括生物世界物种间的生态平衡和物种内部的生态平衡。通过技术的方式进行遗传控制，实是干扰和破坏生物世界的进化法则，从根本上违背了自然伦理。从人的角度看，无论堕胎还是遗传控制，都是人自为狂妄地通过技术来逾越宇宙自然的律法和世界进化的法则，其行为从根本上丧失了人的本性。

以此观人工智能技术之所以从它诞生始就伴随伦理问题，并随其研发的全面铺开而伦理问题更为普遍、更加紧迫，其根本原因仍然是人工智能作为一种新的技术方式从根本上违背了技术的动机与目的，但这种违背在最终意义上却是人自身逾越技术的边界而踏上自我毁灭的不归路，这可用马克思的异化理论来表述，那就是人在存在本质上的异化催生了技术对自身动机和目的的异化，如不予以有力的阻止，最终会突破人作为自然人和作为生物人的双重生态容量极限而达于自毁。

人工智能（Artificial Intelligence）技术产生于20世纪50年代，至今不到70年，在经历了两次局部性发展（即1956—1969年与1980—1992年）和兩次间歇性的低谷之后，于2006年后才开启全面发展进程，这主要得益于四个方面条件的逐渐具备：一是人工智能深度学习（deep learning）理论的诞生和计算机深度学习模型的建构;二是大数据和云计算从两个不同方面为人工智能研发提供了近乎无限的计算能力和分析方法，打破了阻碍人工智能发展的两个主要瓶颈;三是移动终端和物联网等技术的开发和全面推广，为人工智能提供了创新的社会空间和未来前景;四是由于前三个条件的具备而形成科学界倡议、政府资助、企业和大学携手合作的人工智能研发、推广、运用的市场机制。由此四个方面互为推力，人工智能技术不再只是一种新技术，而是经济、政治、军事、教育等领域铺开综合实力竞争的社会方式。人工智能技术本身爆发出来的经济、政治、军事、教育潜力在促使它成为全球经济、政治、军事、教育等综合实力竞争的方式时，所带动起来的危机也是前所未有的，这种前所未有的危机在更深刻的维度上将人工智能的根本伦理问题突显了出来，以求正视。正视人工智能技术的根本伦理问题，必须超越人工智能带来的个人生活便利和社会发展好处这两个方面的实利观念，尽可能从人工智能技术本身出发来审视其对技术动机的逾越所带来的根本的存在论误导。

人工智能技术开发的是一类新型的物质实体，使之“具备人的大脑能力”，②构成人工智能技术的动机和目的。基于这一动机和目的，人工智能同时从理论和操作两个维度向生物人脑进军，对其展开“研究、开发用于模拟、延伸和扩展人的智能（human intelligence）”，③是探究“扩展人类智能”及“制造智能机器的科学与工程”的“理论、方法、技术及应用系统的一门新的技术”。④ 人工智能作为一种前所未有的新技术，它对自身的动机和目的定位呈现出如下规定性，理解和把握了这些规定性，才能真正理解人工智能及其滋生的全部伦理问题的根源。

首先，人工智能作为一种前所未有的新技术，是一种生物工艺学技术。

生物工艺学（biotechnology）也称为生物工程学（biological engineering），它产生于20世纪70年代，指“凡是以生物为对象的一般工程学都可纳入生物工艺学之内”。由于biotechnology一词在英语里既可用于表示生物，亦可用于表征生物技术学，所以它的适用范围相当广泛，包括了世界人口快速增长、资源匮乏、环境污染等严峻挑战所引发的所有生命领域关注的一切问题，①也指基因工程“包括DNA配对、血液检查和遗传密码等内容”。② 以此观之，生物工艺学获得广狭含义的指涉性，广义的生物工艺学技术是关于生物世界之生物的工程学技术，狭义的生物工艺学技术是指以人的生物身体为开发对象的生物学工程学技术，本文所论属于后者。

社会和科学的发展趋势向正集中于形成一种新的人的自我概念，并对解释人类自身有一种新的构想。现存的对于“人”的观念，即人的“自然”外貌和人的“自然”性格，正在被一种不断滋长的观念所取代，这一新观念认为人可以重新创造自我，……主张一个人应仅仅按照他自己所希望的那样去构造一个新的自我，从他过去的经历和遗传密码的束缚中解放出来。

人类正进化到达尔文未曾预想到的新阶段。遗传重组的潜势或许正在迅速推进我们超越达尔文的自然进化说而进入人工进化的大胆领域。人类社会不久将向生物工艺学走去，生物工艺学将使得我们可以为使人类向更高层次进化作直接的选择。这一新的“演化工艺”阶段将把我们带入更深层的优生学，我们的下一代将真正成为“纯”人类的最后一代。

人有权利决定重新构造自己的肉体的这一新观念已经很快得到了普遍认可，但社会上仍然存在一些无法得出结论的问题，例如关于人工流产的权利。对此问题的激烈争论，实际上是对如何看待即将降世的“自然”生命的限制的争论。除了争论人工流产权问题，还有对安乐死和选择自杀权利等等问题。这些仅仅是一个大规模社会论战的开始，即关于人是否有自由的权利去使用新的生物工艺学，以完全控制自己的肉体使其生命过程更具价值的问题。③

以人的生物身体和生命为资源开发对象的生物工艺学技术，是“既指‘完全控制自己的肉体’重构人的生物本性、生物结构、生物功能的社会方式，也指探讨人如何完全控制自己的肉体、重构自己的生物本性、生物结构、生物功能的规律、原理、方法、手段的技术学问。仅前者言，生物工艺学的通俗说法是生物技术方式。就后者论，生物工艺学即是生物技术学，对认知科学（cognitive science）、纳米技术（nanotechnology）、生物技术（biotechnology）、信息技术（informa tiontechnology）的理论探讨，实际上是生物工艺学核心内容的探讨;将认知科学、纳米技术、生物技术、信息技术会聚起来予以整合研究，亦属于生物技术学，这种整合研究所形成的会聚技术（NBIC），就是生物技术方法。”④具体地讲，以人的生物身体为资源开发对象的生物工艺学技术，是以计算机为运演工具，以会聚技术为认知方法，以大数据为分析方法，以基因工程和人工智能为两翼形态学呈现的技术体系。

其次，人工智能作为一种生物工艺学技术，是以人的生物大脑为开发对象。

人的身体中有两个因素至为根本，这就是人的生物基因和生物大脑，它从两个不同方面构筑起人特有的存在方式。这种“特有存在方式”是指人的存在既绝非自然的存在，又绝非非自然的存在，而是既是自然的存在，又是非完全自然的存在。由于前者，人作为一种人文的——或者说文化的和文明的——存在，始终与自然关联，并始终保持物性、自然天性;因为后者，人作为一种自然的——或者说生物的——存在，始终朝向文化和文明的方向将自己敞开为人。由于后者，人成为一种“人在形式”而必须“按照自己的方式和欲求存在的想望”创造和发展;因为前者，人成为一种“物在形式”而必须遵从物的本性和自然的天性有限度地创造和有节制地发展。

比较言之，人的生物基因是人体中进化得最慢的一种要素。它之所以进化得最慢，因为它是人这一生命存在与宇宙、与自然、与地球上万物生命保持最密切关联的纽带，如果它也与人体其他部分同步进化，人类将与自然彻底脱钩而成为纯粹的人类，人也完全可以不遵循宇宙律法、自然法则和生命原理而自行其事。不仅如此，如果人体生物基因也与其他要素同步进化，整个生物世界的秩序将被重新安排，人类也将可能彻底地改变自己的本性。作为生物工艺学技术的基因工程向地球生物世界铺开，其结果是人类获得自由创造生物物种的能力和权力，地球生物世界被迫迅速地变乱秩序，今日之地球生物（也包括微生物）世界的生态日趋恶劣的状况及态势，正好拉开了生物世界以及整个存在世界秩序變乱的序幕。作为生物工艺学技术的基因工程向人的生物世界铺开，加速其人体基因编辑，破解人生命的创造密码，其最终的形态学呈现就是人可以运用基因技术自由地制造人，掌握基因技术的人、组织或利益团体，可以在始端创造自己所需要的各种等级、各种功能、各种成色的人，人类存在体系将面临彻底的重构。

与此不同，人的生物大脑是人体中进化得最快的一种要素。人不断进化的大脑，以其更为开放和更为深度的双重方式会通宇宙的智慧、自然的真理、万物生命的知识而持续向前地成就人，包括不断地成就人的视野、人的认知、人的境界、人的光荣和光辉。在地球生物世界里，从材料、结构、组织及其生命方式等各方面看，人这一物种与生物世界其他生物并没有根本的区别，正如布里吉特·法尔肯堡在《互补视角：自然主义VS理想主义》中指出的那样，人类物种“只是细微地同高等动物有所区别”，①这种“细微”的区别就是其大脑进化方式和进化速度使人类在宇宙世界中独树一帜，成为上帝的殊荣和骄傲，因为通过不断进化的大脑，人类创造了自己，创造出了属于人类的神性存在和生存之爱、承传开新的文化和文明，并因此而照亮了宇宙，赋予了存在世界的神韵和生命世界的永恒魅力。

如果说进化得最慢的人体生物基因，使人始终伫立于宇宙自然之中，扎根于大地和生物世界，享有存在的依据和生存的根基，那么进化得最快的人体生物大脑，却使人源源不断地获得动力源泉、智慧源泉、知识源泉和爱的源泉。人工智能将人的生物大脑作为资源开发对象，以计算机为运算工具，通过会聚技术和大数据分析方法来模拟、延伸、扩展人的大脑工作原理，其主观的努力有二：一是增强人探索存在世界的大脑能力;二是开辟生存发展的新资源以重新激活疲软的市场。但其客观的后果却是机器超越甚至取代人的生物大脑，最终解构人类这一生物物种在宇宙中的独特地位和在自然世界里的神性存在，使人这种具有生存之爱和承传开新文化与文明的高贵生命物种最终消失在人造的机器世界之中而沦为一物，宇宙将重新堕入黑暗，存在世界将丧失神韵，生命世界的魅力将不复存在。

最后，人工智能技术作为一种新技术，必将全面扩张其物本主义。

无论从已有的起点看，还是从可能造成的最终结局观，基因工程和人工智能都是反人本的物本主义技术方式，虽然这两种生物工艺学技术方式在功能上分别给予人类以更多的便利和好处，但其已经给予的或可能给予的所有便利和好处，都不能抵消它的反人本性质和物本主义追求。比较来看，基因工程的反人本追求呈現为对人生命的神性内容的完全抽取，使之成为技术的制作物。在基因技术没有产生之前，人作为向死而生的生命，“因生而活，为活而生且生生不息”的人生进程蕴含一种平常中的伟大、苦难中的倔强希望和孤独中的爱与同情和悲悯，这是因为人的生命得之于天、受之于地、承之于血脉且最终形之于父母：对人类来讲，任何个体生命的形成并来到这个世界上，都是天地人的共铸共生共育的结果，即使是离开人间，也同样以天地人同悲的方式相挽相送相悼相念。基因工程把人当作器物来摆弄和制作，人可通过技术而被制造，也可运用技术而使之短命或长寿，更可因此而使之不顾善恶甚至丧失善恶，伦理、道德、善恶等必然在这一技术面前失去应有的功能与光彩。

与此不同，人工智能的反人本追求呈现为对体现个性、人格和情感特征的人性的消解，使之成为技术的承载物，人将越来越在存在和生存的两个维度被日益发展的人工智能技术硬性地规训为共性的存在物：在人工智能技术没有产生之前，人与技术、人与技术物之间的关系，只是一种外在化的功能关系，这种外在化的功能关系通过“用”而获得实质性定义，即只有人需要使用这一技术或技术工具时，它才与人发生直接的关联性而获得被使用的功能。比如，张三犁地时，犁才被张三所用;犁地的活儿终止，犁与张三之间“用”的关系自然解除。同时，人与技术、人与技术物之间的“用”，是由人的需要引发，所以人与技术、人与技术物之间“用”的功能关系的形成是人向技术、人向技术物的召唤，具体的技术、技术物均是应人之召而来缔结成“用”的关系。所以，在人与技术、人与技术物之间，人始终是绝对的主体，技术、技术物始终是承受主体支配的受体。

以此为参照观人工智能，它却呈反向铺开，从根本上改变人与技术、人与技术物之间“用”的关系格局。这种改变日渐从三个方面敞开：一是人与人工智能技术、人与智能物之间的关系，已不是单纯的“用”的外在功能关系，而是越发构成一种内在性的存在关系。比如电话机，它是外在地存在着，只有当打电话时才用它;与此不同，置入身体的芯片却是内在地存在，你用不用它都存在于你的身体之中。即使其技术或技术物并非置于你的身体中，它也仍然内在地存在于你的身体中，天网是一个典型的例子，小区里、大街上、市场中或者高速路上的摄像器，以及公共场所的人脸识别等，从物理形态学讲，这些都是外在化于人的存在物，但却内在地存在于每个个体的生命和生活中，无论走到哪里，你都无所逃遁，这就是真正意义上的“天网恢恢，疏而不漏”。二是人与人工智能技术、人与人工智能物之间“用”的功能关系形成主客颠倒模式，在人工智能全面挺进的进程中，将不再是人对技术、技术物的召唤，而是技术、技术物“不请自来”地反客为主。在这种主客颠倒模式中，人工智能技术、技术物成为召唤者，人成为应召者。典型的生活例子是手机，大多数人每日的生活无时不在等待“在手”的那一机的召唤，一旦有任何间隙，人的本能行动就是看手机，哪怕是处于繁忙之中也会忍不住地不时翻阅手机，人就是这样成为智能手机的俘虏却乐在其中而不知情。人工智能化的体温检测是另一例子，当具有设定权的人或机构一旦设定进入何种情景化的时空场域就成为风险对象，那么无论你身体有无感染，只要你不慎经历了这一被设定的时空场域，就会毫无疑问地成为必须接受再检测的潜在风险对象甚至被隔离的对象。三是在传统的技术和技术物时代，人是技术、技术物的绝对主体，这一主体定位决定了人在任何时候都呈现个性，具有对技术、技术物的主体权和对技术、技术物的使用或不使用的个性选择及其使用权。人工智能技术却反客为主，在更多的时候、更多的生活情景中成为人的主体，并以共性的和刚性的傲慢方式规训人放弃个性、放弃选择、放弃主体性。比如上班签到，人工签到方式和智能打卡方式之间的根本区别，就是前者具有一定选择性和个性化表达，后者却是千篇一律的共性方式。人脸识别技术是另一例子，一旦你的工作区域或生活小区安装了人脸识别，不管你愿意不愿意，每天进出都得一遍又一遍地被识别，而且并不征求任何个体的意见，所有人的那一张张被反复识别的脸及其脸面变化的状态总是不知不觉地作为信息被收集。这种已经将人驯化为习以为常之机械反映物的人工智能识别，不仅使人的个性完全被共性解构，而且人的权利侵犯也成为“合法秩序”建构的普遍方式。

技术，开启人从物向人的道路，并成为解决人的存在安全和生活保障的根本社会方式。技术的这一人本定位服务于人并以此督促人为过上更好生活而努力，很自然地成为最为强劲的动力推动技术无阻碍地向前铺开。在这一自我铺开的历史进程中，无论手工技术还是机械技术从未引发伦理的质疑。在人类认识史上，技术始终是好的，是合法的，二战期间两大阵营不遗余力地研发各种形式的新式杀伤武器，包括原子弹之类的核武器以及各种形式的细菌培养技术，就是二战之后的现代人类进程中全球范围内公开的核军备竞赛以及国际社会大大小小不同等级和级别的病毒实验室对各种新式技术的研发，即使引发质疑，也是质疑技术研发主体（比如企业、政府机构或国家）。“技术总是好的”这一绝对主流观念，从技术诞生开始便一直伴随技术发展的历史而根深蒂固，即使有所怀疑或反思，也微不足道。海德格尔曾从技术本性角度考察技术的“座架”功能，埃吕尔对“技术自主”性的思考，芒福德提出“巨机器”的社会理论以及法兰克福学派提出“科技异化”，揭示“技术的解放力量转而成了解放的桎梏”，①技术不仅造就了单向度的社会，也生产出“单向度的人”的反思。但这些反思技术的理性思考及其由此形成的理论，相对于社会市场以及人的生活对技术的需求而言，其作用甚微，发展技术既是进步的标志，也是社会正能量的象征，更是绝对合法和合德的代名词。技术界和实业界的“技术无罪”论②和为技术界、实业界无限度地开发新技术鼓掌与欢呼的“技术向善”论，③也很自然地具有广阔的市场平台和深厚的传统土壤。虽然如此，人工智能（包括基因工程）带动起来的根本社会问题终究会引来广泛的正视，这种正视将“技术向善”或“技术向恶”的问题突显出来。

技术“向善”或“向恶”的问题，与技术“有罪”或“无罪”的问题互为证明：技术向善意味着技术“无罪”，技术“无罪”也意味着技术“向善”;反之亦然。然而，技术到底是向善（无罪）还是向恶（有罪），不能以技术的功能为判断论据，应该以技术开发的“度”为判断依据，技术开发的“度”是由技术的动机和目的所规定和标识，它规定人类的技术没有抽象的善或恶的问题，更没有抽象的“技术中性”问题：技术始终带有倾向性，或者善或者恶，这种或善或恶的倾向性是具体的技术的动机和目的投射。以此审视人工智能，其根本的伦理困境敞开为如下两个方面：

第一个方面：人工智能开发逾度带动的伦理困境。如前所述，技术作为人从物走向人并不断使人成为人的社会方式，它得以产生的动机和目的，就是通过“利用自然”来服务于人。技术的这一动机和目的构成技术研发之“度”，在其度内，技术研发就呈善的朝向;逾越其度，技术研发就呈恶的朝向。比如二战期间德国法西斯研发的毒气技术，日本法西斯研发的细菌技术，其无论在动机上还是在目的上都不是服務于人，而是要残害和消灭人，并通过残害和消灭人来实现法西斯主义者征服世界、统治世界的帝国野心，所以无论从哪个角度审查这些技术，它都是恶的，其所呈现出来的也必定只是恶。以此观人工智能技术的研发，它的动机和目的本身逾越了技术自身之度，因为人工智能技术不是“利用自然”来服务于人，而是利用人的生物大脑来服务于人，即将人的生物大脑作为资源开发的对象来予以研发，并以此开拓新资源市场，建构新的经济增长方式，探求新的社会发展方式和竞争力。所以，在人工智能技术研发的动机和目标体系中，人不是主体，而是客体，是有待开发的物;其也不是以服务人为目的，而是将人变成以实现社会发展为目的的手段和工具。人工智能这种以开发人的生物大脑来促进社会发展的技术方式，从根本上颠倒了技术“‘利用自然’服务于人”的伦理关系。在这种被颠倒的伦理关系中，其根本的伦理困境不是人工智能机器是否具有主体性的问题，也不是人工智能研发主体如何合伦理的问题，而是人工智能技术本身如何合人、合人性的问题。要解决这个问题，需要将其颠倒了的伦理关系重新颠倒过来，使人成为人工智能技术的主体。因为技术产生于人从物的世界里面走出来而成为人的需要，是使（动物的）人成为（文化和文明）人的根本方式、手段和工具。技术与人之间的这一原本性定格要求人必须成为技术的主体，成为技术服务的主体，技术只能成为人成就自己和不断成就自己的工具、手段、方式。人是技术的主体这一本原性认知和意识必须构成人工智能技术开发的动机和目的设定的坐标。

然而，对人工智能技术来讲，要它将业已颠倒了的伦理关系重新颠倒过来，唯一正确的方式是中止人工智能技术的研发，但这在事实上不可能。面对其不可能中止的状况，退而求其次的办法只能是将“开发人的生物大脑来促进社会发展”的人工智能研发限制在人的生物大脑的智商层面，即将人工智能技术研发的最后边界严格地限定在人的生物大脑的智商领域，禁止窥视人的情商机制和心商秘密。只有如此，才可真正保障人在人工智能技术研发和运用两个方面的主体地位。这需要奠定两个方面的基础性认知：一是人的生物大脑的构成及其人本进化的功能体系;二是人工智能研发突破边界约束可能造成的最终后果。

首先看人的生物大脑的构成及进化敞开其人本取向的功能体系。在人的身体体系中，进化得最快的生物大脑，其物质实体（即物理形态和生物形态）是人脑，其精神实体却是内驻于人脑中的心智，它由智商、情商、心商三部分构成。在人的心智构成中，智商主精神，其核心是意识和思维;情商主情感，其核心是以情绪铺展形态和导向机制的潜意识和无意识;心商主心灵，其核心是自由意志、灵魂和生命激情。① 从主体观，人从物向人进化从而使人成为真正意义的人，就是心智的开启（即“启蒙”）。但在心智开启的历程中，智商是最初进化的部分，因为智商居于人的心智表层，也是人与存在世界、人与物、人与变化和运动直接交道、直接对接、直接应对的主体性构成，人谋求现实的存在安全和生活保障，要求智商的快速进化和发展，所以，智商的进化和发展从根本上决定了人谋求存在安全和生活保障的程度和水准，人的智商进化得越快、发展的水准越高，人谋求解决存在安全和生活保障的水平就越高。在人的心智领域，进化得最缓慢的是人的心商，因为心商是人的心智中最坚硬、最顽强、最具有自我持存的不变性的部分。从存在世界的“变中不变”和“不变中变”之现象与本体交互运动角度审视人的心智世界，它既体现“不变中变”的现象性，也体现“变中不变”的本体性，而智商却更多地体现心智世界中“不变中变”的因素，与此不同，心商则更多地体现心智世界中“变中不变”的因素。心商之所以具有如此的自我持存的不变性，是因为它能以直观的方式直接交道、直接对接、直接应对自然世界中的本体存在、宇宙世界中的神韵存在、生命世界中的灵性常在的永恒结构、元本体。所以，它构成人最终获得神性而与万物本质区别的根本方面。比较言之，在人的心智世界里，进化所成的智商是人获得人性而成为人的根本标志，进化所成的心商却是人获得神性而成为大人的根本标志。在智商与心商相向生生共运存在的框架结构中，情商的进化取决于智商进化与心商进化的会通程度，智商进化与心灵进化的会通程度越高，情商的进化速度越快、水准越高;反之，智商进化与心商进化的会通程度越低，甚至其进化各行其道或相互撕裂，情商的进化总是处于自我扭曲或被迫扭曲的状态，在这种存在状态中，生物性的本能冲动往往取代心商而构成行为的决策机制。心商居于人心智世界的至深领域，通过情商而与智商发生关联并释放功能。人的智商始终向存在世界敞开，启动意识和思维应对外部世界的不息变化，处理来自外部世界的各种信息，将以为有用的内容向情商世界输送，通过情商的稽查而将有用的信息运达于心商领域予以铸造;同时，智商面对存在世界谋求解决存在安全和生活保障等根本问题而需要心商的定夺，也要经历情商打开智商与心商的会商通道，心商构成智商的最终决策机制，但又通过情商而赋予智商执行的个性和方法。

其次看人工智能无限制开发人的生物大脑的进路及其后果。客观地看，人工智能的历史虽然很短，但发展已跨越“弱人工智能”（Artificial Narrow Intelligence）阶段而快速研发强人工智能（Artificial General Intelligence）并向超人工智能（Artificial Super Intelligence）方向进发。人工智能研发的“弱”阶段，实是模拟人的生物大脑的逻辑运演规律阶段;人工智能从“弱”起步进入“强”的领域，其主攻方向是模拟人的生物大脑的抽象思维原理及破译其内在运行密码。人工智能研發一旦进入探究人的抽象思维原理和破译的人抽象思维运行密码的领域，也就必然直逼人的情感—心灵领域。目前，人工智能研发已向人的情商领域迈进，并在人工情感方面下功夫，不仅要努力破解人的情感运行的机制和密码，更企图破译人的心灵密码。从人工智能研发的进程及态势观，其雄心勃勃的不可逆方向就是彻底攻破人成为人的最终防线，即掌握人的心灵机制并破译人的心商密码。客观地看，“意识地思维是人区别动物的根本标志，但相对人造物智能机器言，意识地思维构筑起人的第一道防线;人性的情感，则构筑起人的第二道防线;内聚神性意向的心灵却构筑起人的第三道防线。人工智能研发从弱人工智能向强人工智能方向铺开，表明人工智能机从逻辑思维（概念、判断、推理）起步获得了抽象思维（分析、归纳、综合）能力，突破了人的第一道防线：世界顶尖围棋大师败给AlphaGo，不仅表明在围棋上，人类永远战胜不了AlphaGo，更重要的是，当研发者为智能机设计了学习程序，它可通过程序性学习而迅速具备自主性的深度学习能力，这种深度学习能力的迅速提升意味着智能机将走向对人脑之‘智’的整体性超越而进入人的‘情感’领域。……其进军方向，是进入人的情商与心商的领域，探索其情感和心灵的边界，也即是探索人成为人的情感边界和人成为神的心灵边界。人工智能的这一努力，展示了人类自身的根本存在危机。因为，强人工智能的研发如果不遭遇人设条件阻碍的话，其不可逆方向是必然突破人的最后防线而获得心灵功能，这时候，生物人类的时代将必然地结束。”①

综上，将人工智能研发限定在智商领域，是为了保证人工智能技术只成为人的服务工具，人始终在技术面前保持主体地位。以此观之，将人工智能研发设定在人的智商领域的实质，是确立人工智能的限度开发法则，在人与智能技术、人与智能机器之间划一条明确的、在任何情况下绝不能突破的“红线”。这条“红线”就是人类在人工智能技术和智能机器面前的“绝对安全线”，一旦突破这条红线，人工智能研发就有可能攻破人的情感防线和心灵防线，破译人的情商密码和心商密码，作为与万物区别而享有神性存在光荣的人类，就会不可逆转地沦陷于人工智能机器的奴役之中，AlphaGo血洗世界围棋高手造成人间再无围棋冠军的结局，或许构成人工智能无限制研发必然导致人类未来沦陷于机器奴役的预告方式。

确立以人的智商为边界的限度开发法则，实是从三个方面规训人工智能技术的研发：第一，人工智能技术研发必须将所有智能产品的自主性能力降低到最低限度。这一“最低限度”是指所研发出来的智能产品只能成为“一般意义的上手工具”，它可具有严格程序设计的逻辑思维能力，而不应该具有抽象思维的能力和任何形式的自主性调整能力，即不能赋予它“一旦机器的一部分启动，那么该机器就根据外部环境进行自我反馈运行，而具备在一定时间内不受外部控制的能力”。② 第二，人工智能研发必须严格禁止勘探人类存在的边界，即绝不能赋予智能机器勘探人类存在的身体边界、精神边界和心灵边界的能力。如果人工智能研发无视这一人的身心边界法则，那么所研发出来的智能产品“将相当迅速地取代我们的存在。”①其三，人工智能研发必须禁止赋予智能产品制定规则的潜能和使其潜能转换成规则的能力。因为从根本讲，人类与人工智能的防线，目前有两个：一是制定规则，二是探索边界。人工智能目前不能制定规则，是在按照人制定出来的规则行事，但并不意味着它始终会按照人的规则行事，因为目前全球性竞争开发人工智能技术正在不遗余力地攻克人的情感领域和心灵世界，在这种状况下，人类的盲目乐观会使其丧失有限度地发展人工智能的理智，因而，也就从根本上不能保证无限制研发的人工智能有制定规则的能力。反之，能保证人工智能不具备制定规则的能力的唯一的绝对前提，就是人工智能技术的研发只能限定在人的智商领域，其基本方法是严格地限制智能产品的自主学习能力。

第二个方面：人工智能技术运用逾度带动的伦理困境。人工智能研发逾度必然带动人工智能技术运用的逾度，其逾度造成的伦理困境敞开为两个维度：一种是可能性维度，即人工智能研发若不制定共守的限度法则，不设定共守的研发边界，其自由竞争研发一旦跨越人的智商边界而破译人的情感密码和心灵密码，必然使其技术运用没有边界，最终将造成人工智能奴役人亦没有限度。一种是现实性维度，人工智能研发即或遵从共守的限度法则并设定共守的边界——将人工智能技术限定在模拟人的智商领域——也并不能保证人能在任何时候避免沦为工具的命运而成为人工智能技术的主体。这是因为人工智能是不同于以前的任何技术方式的智能技术，是智能工具，这一特点使人工智能具有更为广泛的甚至是没有限度和边界的使用范围。使用者一旦无限度地使用它，它就会发挥无限度无边界的功能。当有限和有边界的人工智能技术和智能工具通过人为而发挥无限度无边界的功能时，既可拓展服务人的范围，为人的存在和生活提供更多的便利和好处，更可能强制性地限制、扭曲人的存在和生活，使人工智能技术沦为奴役人的工具。以道德增强为例，现有的人工智能技术已经无意地在某些方面实现了个体和社会两个维度的道德增强。入夜偷盗以及在各种公共场所（比如机场、车站、公交车上、商店等）的行窃，在过去是屡禁难止，但自从有了天网，有了遍布于商店、居住小区、大街小巷的摄像头，公共场所的扒手和夜间入室的小偷几乎绝迹。这种现象表明人工智能技术的运用确实可以起到增强个人道德和社会道德的作用。又比如，乱吐乱扔是国人几千年难改的恶习，如果在现有的天网体系中设定一个乱吐乱扔的自动惩罚算法机制，很快就会改变这样的社会恶习。同样，贪污腐败是一个令人异常头痛的社会痼疾，如果运用现有的人工智能技术设计出一套自动化的监察系统，难以医治的贪腐毒瘤也会得到根治。

对人工智能技术的正当运用，可以增强道德，提升社会文明。反之，对人工智能技术的逾度运用，则可能解构道德，降低社会文明，并且扭曲人性，破坏平等和公正，消灭隐私，降解人的生存、自由和幸福指数。比如人脸识别、摄像头监控等技术若被无边界地运用，可能会造成如上各种状况的出现，人工智能技术与人的主体存在之间必然产生伦理上的矛盾和冲突，解决此一伦理上的矛盾和冲突实是相当困难，因为这并不只是一个技术与伦理的问题，而是关联社会各因素产生联动制约效应的问题，不仅要求设计共守的人工智能研发边界法则，也要求建立共守的人工智能技术运用边界法则，以不伤害人共通的人性，在此基础上确保法权范围内的个性自由和隐私权利。当然这更需要以之为基本要求的相关制度的构建和法律建设。从根本讲，只有将人工智能技术的研发和运用作为根本的制度和法律问题纳入以权利为准则的制度体系和以法权为准则的法律体系的建设之中，探求人工智能研发和运用所面临的根本伦理困境的解决之道才获得可能性。

作者单位：四川师范大学伦理学研究所

责任编辑：王晓洁