人工智能算法的进化及其伦理效应

王 天 恩

(上海大学 哲学系, 上海 200444)

人工智能算法涉及智能进化的重要机制,而智能进化机制不仅关乎人工智能的发展,而且与更高层次的人类发展进化密切相关。从普通算法到智能算法,从算法的技术进化到智能算法的自主进化,越来越深入的研究不仅涉及人工智能,而且涉及人类智能及其与机器智能的共同基础。正是在这个意义上,研究智能算法进化就是在探索人类发展乃至进化的长远前景。

一、人工智能算法的技术进化

随着人工智能的发展,算法可以简单地区分为普通算法和智能算法,而智能算法又可以有专用智能算法、通用智能算法和自主进化算法之分。

人工智能的发展,使人们看到从计算机算法到人工智能算法的技术进化。数学是算法的基础,而智能则意味着内在关系基础上外在关系体的发展,因此其技术进化越是向智能化发展,算法越不仅仅是数学,而是通过内外在关系的循环发展,不断深入地延伸进外部环境,使数学基础和现实实践对接乃至一体化。

在计算机领域,“算法”这一术语“不是用来指作为数学结构的算法,而是指一个或多个算法在特定程序、软件或信息系统中的实现和相互作用”(1)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.。这意味着算法从纯粹的数学结构到一种技术的发展。“‘算法’的通常用法还包括数学结构的技术实现,以及为特定任务配置的技术应用。一个完全配置的算法将把已经实现的抽象数学结构并入一个用于特定分析领域的任务分析系统。依据这一澄清,特定任务或数据集的算法配置不会改变其基本的数学表示或系统实现;更确切地说,它是算法的操作与特定情况或问题之间关系的进一步调整。”(2)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.随着计算机的发展,算法逐渐进化到一个新的发展阶段。普通算法可以是数学化的内部关系体,而算法的智能化则是在内部数学关系的基础上,信息体外部关系的发展过程。在这一过程中,算法作为关系体而存在,算法的技术进化则是关系体的发展。正是作为关系体的这种发展,使算法的技术进化经历了一个重要提升:从一套可以做什么的程序或指令,到自主做什么的智能体。

在智能算法主要作为内部关系的技术进化阶段,算法可以是简单的指令。由于计算机的发展,算法的可执行性成了信息世界完全不同于原子世界的基本事实。在算法的技术进化中,数字化具有极为重要的地位,智能算法之所以可能,就因为算法的数字发生构成可与原子对等的单位——比特(bit)。正是比特基础上的发展,算法的技术进化呈现出日新月异的态势。

随着信息科技的发展,算法经历了一个从运算法则到智能机制的技术进化过程。由于智能的本性是关系体,算法的发展过程同时也是信息关系层次提升的过程。根据算法的技术进化层次,可以划分为技术算法、情景算法和智能算法等。算法的技术进化层次及其意义,在作为感受性关系的信息层次可以得到更到位的理解。

关于信息的当代研究表明,信息既不是物质也不是能量(3)Wiener Norbert, Cybernetic, or Control and Communication in the Animal and the Machine (Second edition), (the MIT Press, 1985),132.,而是感受性关系;作为感受性关系,信息具有创生性、涌现性和相互性(reciprocity)等基本特性。(4)王天恩:《信息及其基本特性的当代开显》,《中国社会科学》2022年第1期。而信息的创生性意味着信息世界创造是信息创生意义上的整体建构——创构(5)详见王天恩:《大数据中的因果关系及其哲学内涵》,《中国社会科学》,2016年第5期;《大数据和创构认识论》,《上海大学学报(哲学社会科学版)》,2021年第1期。。把信息理解为感受性关系,对信息编码及其与信息的关系就可以有一个清晰的认识:信息编码是作为感受性关系的信息的物能化和观念化。因此数据不是信息而是信息编码。信息编码有两种基本类型:信息的物能编码和信息的观念编码。前者的典型如物理信号和DNA中的基因,后者的典型如作为自然类(natural kinds)概括产物的概念和符号。信息的符号编码有一种特殊的方式,那就是信息的数字编码。(6)王天恩:《人工智能算法的深层认识论意蕴》,《湖北大学学报(哲学社会科学版)》,2023年第1期。从技术算法到情景算法再到智能算法的发展,与从信息编码深入到信息本身密切相关。

技术算法主要是工具意义上的计算和编程。在这一发展阶段,算法可以非常简单,“一个算法是一个指令序列,告诉计算机该做什么。计算机由数以十亿计的称为晶体管的微型开关组成,算法以每秒数十亿次的速度打开或关闭这些开关。最简单的算法是:按开关。一个晶体管的状态是一个小信息:如果晶体管是开着的,那是‘1’;如果它是关闭的,那是‘零’”(7)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):1.。从信息的感受性关系理解可以清楚地看到,这里显然把比特看作了信息本身,所涉及的是数字算法的起点,还不能看作是数字算法的基本单元,事实上这是一个比特,也就是信息数字——更确切地说是数字编码的基本单元。在这个意义上,算法事实上是面向物能载体的信息编码及其功能性序列。由此进一步发展,就构成算法的基本单元。

在最基本单元的基础上,数字算法进一步发展到推理。“第二个最简单的算法是:使两个比特结合。”(8)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):1.正是在这一环节,香农(Claude Shannon)首次认识到,“当晶体管对其他晶体管做出反应进行开关时,它们所做的正是推理”(9)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books,(2015):2.。这是最简单的算法,算法正是通过推理的物能化实现自己的功能。这个基础上的算法属于一般算法发展阶段,完全是人类大脑的工具性延伸,不仅还不是任何意义上的智能算法,而且没有涉及具体情景。因此,在最基本的层次理解,“从计算和编程的角度看,‘算法=逻辑+控制’;其中逻辑是问题域的特定组件,表示解决方案(要做什么)的抽象公式和表达,而控制组件是解决问题的策略和在不同场景下处理逻辑的指令”(10)Kitchin Rob, “Thinking Critically About and Researching Algorithms, Information”, Communication &Society, (2016):14—29.。由于只是基于信息编码而没有涉及作为感受性关系的信息,技术算法主要局限于内部关系,因此主要表现为计算机内部的推理形式;由于只局限于内部关系,技术算法不仅只是间接涉及算法伦理问题,而且由于作为关系体只局限于内部关系而没有外部关系的对称发展,因此不可能发展出真正意义上的智能。

真正意义上的智能一定涉及作为感受性关系的信息,国内外一些相关研究客观上都涉及这方面的内容,在哲学领域,甚至可以在更早的研究中找到相关思想资源。“海德格尔对‘人—在—世界—中—存在’的本质描述仍然可以作为人工智能发展的一个重要参照系,使其在某些方面能够以类似人的方式处理问题,并真正有助于人的生存。”(11)朱清华:《德雷福斯与海德格尔式人工智能》,《哲学动态》2020年第10期。海德格尔现象学关于人沉浸在世界中的情景涉及人在世界中的整个感受,恰好是对信宿处境的整体呈现。而梅洛-庞蒂的《知觉现象学》则具体化到人的身体知觉。由此可以得到关于人工智能技术进化的启示,感受到其与人类进化的内在关联。正是越来越表现为智能方式的人类进化,为人工智能算法进化研究提供了重要启示。

作为通用智能,机器智能和人是同一个类,具有类的共同性。其中的一个重要共同点,就是建立起了内外部关系之间的双向循环机制。事实上,智能概念本身就应当具有这样的含义。算法的技术进化就意味着必须发展与内部关系对称的外部关系,而网络发展条件则为人工智能算法进化提供了不同于人类智能进化的特殊基础。

算法发展的网络环境为智能算法外部关系的发展提供了新的条件,从而使技术算法向情景算法进化。随着算法和网络的交叠发展,人们提出了“一个网络信息算法的定义”。阿南尼(Mike Ananny)在网络化算法相关研究的基础上,探讨了情景算法及其伦理问题。“考虑到这些关系,我将一种网络化信息算法(NIA)定义为一个集合,它包含机构环境的计算代码、人类实践和规范逻辑,通过最低限度的可观察、半自治的行动来创建、维持和表示人与数据之间的关系。虽然守则、惯例和规范可以在其他情况下单独遵守,但它们的全部含义和力量只能从与其他模块单位的关系角度来理解。”(12)Ananny Mike, “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”, Science, Technology, &Human, 1(2016):1—25.情景算法意味着从信息编码深入到信息本身,“网络信息算法”正是信息涉及的集中体现。虽然还不是基于信息更到位的理解,情景算法的信息性质不可能得到清晰呈现,但从其涉及环境并进而涉及伦理问题,可以间接地感觉到信息性质。

作为外部环境,网络对于智能算法的意义与对于人类的意义有很大不同,因此也存在不同的道德关系。“它的代码可能是透明的,它的设计者可能有良好的意图,它的构成可能得到很好的控制,但是一个算法组合只有在它的手段、目的和美德的某种结合帮助我们与自己经验的其他部分建立令人满意的关系时,才能被认为是合乎道德的。”(13)Ananny Mike, “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”, Science, Technology, &Human, 1(2016):1—25.外部关系正是这样一种性质:关系不仅是智能的,也是伦理的——更确切地说伦理关系正是高层次智能关系本身的应有之义。情景算法在内部推理关系的基础上建立起外部关系,具有与环境的互动功能,因此会随着其发展越来越直接涉及算法伦理问题,从而在算法发展中扮演着越来越重要的角色。

情景算法关于伦理问题的直接涉及,意味着算法向智能化进化。随着人工智能的发展,不仅“算法在世界上扮演着越来越重要的角色”(14)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.,而且算法本身的进化取得了历史性的突破,引起了越来越广泛、越来越密切的关注。在算法发展的技术进化发展阶段,“以软件程序和应用程序的形式,算法使个人计算机和智能手机得以运作。算法以搜索引擎、社交媒体网站和在线商店的形式,帮助筛选、过滤和组织这个世界的信息”。在这样一个发展阶段,“大多数算法没有理由让人担心,它们是精心制作的,每一步都有详细的说明,以解决很好定义了的确切问题”(15)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。这里所描述的是典型的技术进化。算法进化历程的改变,开始于“一个新的算法家族——‘机器学习’算法”。与机器学习相联系,“机器学习算法很快就会被用来解决那些普通算法从未解决过的问题,或者几乎从未解决过的问题,而且,其中的许多应用如果失败或被滥用,都会给个人和社会带来巨大的风险”(16)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。因此,随着其发展带来的问题,智能算法引起了人们越来越广泛的关注。由此我们可以看到算法的技术进化走向智能化,看到算法的人类智能加持及其发展方向。

在人工智能的发展中,算法的技术进化正是一个人类赋予算法智能的过程。由于设计者赋予算法以目的,作为“有限、抽象、有效、复合的控制结构”,算法可以“在给定规定下达到给定目的”(17)Hill Robin K, “What An Algorithm Is?”, Philosophy &Technology, 1(2016):35—59.,这是人类智能赋予算法智能,逐渐使普通算法向智能算法进化的过程。而真正意义上的智能算法,应当是从学习算法开始。

学习算法是算法技术进化进入智能化的产物,也是智能算法的起点。“一个学习算法就像一个熟练的工匠:它的每一个产品都是不同的,并且根据客户的需要精心定制。”(18)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books, (2015),xiv-xv.在从普通算法到智能算法的发展过程中,深度学习算法已经是典型的智能算法。智能算法正是始于学习算法,而深度学习则不仅是智能算法的更高层次起点,而且展示了智能算法的学习深度。在智能算法的进化中,学习深度与算法的自主性密切相关。而算法的自主进化,则与算法本身自行进行的算法创制密切相关。

在学习算法的技术进化过程中,一个重要的转折是出现了创制普通算法的智能算法。在普通算法中,“每个算法都有一个输入和一个输出:数据进入计算机,算法用数据做它将做的事情,然后输出结果。机器学习则正好相反:输入数据和想要的结果,然后出来把一种结果变成另一种结果的算法。学习算法——也被称为学习者——是一种创制其他算法的算法。”(19)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.机器学习算法与普通算法的根本不同,就在于能够通过构成双向循环机制获得学习能力,从而可以由算法本身创制出新的算法,构成智能算法自主进化的机制,实现智能算法的自主发展。正是智能算法的自主发展,构成了其伦理问题升级的重要环节:智能算法在人类使用中发生的伦理问题使智能算法本身具有了伦理属性。智能算法发展到自行创制算法的阶段,意味着其自主性的发展,而智能算法自主性的发展,则指向智能算法的自主进化。

二、智能算法的自主性及其发展

智能算法的进化,在其高级阶段就是智能算法自主性的发展。算法是从信息体向智能体发展的机制基础,正是由此逐渐获得智能算法的自主性。“在这些关于算法活动的说明中,算法是受关注的实体;这些算法被认为是强大的,对后果分布起作用并起中心作用。”(20)Neyland, Daniel &Möllers, “Norma, Algorithmic IF … THEN Rules and the Conditions and Consequences of Power, Information”, Communication &Society, iss.1(2017).智能算法在内外部关系的基础上,使智能体具有了操控外界的能力,而且朝向自主性发展。

在一定范围内,智能算法的学习深度标志着机器智能的自主性程度。算法最原初的自主性源自机器学习,实际上,机器学习算法开启了算法从技术进化到自主进化的过渡。智能算法不仅可以极大地提高实践效率,而且其结果比直接人为实施更具客观性。

机器学习不仅具有基于数据产生新知识的能力,而且可以修改甚至自己设定相关规则。“我们使用机器学习这个通用术语,并用它来代表任何一套方法和一组技术,它可以利用数据来产生新的模式和知识,并生成可以用于对数据进行有效预测的模型。”(21)Otterlo Martijn van, “A Machine Learning View on Profiling”, Hildebrandt, Mireille &Vries, Katja de et al., Privacy, Due Process and the Computational Turn:Philosophers of Law Meet Philosophers of Technology, (New York:Routledge, 2013),46.机器学习利用数据产生知识和生成模型,已经具有重要意义,而更重要的意义则在于定义和修改规则。“机器学习以自主地定义或修改决策规则的能力来定义。”(22)Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra &Floridi Luciano, “The Ethics of Algorithms: Mapping the Debate”, Big Data &Society, 2(2016):1—21.这就意味着具有学习能力的智能算法具备制定规则甚至初步设置规定的能力。

随着信息科技特别是大数据和人工智能的发展,人类活动从认识世界和改变世界发展到创构世界,而创构世界的前提性规定,就成了人类新的重要课题。作为为思维得以进行而设置的规定,思维规定包括一般标准和规则等的设置直到前提性规定的设置。正是规定设置的能力,意味着智能算法拥有伦理属性的根本基础。在无监督学习中,智能算法可以通过定义最适合的模型理解输入,也就是规定决策规则处理输入,而其决策规则产生原理则无须人类参与。由此进一步发展,智能算法就可以具备初步的创造能力,甚至进化出智能算法(或其实现的信息体)自身的信息需要。

在智能算法进化的意义上,自主辨错可以使人们联想到人工智能算法信息需要的萌芽。智能算法的创造性一开始并不是像人类创造那么典型,而是可以从诸如辨错等活动开始。“在创造时,机器学习算法自动识别误导、偏见或错误知识。”(23)王天恩:《创构时代的思维规定》,《南国学术》2019年第3期。深度学习算法基础上的进一步发展,会逐渐涉及智能体将具有什么样的信息需要,因而具有什么样的品性和品行的问题。在某种程度上,这又意味着智能算法在筹划“自己”的未来,从而开始具有伦理属性。

在目前的发展水平,算法本身并无伦理属性,因为算法本身不具有意图。“我们不能说算法本身就有不好的意图。相反,该算法被那些想要达到特定管理目标的人使用,但是在这个过程中,最终会伤害到不同群体的人。在这些受害者中,有些人很容易辨认,但对其他人的伤害则更为弥散。”(24)Balkin &M. Jack, “The Three Laws of Robotics in the Age of Big Data”, Ohio State Law Journal, 5(2017):1217—1241.算法本身是否具有意图,事实上与其进化水平从而与其发展阶段密切相关。算法越简单,越是工具性的,本身越不会有意图,但随着算法智能水平的提升,本身具有意图的可能性会越来越大;智能算法的自主性越强,算法本身就越可能具有自己的意图。只是在智能算法的自主性发展到一定程度之前,智能算法本身的意图是设计者赋予的。正因为如此,以目前的深度学习为标志,机器学习所意味着的智能算法关涉未来。“学习算法常被称为算法和分析的‘未来’,由于在自然环境下调整操作参数和决策规则的能力,在如何决策和为什么决策方面算法引入了不确定性。”(25)Burrell &Jenna,“ How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms”, Big Data &Society, 1(2016):1—12.不确定性的引入及其应对,正是智能算法自主进化的重要环节。

毫无疑问,算法越是初级的,越具有这样的性质:“算法的内在品质”是“通过完备性和正确性概念来表达的。正确、完备和结果联系在一起,而且认为所描述的算法用以回答一个给定的问题”(26)Béranger, Jérme, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc., 2018),81.。而越是高级的算法,进化到一定程度的算法,就越会超越这一内在品质。如果智能算法向通用化发展,超出这种内在品质恰恰是前提性条件,只是无论什么样的算法,都必须以正确性和完备性为基础。

的确,智能算法的关键之一在于会学习,正是会学习的机器算法,将形塑人类未来。一方面,学习算法已经积极甚至主动地关涉未来,另一方面,在某个层次上可以说,“算法的未来是会学习的算法”。正是立足于会学习的算法,安德鲁·图特(Andrew Tutt)对算法自主性的发展进化做了系统的,迄今最深入的考察,由此梳理出算法自主性发展的具体进程。会学习的算法“有很多名字,但最常见的是‘机器学习’(Machine Learning)、‘预测分析’(Predictive Analytics)和‘人工智能’。尽管使用‘智能’及其变体可能会产生误导,因为区分学习算法和非学习算法比区分为表现出智能的算法(algorithms that appear intelligent)和没有表现出智能的算法更重要”(27)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.。学习算法和非学习算法的区分之所以比智能算法和普通算法更重要,就因为在现阶段,关键在是不是属于学习算法而非是否表现为智能算法。学习算法不一定表现出智能,表现出智能也未必就是学习算法;但是,从超越现阶段的更高层次看,是否智能算法不仅更为重要,而且意味着更根本的区分。因为不管是不是学习算法,或者说不管是什么样的算法,关键的区别是有没有智能,更确切地说,更基本的区分是智能水平。从图特关于算法进化的五阶段划分,可以清楚地看到这一点。

关于算法的进化,图特通过一个算法复杂性的可能定性尺度,根据算法的发展区分出5个阶段,形成5种类型:“白箱算法”(White Box)“灰箱算法”(Grey Box)“黑箱算法”(Black Box)“知觉算法”(Sentient Box)和“奇点算法”(Singularity Box)。白箱算法是完全确定性的,也就是说,算法只是一组预先确定的指令;灰箱算法是非确定性的,但它的非确定性特征很容易被预测和解释;黑箱算法具有涌现性(emergent proprieties),难以或不可能预测或解释其特性;知觉算法可以通过图灵测试,即已经达到或超过了人类智能;奇点算法具有递归自改进能力,即该算法达到了“奇点”。(28)Tutt Andrew, “An FDA for Algorithms”, Administrative Law Review, 1(2017):83—123.在算法的这5个进化阶段中,最基本也是最关键的是黑箱算法。正是黑箱算法典型地涉及信息的涌现性即信息机制的不可逆性,特别是由此而具有的不可还原性。知觉算法和奇点算法只是在其基础上的发展。“Sentient”指有感觉能力的、有知觉力的,这表明知觉算法开始涉及作为感受性关系的信息层次,人工智能具有发展到信息层次的性质,已经是一个开始具有自主进化机制的智能算法了;而奇点算法则已经进入完全意义上的自主进化,具有日益复杂的伦理属性。

在人类和人工智能关系的进化过程中,自主性既涉及人类,也涉及人工智能;既在更深层次涉及人类的伦理问题,也在更高水平涉及人工智能的通用化发展,从而在更深层次涉及其伦理属性甚至道德地位。自主意味着“自主或自治,‘是建立自己的目标和价值观的能力,并有根据这些决定作出自己的决定和采取行动的自由’”(29)B. C. Stahl, J. Timmermans &B. D. Mittelstadt, “The Ethics of Computing: A Survey of the Computing-Oriented Literature”, Acm Computing Surveys, 4(2016):1—38.。当人工智能进入通用化发展后,人工智能体就存在一个自主性问题。而随着自主性问题的出现,同时也就意味着引发关于人类自主性的更高层次的复杂问题,因为通用人工智能的自主性,必定对人类自主性构成前所未有的影响。实际上,目前关于算法进化的研究,已经深入涉及人类自主性问题。机器智能算法的自主进化,将构成完全不同于传统伦理的更高层次伦理问题。

在通用人工智能核心机制突破过程中,当智能算法在学习算法基础上开始自主进化,在人工智能和人类智能的关系中必定出现空前严峻的伦理问题。对于人类来说,普通算法只是工具性的存在,而智能算法则随着其自主性的发展,逐渐走出工具性地位,并由此真正凸显算法的伦理和更深层次哲学问题。

学习算法是算法进化到智能算法的关键环节,它开始构成与环境间最初级的双向反馈,但在很长一段时间,学习算法离生成通用意义上的智能还很远,智能的通用化必须有智能算法自主性的发展。“但是,学习者没有把石头变成砖石,也没有把金子变成珠宝,而是把数据变成算法。数据越多,算法就越复杂。”(30)Domingos Pedro, “The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World”, Basic Books, (2015):xv.只有在复杂的双向反馈信息机制基础上进一步进化,才可能向智能算法甚至类人智能算法进化。由于智能载体的不同,人工智能算法向类人智能算法进化,可能走向更高层次的智能算法。由此决定了涉及通用人工智能核心机制的研究进路。

在通用人工智能核心机制的研究进路中,最值得关注和研究的是其与人类发展的关联。这就涉及人工智能和人类智能的更深层次关系,特别是二者之间的进化关系,从而涉及人工智能和人类进化伦理关系的更广阔发展前景。

三、智能算法进化中的人机伦理关系

在ChatGPT发布之前,虽然有思想家预见到人工智能发展出现超级智能的前景,但大多数人工智能相关学科的科学家态度都非常谨慎:虽然明确表明不可能的比例不高,但不少人工智能专家认为人工智能只能是人类的补充。这方面的顶尖专家之一、美国卡耐基大学计算机教授曼努埃拉·韦洛索(Manuela Veloso)就认为,自主机器人和人类的能力差别很大。“机器人可能总是有感知、认知和驱动的局限性。它们可能无法完全感知场景,识别或操纵任何物体,无法理解所有的口头或书面语言,也无法在任何地形中导航。我认为机器人将补充人类,而不是取代人类。但是机器人需要知道什么时候该寻求帮助,以及如何表达自己内心的工作方式。”(31)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.这里的感知局限就意味着人工智能没有发展到信息层次。从信息编码特别是信息的物能编码而不是作为感受性关系的信息看,关于人工智能的这种看法是有根据的。只是在信息编码层次,人工智能不可能发展出类人智能,甚至不可能发展出生物智能普遍具有的那种理解能力。因此,韦洛索对于人工智能的发展持非常客观的态度:热情“拥抱机器人—人类世界”(32)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。在ChatGPT发布之后,人们关于人工智能发展的看法发生了很大变化,大型语言模型的空前泛化能力使越来越多的人认为通用人工智能很快到来,甚至人工智能已经通用化。但从信息层次可以看到,大型语言模型的智能仍然局限在信息编码层次。毫无疑问,关于人工智能的发展,相关技术专家的态度可能较为复杂,但一个具有普遍意义的事实是,不管多么专业的科学家,如果光从科学领域看,就容易得出类似韦洛索的结论。只有在科学和哲学一体化甚至更广阔的领域,才能看到更高层次的情景。而另一个与此不无关系的事实则是:无论对超级智能出现的可能性持什么样的观点,人工智能专家都无一例外地关注人工智能和人类之间的协作。

正是由于认为人工智能不可能发展到类人层次,韦洛索展开了将人工智能定位为人类补充的相应研究。为了更好地了解人工智能和人类的合作,他的团队开发了“协作机器人”(CoBots),并“引入了‘共生自主’的概念,使机器人能够向人类或互联网寻求帮助”(33)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。他相信,“如果人类和机器人能够相互帮助和互补,我们所面临的将是一个积极的未来”(34)Veloso Manuela, “Embrace a Robot-Human World, Ethics of Artificial Intelligence: Four Leading Researchers Share Their Concerns and Solutions for Reducing Societal Risks from Intelligent Machines”, Nature, Comments, 521(2015):415—418.。这是一个美好前景,但无疑还只是从人工智能的现实应用出发看到的未来。当人工智能发展到作为感受性关系的信息层次,通用化将不可避免。人工智能发展的未来在通用化,在智能算法通用化进化中的人机关系。由此,已经可以在人工智能的进化中看到伦理问题越来越以一个维度的方式呈现。正是伦理问题呈现为一个维度,在智能算法进化过程中,人机关系的地位问题将全面凸显。与此密切相关的人工智能体道德地位问题,也是相关伦理问题表现为维度方式的智能算法进化呈现。

关于人工智能体道德地位的研究,在更深层次涉及人工智能算法进化中人机关系的伦理基础。诚然,我们可以认为,“人工智能系统是人为的——即蓄意设计的产物——与其道德地位没有根本关系”(35)Bostrom, Nick &Yudkowsky Eliezer, “The Ethics of Artificial Intelligence”, Frankish, Keith &Ramsey, William M. et al., The Cambridge Handbook of Artificial Intelligence, (Cambridge University Press, 2014),316—334.。对于人类来说,局限于专用人工智能考虑,人工智能永远是不足为虑的高级自动化工具;而人工智能真正的机遇和挑战,则是通用人工智能的进化。作为类人智能,通用人工智能的发展一定意味着信息层次的涉及。正是由于涉及作为感受性关系的信息,机器智能进一步深入涉及伦理原则的人机共同基础地位问题。

虽然大多数人都同意那些涉及广泛的伦理原则,但尚不清楚如何将这些原则应用于其他实体,诸如非人类和未来的人工智能。的确,以伦理问题为集中体现,“现在是重新启动哲学中一些最棘手问题研究的时候了”(36)Tegmark Max, “Life 3.0 Being Human in the Age of Artificial Intelligence”, Alfred Knopf, (2017):280.。人类伦理原则要应用于非人类,非人类对象必须和人类构成一定层次上相似的类群(37)王天恩:《人机交会:人工智能进化的类群亲历性》,《上海师范大学学报(哲学社会科学版)》2023年第1期。。这方面已经有一些重要探索,贝兰杰就讨论道,“今天,我们正在各个层次观察人与环境之间复杂的相互作用。堕入一种过时的拉马克主义的过分简化和虚假的安逸之中,这在我们的文化中是存在的。我们的‘数字进化论者’使人们有可能更好地理解数字创新、它们的起源及其在世界不同地区的历史,但它也使人们有可能对人类与其技术进步之间的关系提出新的理解,因为科学正在进步,正在创造新的范式,这使已知的事实更具启发性,而且最重要的是,它为数字创新的研究提出了新的途径。安托万·德·圣埃克苏佩里(Antoine de Saint-Exupéry)指出,‘人的最迷人财富是团结人的工作’。从这一观点看,数字必须被认为是人性发展的一个极好机会:在我们之间创建更伟大的全球关联”(38)Béranger, Jéröme, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc.,2018),181.。由于涉及范式,从中可以看到更深层次的思考。当此问题与信息范式相联系,就可以进一步清楚地看到丰富深刻的具体内容。人类社会发展的数字化,意味着人类存在方式的信息化。由于信息的基本特性是相互性,与作为人类学基本特性的相互性叠加(39)王天恩:《人类信息文明时代的相互性叠加》,《中国社会科学报》2017年10月10日。,将使人类建立在个体充分发展基础上的整体性空前强化。这不仅意味着整体关联的更高层次,而且同时意味着个体间关联的新方式。当这种个体间关联的新方式涉及人机关系时,问题既更重要也更复杂。在尽可能高的整体层次把握人机伦理关系的发展,关系到人类未来的安身立命。

随着人工智能的发展,人机进化关系的发展前景既让人期冀,又使人忧虑。由于代码可能直接植入人脑,人们不能不担心其后果。“到2030至2040年,某个人工智能可能会拥有自己的项目,在没有人类干预的情况下开发新的算法,这种前景可能会带来麻烦,甚至是恐惧。据谷歌的董事们说,从21世纪30年代开始,算法问题可能会进入我们的大脑,因为未来的脑内植入和纳米种植体将直接连接进我们的大脑中。由于能够更好地获取知识,我们的大脑可能会更聪明,但它是否仍然受我们自由意志的支配?这种情况会稍微强化算法忠诚度的观念及其普及所可能带来的影响。在这种情况下,必须正确理解算法处理整体(由数据、算法和做法组成),并保证它也将尽可能透明,了解它能做什么和不能做什么,同时尊重个人和个人尊严。因此,应在科学研究、商业、政府机构、教育和整个民间社会之间开展协作和横向工作,以确保数字巨人不成为影响未来世界伦理规则的唯一保证:‘代码即伦理’(Code is Ethics)!”(40)Béranger &Jéröme, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc.2018),181.面对这样的发展形势,人类必须同时关注两个方面:一是在人工智能——其核心是智能算法——发展的现实过程中,关注智能算法进化中的伦理问题;二是通过尽可能长远的未来把握,在更高整体层次理解和把握人工智能和人类的进化关系。

在人工智能和人类的进化关系中,硬件领域的脑机接口研究是一个重要方面,而算法的人机融合则是另一重要领域。人工智能算法和人类智能算法(或相关机制)的理解和比较研究,将是一个越来越重要的课题,它在根本上涉及信息编码,而信息的数字编码——数字代码则是其中最重要的方面之一。

数字代码已经与人工智能算法进化中的伦理问题直接联系,因此算法代码的含义极为丰富,它们意味着价值的源泉。“由于代码是企业和机构的价值来源,这种价值应通过实施开发质量的实践加以维护。为了提高代码的质量,有必要对系统进行整体的观察和干预,特别是将伦理规则整合进代码,并通过反馈其含义和一个有根据的‘伦理即代码’(Ethics is Code)创建一个促进其实践改进的语境。事实上,我们认为,人类的未来确实一方面取决于算法代码保留人的思想和良知,另一方面取决于保留人与人之间的沟通。这很可能是通过所有信息逐步数字化,并在其中对人类良知进行反思来实现的。”(41)Béranger &Jéröme, “The Algorithmic Code of Ethics”, Ethics at the Bedside of the Digital Revolution, (ISTE Ltd and John Wiley &Sons, Inc. 2018),182.这既是一个人类机器化的过程,同时更是一个机器人性化的过程。从通用人工智能核心机制的研究进路看,正是机器的人性化在根本上涉及更高层次的伦理问题。

在智能机器人性化的探索中,机器伦理学做了很多重要工作。机器伦理学研究意识到,“人工智能或机器人研究的主要目的不仅是开发解决我们问题的先进程序,而且是在机器上再现精神素质。在心智和机器之间没有区别,这是人工智能(AI)倡导者的关键主张,因此他们认为机器伦理像人类伦理一样是有可能的。计算机伦理学传统上侧重于人类使用机器的伦理问题,与此不同,人工智能或机器伦理关注的是机器对人类用户的行为以及这些互动的伦理性,或许也包括对其他机器的行为。根据人工智能科学家的说法,机器伦理学的最终目标是创造一种机器,它自身遵循理想的伦理原则或一套原则;也就是说,它在就自己可能采取的行动作出决定时以这一原则或这些原则为指导”(42)Nath, Rajakishore &Sahu Vineet, “The Problem of Machine Ethics in Artificial Intelligence”, AI &Society, 35(2020):103—111.。由此可见,机器伦理学一方面将机器作为伦理主体,另一方面又以人类为伦理考量根据。因此,机器伦理学的任务是确保人工智能体的道德行为,而这种道德行为的衡量标准至少不只是就人工智能体之间的关系而言,事实上其更重要的维度是涉及人类。

无论在载体还是机制上,机器智能体都与人类有很大不同,而其伦理行为却在根本上涉及人类,因此关于机器伦理就涉及一些更基本的问题。拉贾基肖尔·纳特(Rajakishore Nath)等认为,在讨论与智能机器人相关的很多哲学问题之前,有些问题必须进一步澄清。“首先,伦理学是不是那类可以计算出来的东西。其次,如果我们认为机器拥有心智,就会引发有关机器的伦理问题。如果我们不把心智和机器区分开来,我们不仅在重新定义人类的心智,而且也在重新定义作为一个整体的社会。除了其他性质,拥有心智是有能力作出自愿的决定和行动。心智的概念是我们伦理思维的核心,这是因为人类心智具有自我意识,而这是机器还不具备的特性。”(43)Nath, Rajakishore &Sahu Vineet, “The Problem of Machine Ethics in Artificial Intelligence”, AI &Society, 35(2020):103—111.把机器智能放到人类心智的层次讨论,应当是真正深化人工智能理解的基础。而要真正达到二者关系的更深入理解,则不仅要在智能进化中理解伦理问题,而且必须澄清并抽离人类智能和人工智能的不同:机器载体和生物载体所决定的各自不同特性。这就涉及人工智能和人类智能基础上新的智能进化,由此可以在人类智能和人工智能进化的基础上,看到智能进化的更高层次前景:广义智能进化——这是关于人机关系研究的一个更深层次课题。

作为更高层次的智能进化,广义智能进化建立在人工智能进化和人类智能进化的基础上,因而提供了更高层次的整体观照。在广义智能进化层次,对人机关系可以有一个具有更深层次根据的理解。以往关于智能进化的研究主要指生物智能进化,人工智能算法的进化为更高层次的智能进化研究创造了条件。在人工智能算法进化研究的基础上,通过其与人类智能进化关系的深入探索,广义智能进化将不仅成为涉及人机关系,而且成为涉及人类未来发展的新研究领域。在广义智能进化基础上,人机伦理关系也将进入一个复杂的更高层次。