人工智能体中机器语言逻辑设计的规范化

商志鹏

编者按：随着人工智能时代的不断逼近，由它所带来的对人类发展的不确定影响正在不断增大，我们应当确定的是人工智能的发展是以维护人类价值为基础，以实现人类幸福为目标。对人工智能的设计与开发不能仅从技术层面单向发展，更应该考虑的是其应用层面与人的交互及其将会造成的社会影响。因此对人工智能体做出符合人类价值需求的逻辑设计理应是人工智能发展的重点问题，如何将人类对人工智能的理想设计转化成研发人员可以输入的指令判断？如何使人工智能“发乎于情，止止于礼”？这篇文章借助道义逻辑、心智逻辑、行动逻辑等逻辑的发展来对机器语言进行刻画，为实现人工智能体机器语言的逻辑应用提供了可能性。

在当今信息飞速发展的时代，大众对“人工智能”并不陌生。人工智能产业可定义为：“对智能主体（intelligent agent）的研究与设计”，上述智能主体是指一个可以观察周遭环境并作出行动以达至目标的系统。在今年7月于上海召开的2021世界人工智能大会中，业界专业人士就对规范人工智能体机器语言的设计及其应用进行了大量的讨论与宣传。而在当今时代潮流下，我们要做的不应是限制人工智能的发展，而应控制人工智能的发展。而控制人工智能发展的前提就是，认识到人工智能体的发展需遵循一定的底线，在对机器语言的设计时不应仅仅考虑其带来的收益价值，而更应提防其可能产生的危害，因此对人工智能体机器语言的逻辑设计规范化迫在眉睫。

基础人工智能体机器语言的逻辑基础

基础的人工智能算法建立在大量的一阶逻辑基础上，数理逻辑的开创者莱布尼茨就在1673年发明了作为计算机语言基础的二进制语言，设计制作了一台计算机并提出“将出现一种通用代数。在其中，一切推理的正确性将化归于简单的运算。它同时又将是通用语言，但却和目前的一切语言完全不同。其中的字母和字将由理性来确定”的伟大梦想。因此对通用语言的研究成为了计算机语言设计的基础，而逻辑学也因此成为与计算机语言乃至人工智能体语言的重要底层设计。第一个符合通用语言设计的就是布尔代数，它也是计算机电路、人工智能体智能系统逻辑设计的理论基础，计算机中的基础开关器件、运算电路（触发器、寄存器、半全加器等）都起源于布尔代数的应用，而更为复杂逻辑电路如时序逻辑电路、TTL电路、ECL电路、集成电路等组合电路，对其进行描述及分析皆离不開布尔代数的运用。

机器语言的总体呈现依赖于对其逻辑基础的设计，如戴文森-普特南算法（DPLL算法）中所运用的命题逻辑语言，其真值“真”“假”可以对应机器符号语言的“1”“0”，机器语言的合法性可以表现为命题逻辑的“重言式”。命题逻辑作为一种陈述性语言，它的语义是基于语句和可能世界之间的真值关系的。而它的析取式和否定式可以用来处理不完全信息，它的推理可以用来表达大部分常识。而一阶逻辑在命题逻辑的基础上增加了量词，表示关系的谓词符号以及表达推导的函数符号。相比于命题逻辑，一阶逻辑在表达对象与对象之间的关系上进行了扩展，使得表达更为充分。1931年德国数学家哥德尔证明了“不完备性定理”，迫使数学家、逻辑学家、计算机科学家等通过创立更高阶的逻辑语言来寻求出路。陈波教授就认为计算机科学和人工智能将至少是21世纪早期逻辑学发展的主要动力源泉。

人工智能程序设计中的逻辑语言

符号逻辑应用于人工智能程序设计中的验证、分析与综合，弗洛伊德使用归纳逻辑创造出对框图程序，用其验证计算机程序的正确性，而后曼纳运用一阶谓词逻辑将该程序设计为计算机语言，并提出方法对任意程序和相应的入出口条件进行验证;后期霍尔对程序正确性的验证，与程序语义刻画提出程序逻辑，其主要逻辑如下：

（1）A{P}B（A与B为一阶公式，P为程序）;

（2）如果公式A在程序P执行前成立，而后程序P终止;

（3）那么公式B会在程序P执行后成立。

霍尔的程序逻辑衍生出另一种用于验证程序正确性方法——最弱前置谓词方法，其主要逻辑如下：设WP（P）B为满足下列条件的最弱语句，

（1）如果证明公式B使P终止，并且P已完成;

（2）首先证明A{p}B符合霍尔的程序逻辑WP（p，B）;

（3）然后验证A，WP（P，B）来实现

人工智能程序中自动生成领域沿用了以最弱前置谓词方法衍生出的程序形式推导技术，并且程序形式推导技术也应用于对程序设计工具和环境的研究。由于人工智能发展中对程序语言设计的可靠性与可移植性使用更加广泛，形式描述程序设计语言语义学成为人工智能领域语言设计专家的攻坚问题，指称语义学的基础模型论将一个语言成分对应于一个对象域的相应物，相当于模型论中的诠释，但不在乎语言与机器的联系。维也纳开发方法（VDM）就是基于语义学发展的一整套开发软件的工程方法，而后发展的由兰丁创造的操作语义学即把语言的可操作性作为语义，要分辨我们日常语言中可操作性语言的成分，则需要引入补演算语言。

LISP正是以补演算语言为基础构建起来的，也是人工智能中十分重要的程序设计语言。PROLOG作为第五代计算机的核心语言，既是一个逻辑系统也是一个程序设计语言，PROLOG作为一种描述性语言，程序设计者仅仅需要对他所要解释的问题进行描述，而不用推导详细的计算过程，他作为计算机语言远远超过低级的程序设计语言，但是它的基础语言依然是依赖基础逻辑进行合并、析取、否定等进行计算，所以它在机器语言上依然没有摆脱低级程序设计语言的框架。所以PROLOG拥有低级程序设计语言与高级程序设计语言的综合性优势，它可以将数据结构与过程分离，将机器逻辑与实际操作相分离，可以减少变元的赋值，缓解动静态之间的矛盾，可以计算得出多重结果并且推算出逆倒过程。对于程序语言设计者来说，他也不同于高级程序语言那样复杂繁缛，很难上手，操作实现难度大。而后发明的混合型语言，结合了逻辑型设计语言的实现能力强，与函数式设计语言编译效率优越的优势，如LOGLISP语言在保持LISP逻辑型设计语言的丰富功能同时还添加了函数式设计语言的高效率。FUNLOG语言也是这样的综合，PROLOG逻辑型设计语言+函数定义方程设计语言。

继而综合性更高的数据库语言诞生了，它主要分为数据库理论、关系数据库理论、演绎数据库理论与知识库理论。关系数据库的理论运算工具是元组演算，它的发展主要得益于集合论的发展，也可以说是一阶谓词逻辑的发展。如INGRES数据库中的查询语言QUEL语言即是脱胎于元组演算。如何对关系数据库进行规范化是人工智能领域乃至全社会的重要问题，其落脚点主要归因于数据依赖问题，核心是对函数的依赖与函数多值的依赖，而逻辑学家通过形式化的逻辑语言为解决数据依赖问题献上了自己的答案，其中最为著名的是阿姆斯特朗的函数依赖公理系统。

演绎数据库是通常关系数据库中的一种，主要功能是数据间的演绎，如实关系与事实之间的演绎，虚关系与实数据之间的演绎，它主要通过设立具有演绎功能的逻辑规则库，例如可以通过查询数据库的数据库管理系统DB查询实关系，而对于虚关系可以通过逻辑规则库进行证实并且将其转化为实关系，然后通过DBMS数据库管理系统进行查询。通过数据库管理系统的逻辑设计，我们可以将其中运算的数据改为专家性的知识，这样数据库管理系统就会对专家性知识进行自动的识别、调整、归纳甚至对落后的专家性知识进行优化，知识库的整个系统包括从开发到归纳的整个流程都通过逻辑语言进行，这样组成了数据库管理系统中的知识库系统（专家系统）。

人工智能中知识工程领域的逻辑设计

知识工程领域的逻辑语言设计基础是一阶逻辑语言进行静态的形式化设计，而知识的识别、提取、归纳及优化需要依赖于较为高级的模态逻辑语言进行设计，例如知识工程程序的语义设计可以使用时态逻辑等动态逻辑语言进行刻画，对于认知可以通过心智逻辑进行模型化处理，对于信念可以使用信念逻辑，对于日常生活中琐碎无法精确的信息可以采用模糊逻辑，对于一些多值性问题可以通过非单调性逻辑等等，逻辑的应用载体主要是通过推理机。对于人工智能中知识工程领域的逻辑设计已无法局限于经典逻辑的使用，而是要大量采用非经典逻辑系统，人工智能体与一般计算机语言的巨大差别正是在其设计语言中逻辑语言的使用的层次不同。我们已经不满足于机器仅仅能够对简单运算、简单步骤的事物进行处理，而是要让机器具有更高智能，可以具有人类的类比推理能力、归纳学习能力、知识联想能力等复杂思维能力，甚至具有自学习的功能，这样的知识工程设计无疑需要更为复杂的算法与更加强大的算力。

不同阶段人工智能体机器语言的逻辑设计

我们通过对人工智能体机器语言中逻辑设计的辨析去考虑如何从逻辑的底层设计出发，对人工智能体的发展进行规范。

首先我们来探讨弱人工智能（指不能真正推理，只是按照指令行动的智能机器）的机器语言如何设计。弱人工智能是没有自我意识的，它完全按照人类所输入的指令进行推理、行动。所以弱人工智能体的行为规范的实现应该更集中于对其创造人员的行业规范，而其中编写命令所使用的逻辑语言主要是上文所讲到的由“否定”“蕴含”“等值”“量词”等一阶逻辑命题语言组成的语句和推理。

而笔者主要谈论强人工智能（能真正推理，有自我意识的智能机器）的行为规范是否可用逻辑语言实现。首先要明确的是，这里的自我意识并不代表和人一样的自我意识，而是具有建立在更为高阶的推理上产生的“类人意识”。库兹威尔的奇点理论就预言随着神经芯片、量子芯片的研发突破所带来的计算能力的指数增长，机器自我意识的产生只是时间问题。假设强人工智能存在，那它的行为规范能否用逻辑语言实现？道义逻辑也许可以给出解答。

道义逻辑是模态逻辑的分支，研究含有“应当（O）”“允许（P）”“禁止（F）”等道义词的道义命题，它体现了逻辑对人工智能体机器语言的规范化处理。在目前的逻辑中，道义逻辑对人工智能体机器语言的规范化表达无疑是最好的。比如道义逻辑可将阿西莫夫的机器人学三定律做如下表达：①Fa;②Ob∧Fa;③Oc∧Ob∧Fa（其中a，b，c代表具体命题）。而这在道义逻辑中还可以扩展为：Fa≡O～a;～O～ b≡Pb;Ob≡～ P ～ b;Ob≡F ～ b;～Ob≡P ～ b;O～ b≡～ Pb。这表明在一定范围内，道义逻辑是可以表达机器语言的，而想要更加完整地表达人工智能体行为，道义逻辑在机器语言中的应用十分可观。这种依靠邏辑语言表达及推理的逻辑设计也使得人工智能体理解并实现完整的规范行为具有可能性。所以，针对未来更为高阶的人工智能的行为规范实现来说，机器语言中道义逻辑的设计是可以重点研究的方向。但考虑到人工智能体的学习能力是不断增强的，仅仅靠道义逻辑的静态表达是不够的。为了更好地适应变化着的人工智能体智能发展，运用目前逻辑中不断发展的心智逻辑等认知逻辑，行动逻辑等能动性逻辑，并将其两者与道义逻辑相结合是值得期待的。

心智逻辑是研究人类推理的心理学理论，试图通过对人类心理动机及推理的刻画来描绘人类的心智。其中发展最快的两个主流理论是心智逻辑理论（MLT）与心智模型理论（MMT），前者是人类运用推理图示进行推理，后者是通过构造心智模型进行推理。两种理论具有互补性，融合两种理论以建立一个更普遍的、解释力更广泛的，统一的人类演绎推理理论是值得期待的。人工智能通过心智逻辑的刻画具有一些类人的心智状态（如知情意），这对于人工智能更好地理解社会规范提供了可能性。

而行动逻辑通过对“行动”概念的形式化分析与刻画，试图揭示主体的能动结构和构造行动的逻辑。其中西格伯格与贝尔纳普是最重要的两位行动逻辑学家，前者将行动看作一种例行程序，偏向刻画行动的客观方面;而后者将行动看作由主体控制的事件，偏向刻画行动的主观方面。两者虽依然存在理论缺陷，但通过与心智逻辑等认知逻辑相结合，是可能克服的。行动逻辑的刻画，可以使人工智能更好地践行规范化行为。

如果上述各逻辑的发展能在未来得到好的实现，那么人工智能可以首先通过心智逻辑的刻画，以及神经科学、认知科学、心理学等学科的共同努力，产生类似人类的情感（如快乐、愤怒、悲哀、恐惧），这些情感让人工智能不再是理性的工具，而会对所做的行为产生反思，这样就具备了践行规范化行为的基本素质;再通过道义逻辑的刻画，引导它正确判断是非;最后通过行动逻辑的刻画，引导它的行为，这三部分的结合可以使得人工智能体的行为得到大力的规范。

参考文献：

[1]（英）玛格丽特·博登编.人工智能哲学[M].刘西瑞，王汉琦译.上海： 上海译文出版社.2006：119.

[2]Stuart Russel，Peter Norvig.人工智能——一种现代方法[M].3版.姜哲，金奕江，张敏，杨磊等译.北京：人民邮电出版社，2010：184.

[3]陈波.从人工智能看当代逻辑学的发展[J].中山大学学报论丛，2000（02）：10-19.

[4]Horty John F. Agency and Deontic Logic[M]. New York： Oxford University Press， 2001（01）.

[5]赵艺.论心智逻辑理论与心智模型理论融合的可能途径[J].自然辩证法研究， 2005（06）：47-50+93.

[6]王淑庆.论“行动”概念的两种逻辑分析[J].湖南科技大学学报（社会科学版）， 2016，19（02）：31-36.

[7] [美]温德尔·瓦拉赫，科林·艾伦. 道德机器如何让机器人明辨是非[J].王小红 主译.北京：北京大学出版社，2017：26-26.

[8]Cervantes JA， López S， Rodríguez LF， et al. Artificial Moral Agents： A Survey of the Current Status[J]. Science and engineering ethics. 2020， 26（2）： 501-532.

[9]Hansson B. An Analysis of some Deontic Logics[J].Nous，1969，3（4）： 373-398.

[10]馬少平，朱小燕.人工智能[M].北京：清华大学出版社，2016（6）：95.

[11]Kowalski R，Satoh K. Obligation as optimal goal satisfaction[J]. Journal of Philosophical logic，2018，47（4）：579-609.

[12][德]施太格缪勒.当代哲学主流[M].王炳文等译，北京：商务印书馆，1992：144.

[13]Dehghani M，Tomai E，Forbus K D， et al. An Integrated Reasoning Approach to Moral Decision Making[J].Machine Ethics，2008：1280-1286.

[14]Anderson M， Anderson S L. Geneth：A General Ethical Dilemma Analyzer[C]. In Twenty-eighth AAAI conference on artificial intelligence， Quebec， Canada， 2014： 253 –261.

[15]Cervantes J， López S，Rodríguez L. Artificial Moral Agents： A Survey of the Current Status[J]. Science and Engineering Ethics， 2018： 1-32.