智能机器人的伦理问题与应对策略

褚浩宇

（中原工学院，郑州 450007）

自1962 年第一台工业机器人在美国诞生，到现在与脱胎于计算机技术的人工智能高度结合,机器人的智能化程度越来越高，实现了自行捕捉、分析、决策、运转的高自主自治性运作的质的飞跃。智能机器人不但改变了人类的生活、思维及认知，而且展现出更多“人”的特征，其数据捕获、分析和处理能力不断发展，并以一种“人”的角色参与到人类生活中，由此也衍生了诸多伦理问题。因此，谨慎对待智能机器人“双刃剑”特性带来的问题，思考如何紧握这把“前行利器”并提出针对性策略十分必要。

1 智能机器人的应用领域及特征

1.1 智能机器人的应用领域

智能机器人为人类分担了诸多高风险和高难度的工作。在工业方面，智能机器人接手了大量的简单重复性工作，在运用和普及率方面呈上升趋势。在制造业方面，智能机器人替代了越来越多的人工作业。在金融业，智能机器人被逐步运用到银行与客户、信贷房贷等互动环节。在医疗方面，智能机器人的应用促使了手术低误差甚至是零误差的实现，并且其类“人”性也运用于精神类患者的陪同和治疗上。在军事上，军用智能机器人的研究和运用仍是时下热点，如“黑熊”、“猎犬”等军用智能机器人可帮助人类完成较危险、艰难的任务，其自动化、高运算、实时反馈等优势成为各国军事发展的重要内容。在服务业，智能机器人不受人类生理局限以及时间和空间的限制，能为人类创造更多的价值。

1.2 智能机器人特征

智能机器人是对人类的表征行为（包含对人类语言、动作）进行捕获，通过内设的计算机运算程序，调用适合的预设算法和函数，对捕获到的信息进行处理、分析并以既定方式对人或周围行为做出反馈的一类机器。其主要特征有：一是能自主捕获外在信息；二是具有自主“判定”和“思维”的能力，能对捕获信息进行独立的判断、分析和抉择；三是能根据预设原则对情景实况做出相应的语言、行动和具体表征上的反馈。

2 智能机器人带来的伦理问题

2.1 智能机器人的道德主体性和对人类尊严的威胁

马克思主义哲学认为意识是人类大脑特有的机能。人类可以能动地改造世界和认识世界，与其他生物的主要区别是人脑具有意识。道德主体包含独立人格、主体意识、独立性和能动性。如今人工智能技术发展迅猛，智能机器人的智能化水平也在逐年提高，符号奠基与语义识别技术得到不断突破，智能机器人在技术足够发达的情况下能否产生类人的独立“意识”，这是值得思考的问题。采用逻辑学演绎推理中的三段论推理：R 代表智能机器人，D 代表独立意识等相关条件，Z 代表社会地位或道德主体性；如果主体R 具有条件D，任何具有条件D 的主体都具有Z，那么主体R也应具有Z。依照目前情况来看，具备条件D 的只有人类。但依照现今人工智能技术的发展速度，在不远的将来如果智能机器人R 实现足够智能化并具备条件D，其对社会地位Z 的享有就非常值得人类思考。[1]虽然目前人类对智能机器人的使用大多让其作为助手和工具无偿提供便利和帮助，但当人工智能与智能机器人的发展水平足够高时，具备了类人的独立意识与思维判断能力，那如何对待智能机器人以及给予其何种地位就非常值得我们思考。[2]依照目前的价值判断，当智能机器人具备了上述能力，人类理应给予智能机器人尊重，但地球生存空间和可用资源有限，若继续将智能机器人视作工具，这很可能与我们的价值判断和普世价值观相违背，我们需要界定这些行为是否会造成新的奴役与压迫。[3]另外，随着技术的不断发展，科学家有望通过“人机结合”方式实现人的“永生”或“强化”。就好比一些影视作品中表现的那样，当科学发展到能对人类大脑信息进行研究、储存和转移的水平，高度智能化的机器人就成了一个可寄宿的客体，人类就有可能脱离肉体的窠臼，实现精神层面的“永生”。但真到了这种程度，这种存在能否被称为人类还很难说，而且这涉及对人类尊严的亵渎，这种存在是对人类生命的延续还是对人类的囚禁或物种的毁灭有待探讨。[4]随之也带来诸多问题，如对人类记忆智能机器人的销毁行径是否构成现有意义上的谋杀；对机器人的常态化操作是否会变为新的禁锢或囚禁。这种类似甚至超越基因编辑的行为绝不是实现了人类的进化，而是一种病态甚至是对人类异化的危险行径。

2.2 智能机器人的价值判断与责任认定

虽然目前智能机器人尚未大范围投入使用，但按其发展趋势，我们必须关注其极有可能带来的价值判断和责任认定问题。如将智能机器人应用于军事，显然人类实时操控所有机器人不太现实，这就需要智能机器人进行自我操作。而根据情景、环境、立场等因素，对目标以及是否符合世界人道主义精神的判定就是摆在人类面前的一大难题。如何不伤及无辜或放弃抵抗的士兵，如何不造成大范围的冰冷屠戮，如何将其自身阵营立场与人道主义精神相结合，做到与人类主观识别相同的程度，并有定量的标准或数据来保证其做出精确的价值判断是十分必要的。[5]智能机器人未来能达到的认知水平和判断水平尚不可知，在复杂情景条件下捕捉的信息能否支撑其做出完全正确的判断存在质疑。如恐怖主义者利用威逼、胁迫等方式把无辜者伪装成敌对目标、阵营立场的倾向性、黑客或恐怖主义的控制入侵等，这些问题人类都难以抉择，所以作为目前主观判断性尚不如人类的智能机器人，在这些问题解决前不应得到大范围使用。

此外，倘若智能机器人由于各种原因在价值判断上出现了问题，进行了错误的行为并带来了一系列连锁反应和后果，这些损失如何追责以及向谁追责也是一大难题。如用于医用和军用的智能机器人在未受到人类实时控制或远程监控下进行自主工作时，其做出的判断和行动是否可靠应引起重视。医疗机器人对待非麻醉状态的病人能否正确捕捉病患实时状态，像人类医生一样酌情恰当地沟通、引导等操作；手术中因特殊情况导致病人手术失败或死亡等情况，责任判定如何划分。[6]该责任认定就存在是追究机器人的责任进行重构改良或销毁，还是追究负责操纵监管的操作员，亦或是生产智能机器人的制造者和厂商的难题。这些对象是否负责、负多少责任、如何惩处都是摆在现有人类法律、安全和稳定方面的大难题。

2.3 智能机器人对个人隐私和社会的冲击

相比人类医生，人工智能医疗对病人隐私考虑得不太周全。机器医疗会将接触到的病人信息保存于云端或存储器，即使人工删除也有办法寻回；机器的“保密性”也不像人类一样存在情感，任何人都有可能获取，即使有加密措施也不能完全阻止，这样病人隐私就有可能被非法窃取。同时，智能机器人能捕获外在信息，并对其进行相应的分析和运算，这势必会将其捕获的信息进行保存或储存至服务器，这些信息就会存在被非法窃取、非正常调取、保密性差、易受攻击等问题。

智能机器人对社会也存在冲击。一是对社会公平的冲击。智能机器人运用在医疗中让以往难以攻克的领域取得了长足进步，也给诸多病患带来生的希望，但其受众仍只是经济能力较高的小部分人群。人类在发现智能机器人医学价值的同时，也应考虑如何推广和普及这项技术，以及在逐步大众化的过程中可能造成的社会问题。如富人和穷人由于收入水平的差距影响其治愈情况和寿命，导致他们今后的社会竞争加剧，进而造成更大的贫富差距并激化社会矛盾，甚至引起国家和社会的动荡。此外，对于专业工作如医疗智能机器人的使用也可能使医生对其精准的数据和高效的运算产生依赖，从而以一种“智能机器人+”的方式降低或削弱行业内技术人员的专业水平和实际操作水准。[7]二是对社会就业的冲击。智能机器人在简单重复性工作上相比人类具有极大优势，很可能完全取代现有大量的流水线工作，进而增加就业压力。特别是其大量应用于手工业，势必对传统手工业者和工厂工人造成冲击。失业者相比智能机器人处于绝对的弱势地位，而其再就业也将成为不可忽视的社会问题，诸如社会无业游民增加、失业者心理健康甚至威胁社会治安稳定，这些都是我们在发展智能机器人的过程中不可忽视的问题。

3 智能机器人伦理问题应对策略

3.1 确保对智能机器人的绝对控制

社会伦理标准是不断发展的，不同时期有不同的伦理标准。评判是否发展和怎样发展智能机器人应站在历史的角度，与时俱进地看待。要注重人民群众才是历史的主体，从世界“人民”的角度和人类自身的伦理构建出发来评判智能机器人的发展，并建立在人类对其绝对控制之上，在现有研究成果如阿西莫夫三定律、美国《Robot Ethics》等有关智能机器人伦理问题的基础上积极汲取营养。即使智能机器人发展到具有独立思考的水平，人类也有方法与手段对其进行控制，如“绝对开关”、“禁令代码”等强制措施。在紧握这把“双刃剑”，保证其不伤害人类利益的前提下，适度公正地对待智能机器人，在可控范围内造福人类。

3.2 坚持伦理观念“外化于物”与“内化于心”

智能机器人在设计时应考虑其潜在的可能性，将人类可接受的道德价值和伦理规范转化为智能机器人的技术功能，最大可能压缩其不可控性和威胁性，使其各项功能的发展符合人类设计的“初心”。同时，遵从道德价值和“伦理物化”的设计方式，在价值判断设计中，将伦理学观点从以往的“旁观者”化为人工智能学科技术设计的“合作者”和“共同体中的医院”，将道德价值与伦理规范整合嵌入到具体的智能机器人设计过程中，将伦理观念“外化于物”。[8]另外，技术设计者如科学家、工程师、设计师等更要将道德价值与伦理规范“内化于心”。当前人们在享受科技快速发展带来便利的同时也逐渐对其发展有了失控的恐慌，因此技术设计者更应牢记其作为技术创造者的责任与使命，时刻铭记发展技术的目的是为了造福人类，从技术的起步、发展阶段投入更多关注，引导其潜在的发展方向指向安全化、道德化，规避危害人类的潜在趋势。加强技术工作者的伦理教育培训，形成与伦理观念相契合的知识和思维体系，以达到更高层次的“道德嵌入”。

3.3 充分发挥制度约束与政策引导作用

政府要充分发挥制度与政策的作用，指导智能机器人技术朝着公平、利民的方向发展，不断提高技术的可行性，并通过适当的动态调整发挥科技政策的推动作用。同时，不局限于理论框架，把目光投向现实世界，善于运用学科结合、社会调研等方法，听取群众心声，了解群众期待的“好技术”，并利用政策手段约束不良发展态势，引导其朝正确方向发展，解决其所带来的社会问题，为科技政策的制定提供伦理基础和道德辩护。