重构智能机器时代的社会伦理道德

□ 文/刘言

我们置身于一个丰富多彩的世界，也生活在一个困惑和焦虑的时代。现代科技的每一次跨越，总会引发人们对社会伦理道德的忧虑。就像一只蚂蚁永远无法阻止我们前进一样，人类想阻止人工智能的想法也已经不可能了。人工智能正以人们意想不到的方式融入人类社会。“人类决策者会因为没有掌握全部相关信息或没有考虑到所有偶发事件而做出糟糕的选择，所以也许只有在一场未预料到的灾难发生之后，人类才会发现他们所依赖的（软硬件）机器人的不完善。”

著名伦理学家、耶鲁大学生物伦理学跨学科中心主管温德尔·瓦拉赫与国际知名认知科学哲学家、美国印第安纳大学教授科林·艾伦认为，机器道德关乎人类的决策行为。他们在《道德机器：如何让机器人明辨是非》一书中指出，不要把责任推给机器，“我们必须更加坚守人类的价值观和伦理”，我们需要确保机器人不会吸收和加重我们的偏颇之处。

“机器需要讲道德，”这是英国皇家标准协会最新标准《机器人和机器系统的伦理设计和应用指南》（BS8611）的硬性规定。随着机器人越来越智能和普遍，自动化机器终将在不可预知的情形下做出生死攸关的决定，从而具备—或至少表面上具备—道德主体资格。那么，如果有一天AI的能力超过人类，是否会反过来统治人类呢？包括霍金、马斯克在内的科技巨人都曾警示，“人类不应低估人工智能发展可能带来的严重后果。” “机器越自由，就越需要道德准则。”在本书中，作者通过强调两个维度—针对道德相关事实的自主性维度和敏感性维度，给出一个关于日趋复杂的AMAs（人工道德智能体）轨迹的理解框架，以“评估它们面对的选项的伦理可接受性”。

机器的智能化正在逐步深入到生活领域，但是，机器人之“人”终究不是人类之“人”。“在当前的技术水平下，我们不能‘谴责’机器人。机器人尚未达到为自己的决策负责的水平。”但作者认为，随着机器变得更加复杂，一种“功能性道德”在技术上变得可能，它可以使机器自身有能力来接近并响应道德挑战。

现代科技推动了人类社会进步，希望我们的结局不会像电影《黑客帝国》里那样—机器彻底推翻了人类的统治，人类的肉体被养殖，精神存活在网络构建的虚拟世界里—“人类迫切需要确保机器人的设计符合道德规范”，以维护人类的社会价值观和社会伦理道德。在本书中，作者不但很自然地导入“人类是否想要计算机做道德决策”，还将注意力转向道德决策的具体执行上。在作品中，作者以生动的案例勾勒出科学家和工程师必须向彼此所提供的东西，并详细地描述了设计AMAs的自上而下式进路和自下而上式或发展的一个基本框架。其中，不仅讨论了基于规则和基于责任的伦理学概念的可计算性与可实践性，还论证了AMAs的不同程序化进路的优势和劣势，然后以一种哲学和认知的复杂、周密的方式为工程AMAs做铺垫，“至于未来的机器人是不是‘真的’道德主体，这无关紧要。（作者坚信）我们有可能设计、建造出能够考量法律和道德因素而去实施决策的系统……”