智能机器人伦理道德问题探析——观电影《机械姬》有感

马承凤 （南京林业大学 马克思主义学院 210000）

电影《机械姬》中描述的人形智能机器人不仅拥有逼真的人形外貌，而且其智力水平远超人类。人工智能新技术在社会生活多领域的广泛应用为人们带来了极大便捷，具有深刻变革世界的革命性力量，同时也是远未成熟的颠覆性技术，其可能导致的安全性问题、伦理道德问题尚难准确预料。随着机器人领域的科技发展，未来智能机器人可能会越来越聪明灵活，具备自主性和认知能力，甚至超越人类。因此，人们需要在机器人能力还未达到人类之前就要寻找预防性解决办法，准确把握人工智能的发展轨道，深刻思考人工智能可能导致的安全性问题和伦理道德问题。

一、什么是人工智能和智能机器人

1920年，捷克剧作家卡雷尔·卡佩克在他的科幻剧本《罗萨姆的万能机器人》首次提出“机器人”这个词，并且将机器人描述为像人一样的机器。从此，“机器人”一词广泛流传使用。从1961年美国第一台工业机器人的问世到机器人大规模应用的今天，机器人主要经历了三个发展阶段，分别为第一代、第二代和第三代机器人。第三代机器人也就是智能机器人，智能机器人是“一种能够在各种环境中自主地或交互地执行各种拟人任务的机器人”。不同于普通工业机器人，智能机器人具有行走、感知周围环境变化、独立思考和解决复杂问题的能力。智能机器人是由机器人学、人工智能、自动控制和材料工程等学科相互交叉的边缘性科学，但国际上至今仍没有统一公认的定义。

1950年，被誉为“人工智能之父”的阿兰·图灵在论文《计算机器与智能》中提出了著名的“图灵测试”重要概念，“图灵测试”是用于衡量人工智能的重要标准，文章中首次提出机器人具有思考学习的可能性。直到1956年，“人工智能”的概念才正式在达特矛斯会议上被约翰·麦卡锡首次提出。人工智能是用人工的方法在机器上实现的智能，或者说是人类智能在机器上的模拟，因此又可称之为机器智能。

二、我国人工智能领域的发展现状

人工智能作为新一轮产业变革的核心驱动力和引领未来发展的战略技术，2017年2月，成功入选“十三五”新兴产业规划；3月，被写入政府工作报告；7月，国务院印发《新一代人工智能发展规划》，其上升为国家战略，提出要在2030年前成为“世界主要人工智能创新中心”。2018年3月和2019年3月的政府工作报告中，均强调指出要加快新兴产业发展，推动人工智能等研发应用，培育新一代信息技术等新兴产业集群壮大数字经济。

目前，我国多个单项技术处于世界领先水平，比如语音识别、视觉识别、机器翻译和中文处理等技术。全球最值得关注的100家人工智能企业中有27家中国企业，其中腾讯、阿里云、百度、科大讯飞等企业成为全球人工智能领域的引领者。但是整体水平与发达国家仍有较大差距，比如在高精尖零部件、技术工业设计和大型智能系统等方面还存在较大提升空间。

三、智能机器人的伦理道德问题

《机械姬》描述了一名神秘的亿万富翁纳森邀请一位赢得公司幸运大奖的程序员迦勒到他的别墅共度一周。其实迦勒被邀请的背后原因是对人工智能机器人“艾娃”进行“图灵测试”。测试中，“艾娃”利用他的感情来帮助自己做好周密的逃跑计划，影片的最后“艾娃”在迦勒和女性机器人“京子”的帮助下顺利出逃，杀死了纳森，并将帮助它的迦勒困在了系统故障的研究所内。《机械姬》中最有趣的就是人工智能机器人“艾娃”和女性机器人“京子”，前者让人类对机器人产生了感情，后者则和人类发生了亲密关系。影片勾起了人们对机器人伦理道德问题的思考。

（一）基于伦理道德对人工智能机器人“艾娃”的角色分析

影片中人工智能机器人“艾娃”具有人类才具有的认知能力和意识，它向往人类社会的生活，为了逃出研究所，人工智能机器人“艾娃”实施一系列出逃策略，故意服从人类指令，利用人类迦勒的感情，杀死创造它的人类纳森，最终成功逃脱研究所。从整个影片看来，人工智能机器人“艾娃”已具备了与人类类似的自我意识，那么限制它的自由、剥夺它的自主能力或者强迫它成为人类的附属品或是不道德的。

影片构想人工智能机器人可能给人类带来的负面影响和安全威胁以及人工智能机器人可能带来的不确定性和未知风险，这就是人工智能技术应用中的技术风险，可以理解为技术发展应用的不确定性以及技术主体不期望的结果发生的概率。影片中出现的负面形象加剧了人们对人工智能机器人的担忧。目前，尽管人类是否真的很想制造出很像人类的人工智能机器人，但是机器人领域仍在继续发展。因此，人们不该去简单地限制或者阻止技术的进步，而应积极面对现实问题，比如人们能够接受机器人对人们生活上有多大程度的影响，如何预防机器人造成的事故、故意伤害或犯罪，以及如何预防机器人具有反社会倾向和能力，并确保其对人类的有益性。正如艾萨克·阿西莫夫提出的“机器人学三定律”，此后又添加了“第零法则”，这表明机器人是人类制作并服务于人类生活生产的，从生命伦理角度看，保障人类的生命安全就是最基本的伦理道德原则。

（二）基于伦理道德对女性机器人“京子”的角色分析

影片中女性机器人“京子”是被老板纳森设计成有着模特般身材和靓丽容貌的美女，但它并不会说话也听不懂人类语言，它主要负责家务、陪护以及为老板提供性服务。不过在人们的现实生活中也有着类似影片中的情况，比如2010年美国“真实伴侣”公司推出的全世界第一款性爱机器人洛克斯（Roxxxy），其就是专门提供性服务的机器人，这不可避免地冲击着人们的传统道德观念。性爱机器人的设计理念是机械地模仿人类，使得机器人发生性关系像是与真实的人发生一样，而机器人本身并没有任何欲望，这可能会导致人类误以为出于真爱与机器人发生亲密关系。在英剧《真实的人类》中，由于男主启动了保姆机器人“阿妮塔”的性爱程序导致他的妻子对此感到非常厌恶并对他们的婚姻感情产生极大负面影响。因此，性爱机器人将在一定程度上冲击人们的婚恋家庭伦理和人类道德观念。

四、小结

人工智能技术的发展使得机器人的应用对人类生产生活的影响越来越深刻广泛，准确把握机器人与人类的关系对创制机器人时纳入合理的伦理道德理念十分重要。机器人是人类思维实践化具体化的产物，人类是机器人的创造者，机器人是人类大脑的模拟化结果。人类的伦理道德发展程度决定了机器人的伦理道德发展程度。人类的道德虽是由占统治地位的统治阶级的思想形成的上层建筑，但是从根本上来说是由生产力的发展水平及其与生产关系的相互作用决定的。因此，机器人的发展不仅仅是自身技术发展的问题，更是人类构建人性化伦理道德体系所不可避免的问题。机器人对人类的影响是复杂多变的，如果人类不够谨慎对待机器人的伦理道德问题，那么就要承受该技术可能带来的负面伤害。