当代人工智能技术发展中的伦理问题研究

吴恺

〔摘要〕 随着当代技术领域的革新和进步，人工智能技术的相关伦理问题日益凸显。目前，人工智能技术发展中的伦理问题存在人工智能的“权利”、人工智能事故的责任认定、人工智能的道德地位等方面的问题。为此，应加强人工智能技术的国际交流与合作，在人工智能技术中融入更多哲学和伦理学的思考，以生态价值观推动人工智能技术的发展，增强科学家的道德责任感，积极构建有关人工智能技术的法律规范。

〔关键词〕 人工智能技术;伦理道德;生态价值观;法律法规

〔中图分类号〕TP18   〔文献标识码〕A 〔文章编号〕1009-1203（2019）03-0065-04

作为计算机科学分支的人工智能，是研发用于模拟、延伸和扩展人的智能的理论、方法及其应用的一门新兴技术科学。人工智能通过解析人类智能的本质，力图研制出一种能以与人类智能相似的方式作出反应的智能机器，该领域的研发包括机器人、语言模拟、图像识别、自然语言处理和专家系统等 〔1 〕。随着现代科学技术的蓬勃发展，人工智能已经逐渐渗透到了人类工作和生活的方方面面，与人工智能相关的伦理问题也日益凸显。人工智能技术发展中伦理问题的发现和解决，势必促进人工智能技术的健康发展，使其更好地为经济社会发展和人民美好生活服务。

一、人工智能技术的发展历程

人工智能技术是一门综合性很强的学科，再加上心理学、生理学、数学、哲学等对其的贡献，各种关于人工智能的新思想、新理论、新技术层出不穷 〔2 〕。人工智能技术经过几十年的发展，对人类社会的影响与日俱增，其应用领域也越来越广泛，如今，人工智能技术已经用于军事、安保、图像识别、无人驾驶、股票分析、太空船航行、生物控制等众多领域。

早在古希腊时期，亚里士多德就开始了对人类思维规律的研究。近代，英国科学家乔治·布尔创立了逻辑代数，英国数学家巴贝奇致力于差分机和分析机的研究，英国数学家图灵提出了理想计算机模型，并创立了自动机理论，这些早期的研究为现代人工智能的出现奠定了理论基础。在1963年后，人工智能技术的发展进入了新的阶段，人类在自然语言通讯方面取得突破性进展，人工智能的目标主要在于如何让计算机理解自然语言、准确回答问题、自动分析图像或图形等。20世纪70年代出现了专家系统，可以模拟人类专家的知识和经验来解决特定问题，这促进了人工智能从理论研究走向实际应用的突破。20世纪80年代，专家系统在医疗、化学、地质等领域取得了一系列成功，使人工智能在应用方面达到了一个高峰。20世纪90年代之后，由于互联网技术的发展，让人工智能技术进一步走向实用化。1997年5月，IBM公司研制的“深蓝”成为战胜国际象棋世界冠军卡斯帕罗夫的第一个计算机系统。2016年3月，阿尔法围棋与围棋世界冠军、职业九段棋手李世石进行围棋人机大战，以4比1的总比分获胜。这标志着人工智能系统在某些领域可以达到人类的最高水平。2017年10月，在沙特阿拉伯利雅得举行的“未来投资倡议”大会上，机器人“索菲亚”被授予沙特公民身份，成为全球首个获得公民身份的机器人。2018年11月22日，在“伟大的变革——庆祝改革开放40周年大型展览”上，第三代国产骨科手术机器人“天玑”进行了模拟手术的展示。这众多成就的取得，对人工智能的研究起到了巨大推动作用，也促使世界各国大力关注人工智能技术的伦理问题。

二、当代人工智能技术发展中遇到的伦理问题

随着社会的不断发展，各行各业的分工越来越精细，尤其是在现代生产中，各种职业病层出不穷，于是人们强烈希望用某种机器去代替自己工作，因此人们研制出了人工智能机器人，用来代替人类去完成那些单调、枯燥或危险的工作。虽然用人工智能代替人類去完成部分工作解决了某些人类不易完成的问题，并在很大程度上提高了工作效率，但人工智能的问世，必然会使一部分人失去原来的工作，出现“人工智能上岗，人将下岗”的情况，从而有意无意地剥夺了人们劳动和就业的权利，出现人类与人工智能在就业上的冲突。此外，随着生命技术、信息技术、纳米技术等新领域的发展，人类与人工智能之间的结合越来越紧密，将来我们有可能生活在一个充满各种“混合人”的世界里，比如会出现“人与动物的结合体”“人与机器的结合体”等 〔3 〕。可见，对人工智能伦理问题的思考终将成为人类不可回避的问题。具体来说，人工智能发展可能导致的伦理问题包括如下方面：

第一，人工智能的“权利”问题。在人工智能技术快速发展的背景下，各种“智能生命”陆续问世，使得人类的人权受到了前所未有的挑战。随着人工智能应用领域的广泛，以往只是从事简单体力劳动的智能机器人具有了不同程度的感知能力及“人性”，机器人代替人类工作已不再是神话。这一方面给人类生活带来了便利和福音，但另一方面也使得越来越尖锐的人权伦理问题摆在了人类面前，如人工智能是否会危害人类的生命和健康、侵犯人类的尊严和隐私、破坏人类的自由等。现在人工智能的表情和行为是通过内部软件来控制的，通过相关程序的设定，可以使人工智能具有人的某些特性。从某些方面的能力来看，如记忆、运算等，由电脑武装起来的人工智能已远远超过了人类。随着人类与人工智能的交集越来越大，我们是否应该给人工智能以等同于人类的“权利”？有反对者认为：我们不需要太强大的人工智能机器人，也不能给它任何“权利”;让人工智能拥有“人权”，就违背了“人工智能机器人三大法则”，就是放弃人类对人工智能的管控，这将间接危害到人类。而赞成者认为：如果人工智能机器人有“道德良知”，能与人类互动，他们就应该享有一定程度的权利。

第二，人工智能事故的责任认定问题。当今，人工智能技术发生了翻天覆地的变化，且正以惊人的速度向服务业、娱乐业、军事、农业、教育等领域扩展。人工智能产品在给人类带来帮助的同时也让人非常纠结，因为某些人工智能有学习的功能，能“自学成才”。也就是说，一段时间之后，它会像人一样，根据自己的所“见”所“想”自作主张。与此同时，用于规范人工智能相关行为的规则远远没有跟上，这使得人工智能技术的责任伦理问题越来越明显，其争论的焦点在于由谁来负责人工智能技术所引发事故的责任。于是，对人工智能可能带来的各种后果，人们产生了极大的恐慌和担忧。例如，随着人工智能替代了更多人力劳动后，谁来负责不断加剧的失业率;医疗行业用于诊断的专家系统如果出现失误，所导致的医疗事故由谁来负责;股市预测系统给股民带来的损失由谁来赔偿，等等 〔4 〕。再比如，如果出现机器伤害人类的事故，是机器的责任还是其设计者和使用者的责任？因此，不管是人工智能技术相关领域的政策制定者、科研人员，还是人工智能技术的使用者，都应担负起相应的伦理责任。现代技术的突飞猛进，要求我们更深入地关心人类的前途和命运，不能随意将技术的进步作为人类和自然界相互较量的“赌注”。

第三，人工智能的道德地位问题。一种事物如果拥有道德地位，人类就应对其承担相应的伦理义务。如果我们否定智能机器人的道德地位和社会身份，我们就可以用任何自己喜欢的方式来对待它，而没有仁慈或残酷的区别。但事实上，不顾及人工智能的道德地位而为所欲为，就会与我们的传统伦理相违背。当前机器人的“人格化”是一个大的发展趋势，家用服务型机器人除了能替人们完成一些枯燥的工作外，还能进行复杂的有交互性质的行为，如收获果实、辅助医疗等，甚至还可以在一定程度上满足人类的情感需要。在“人形交互式机器人”这个新兴领域，还逐渐实现了情感交流、言语感知、知识学习等新功能。如果人们对具备“情感”的人工智能机器人任意指使、传唤、谩骂、殴打，就明显违背了人类公认的道德标准。

三、当代人工智能技术伦理问题之成因

人类研发人工智能的初衷是让人工智更好地服务人类社会，为人类生活带来便利，但当人类越来越依赖人工智能的时候，我们必须正视人工智能可能带来的威胁。其中人工智能技术带来的伦理问题不仅真实存在，而且也必将会愈发突出。通过对人工智能所引发的伦理问题的分析，我们可以从以下几个方面来探讨人工智能伦理问题的成因：

第一，技术上的局限性。目前，人工智能技术已经应用于各行各业，大到军事武器、航空航天，小到家用电器、儿童玩具等。人工智能技术的发展给人类带来了巨大的便利，其未来前景可观且潜力无限。但当前人工智能在技术上存在的不足导致了很多伦理上的问题，这些伦理问题成为了人工智能技术发展道路上的“拦路虎”。例如，目前的战争机器人还无法准确区分平民和战斗人员，也无法分辨出哪些人是伤兵，或者哪些建筑是符合战争法中规定的可打击目标，他们只是按照人类既定程序去执行命令，没有人类判断力和识别力的战争机器人无法判断“命令”的对错，也无法停止执行错误的“命令”。如果使用者滥用各种“命令”，其后果将不堪设想。因此人工智能技术自身的局限性带来了伦理问题。

第二，伦理规制的缺乏。当今，与人工智能相关的现有伦理规制已远远落后于人工智能技术发展速度，而人们对人工智能技术伦理规制的重视不足，导致新的人工智能伦理规制制定进展缓慢，人工智能技术相关伦理规制的缺失造成大量伦理问题的产生。例如，当我们的某些情绪找不到人发泄时，就可以向“智能聊天机器人”宣泄;但如果长时间与“智能聊天机器人”进行沟通，将不可避免地会对“智能聊天机器人”产生情感上的依赖，这容易引发心理疾病或其他不良后果。但是，今天还没有任何规范人与“智能聊天机器人”交往的伦理道德规范，这一问题已引起了越来越多学者的关注。

第三，政策法规的滞后与不完善。随着人们对人工智能研究的深入，关于人工智能技术的伦理道德原则也逐渐引起人们的关注。关于人工智能的规范，在人工智能发展的早期，美国科幻作家阿西莫夫就曾给出了著名的“机器人学三定律”：一是机器人不得伤害人类，也不得见人受到伤害而袖手旁观;二是机器人必须服从人的命令;三是机器人必须保护自己，但不得违反第一、第二条定律 〔5 〕。2005年，欧洲人工智能领域的顶尖专家共同成立了“机器人伦理学研究室”，主要致力于为人工智能技术的研发制定合理的伦理原则。2007年，韩国政府出台了“机器人宪章”，旨在对机器人的设计、生产和应用给予指导。同年，日本千叶大学也制定了关于智能机器人研究的规定——“千叶大学机器人宪章”，强调人工智能研发的初衷是保护人类、服务人类，为人类创造和平的发展环境。2017年9月，联合国“犯罪和司法研究所”决定在海牙成立第一个联合国人工智能和机器人中心，以规范人工智能技术的发展。當然，这些规范虽然很明确，但无法适应复杂的人工智能活动。人工智能技术作为一种新兴技术，其发展时间还不长，与其相关的人权、环境、责任等伦理问题基本都超出了现有法律的范围。这些伦理问题的出现，目前只能借助科学家的道德素养和社会舆论的监督来规范和约束，很难利用法律途径对其有效解决。因此，关于人工智能技术领域的相关法律法规还需要不断进行补充和完善。

四、人工智能技术伦理问题的解决对策

通过对人工智能技术伦理问题成因的分析，我们可以从技术、道德法律、人类自身等层面采取相应的应对策略，来解决这些伦理问题，使人工智能技术更好地造福于人类。具体来讲，应做到以下几点：

第一，加强人工智能技术的国际交流与合作。现在人工智能逐渐得到了世界各个国家的重视，与空间技术、能源技术并称为世界三大尖端技术。人工智能技术属于一个正在发展并有极大提升空间的新技术，它还存在很多技术方面的不足。通过国际间的合作与交流，人工智能技术提升的空间会更大，其解决问题的能力也会更强大。如果各国能加强人工智能技术的交流与合作，人工智能技术的发展必将迎来新的突破。对人工智能技术领域的管理，也要加强国际间的合作，要坚决反对违反国际条例的人工智能科研计划，并按照相关法律法规和国际惯例对人工智能技术进行严格管理 〔6 〕。

第二，在人工智能技术中融入更多哲学和伦理学的思考。尽管目前关于人工智能技术的哲学思考比较丰富，但几乎都只是建立在纯学术领域，且更多是对人工智能的现象进行思辨，这对解决人工智能技术的伦理问题没有太多实质性帮助。因为人工智能的研发和实施人员优先考虑的是科技的合理性、高效性和经济性，很少注重构建相应的伦理体系，这往往导致技术预测不到位，对人工智能发展的很多后果都预测不到。相比于社会大众来说，人工智能研发和实施人员对人工智能技术可能存在的危害会更清楚。如果他们在研发人工智能技术时，能像哲学家那样对人的情感、人的认知、社会伦理等方面有更周全的考虑，就能避免很多伦理困境。只有加强人工智能技术领域研发、实施人员与哲学家之间的交流与合作，将更多哲学思考融入人工智能技术，才能使人工智能技术更人性化、生态化、和谐化，并有助于各种人工智能技术伦理问题之解决。

第三，以生态价值观推动人工智能技术的发展。对生态价值观的践行，有助于人们正确认识技术实践的双重效应，矫正技术理性的片面发展，化解技术发展的消极后果，推动技术实践的绿色和生态化转向。如何使人工智能技术更好地发展？人工智能技术将走向何方？对于任何一项人工智能技术，必须考虑它是否破坏环境，是否对人类的身心健康有害，是否会带来新的伦理道德问题或引起国际间的冲突。对生态价值观的践行，将对包括人工智能技术在内的高新技术提出更高的要求，这对人工智能技术的发展既是一种挑战也是一种机遇。对人工智能技术来说，确保其与生态价值观相符合，不违背生态文明建设的目标，将是未来发展的一种方向。

第四，增强科学家的道德责任感。爱因斯坦曾指出，怎样使用科学技术，究竟是给人类带来幸福还是带来灾难，全取决于人自己，而不取决于工具本身 〔7 〕。人工智能技术产生的一些伦理问题往往是由于科学家缺乏道德义务和道德责任。有些科学家将自己封闭于单纯开发技术的狭隘空间，对社会道德责任处于无意识的状态，这导致他们很容易被某些别有用心的政治家利用，使他们自己及他们擅长的技术成为这些政治家的工具。因此，提高科学家的道德责任感十分必要。一方面，科学家应以辩证的态度开展自己的工作，能够清晰认识到人工智能技术既能造福人类，也能毁灭人类。另一方面，科学家应该有长远的眼光，不要為短暂的私利而开发出不符合人类道德的产品，而应该以仁爱、和谐、生态、可持续等积极理念去开发造福于人类的技术。当人工智能科学家的道德素养达到足够高的境界时，他们会自动摆正人工智能技术发展的方向盘，将人工智能带向更美好的明天。

第五，积极构建有关人工智能技术的法律规范。俗话说，“没有规矩，不成方圆”，目前针对人工智能技术的相关立法，如数字安全法、个人信息保护法等，我国已经有了初步的规划，但规范人工智能技术发展的正式立法还未出台。只有正式立法才能构建人工智能技术发展的刚性原则，并将其落实到人工智能技术新产品生产的各个环节中。鉴于人工智能技术的发展给人类带来的诸多隐患，我国应积极关注国外已经出现、国内尚未出现的人工智能技术伦理问题，并尽早出台有关人工智能技术的法律法规。此外，人工智能技术伦理问题也应得到国际社会的高度重视，并早日制定一部通用性国际法律，以引导人工智能技术的发展。在此基础上，以这部通用法律为指导，各个国家可以制定与本国国情相符的人工智能技术相关法律法规，并对其严格执行，这将使人工智能技术的发展之路充满光明。

总之，人工智能技术的发展是当今社会发展的必然趋势。正如习近平总书记在十九届第九次中央政治局集体学习时所指出的：“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁效应。” 〔8 〕虽然当代人工智能的发展引发了不少伦理问题，但只要我们坚持以人为本，把握好其发展尺度，确定好其发展原则，就必将使人工智能真正服务于人类的幸福安康。

〔参 考 文 献〕

〔1〕陈立鹏.人工智能引发的科学技术伦理问题〔J〕.文学教育，2012（08）：130.

〔2〕谭 印.人工智能在计算机网络技术中的应用〔J〕.通讯世界，2017（06）：53-54.

〔3〕张显峰，程宇婕.情感机器人：技术与伦理的双重困境〔N〕.科技日报，2009-04-21（05）.

〔4〕陈 静.科技与伦理走向融合——论人工智能技术的人文化〔J〕.学术界，2017（09）：102-111.

〔5〕易重华，鲁再书.对机器人恐慌的哲学根源和消解〔J〕.劳动保障世界，2016（17）：67-68.

〔6〕张桂娟，刁生富.三元结构社会的新问题：人与半机器人和机器人的相处之道〔J〕.未来与发展，2017（11）：53-58.

〔7〕赵 博.网络技术伦理的理性思考〔J〕.黑龙江史志，2010（06）：57-58.

〔8〕习近平：推动我国新一代人工智能健康发展〔J〕.中国信息安全，2018（12）：28-29.

责任编辑 徐 芳