人工智能伦理困境与突围

周 翔

(温州商学院，浙江 温州 325035)

一、引言

在信息化时代，人工智能技术的应用引起了社会各界人士的很广泛关注，尤其是伴随着人工智能技术的迅速发展和广泛应用，人们将重心放在人工智能所带来的“伦理问题”上面来，成为人工智能研究发展中不可忽视的议论核心问题。在此情况下如何满足时代发展的高层次需求，如何解决人工智能处于的伦理困境，如何提出有效的突围策略，成为人工智能研究发展过程中首要面对的任务。本文就是对人工智能伦理困境问题与突围策略等问题进行探究。

二、人工智能的伦理困境分析

1.智能驾驶突发事故出现后带来的伦理问题

人工智能技术在智能驾驶领域应用得最为广泛，它与无人驾驶不同，智能驾驶具体是指机器代替人进行驾驶，如驾驶汽车、驾驶轮船、驾驶飞机等，以及在特殊情况下人无法驾驶，而由智能驾驶来代替人进行驾驶。智能驾驶具有解决交通拥挤、提高生产效率、缓解劳动力短期、改善汽车对城市环境污染等重要作用。可以说，智能驾驶的应用在一定程度上促进了国家科技、经济、社会的发展。在这里我们以智能驾驶汽车为例，通过数据证明，智能驾驶汽车发生的交通事故的概率更低，安全系数更高。每年，我国都会发生数量惊人的车祸事故，造成上百万的人员死亡。而探寻其背后原因，大部分交通事故的出现都是因为驾驶人员操作不当所导致，如酒驾、随意变道、高速逆行、疲劳驾驶等，驾驶司机的这些错误行为不仅使自己的生命安全遭受了威胁，还危害了他人的生命安全，而应用智能驾驶则在一定程度上解决了这些问题，智能驾驶与带有主观情绪的驾驶人员相比，更加理性，更加冷静。它们完全按照系统指示进行汽车驾驶，不会因为不良主观想法出现醉驾、疲劳驾驶等行为，这在一定程度上保护了很多人的生命安全，尤其是对于不具备汽车驾驶能力的残疾人、老年人而言，更是提供了出行便利，解决了他们的用车需求。与此同时，通过人工智能技术的运用，智能驾驶汽车在出行路线的选择上还会自主选择人流量较少、红灯较少的行车路线，解决了交通拥挤、环境污染等问题，极大地提高了乘车效率。以上我们阐述了智能驾驶如此多的优点，不可避免的是智能驾驶也会带来严重的伦理问题[1](P167-187)，尤其是智能驾驶出现突发事故之后，智能驾驶无法进行准确判断。尽管与人驾驶汽车而言，智能驾驶汽车出现的交通事故案例比较低，但是并不意味着能够完全实现“零”交通事故。例如，2018年3月发生在美国亚利桑那州坦佩的一起智能驾驶汽车致人死亡事故。这辆智能驾驶汽车是由美国优步技术公司研发的，在驾驶的过程中撞上行人，致使其死亡。由此可见，智能驾驶同样存在严重的安全隐患[2](P30-37)。智能驾驶的出现本身就带有伦理问题，再加上某些特殊场景的出现，导致智能驾驶常常面对更加棘手的伦理困境。我们不妨设置如下场景：一辆载人的智能驾驶汽车正在快速路上正常行驶，但是突然遇到一位小学生误闯到快速路上，这时如果智能驾驶紧急刹车，就会导致后方车辆追尾，车内乘客安全也无法保证；如果放弃紧急刹车，就会撞上小学生。那么智能驾驶汽车究竟该如何做呢？如果驾驶汽车的司机是人，司机可以凭借自身经验，将伤害减到最低，保证小学生的生命安全。可是对于智能司机而言，当它陷入到伦理困境时，并没有办法通过预先设置好的系统作出正确的选择[3](P68-80)。深入分析，我们不难发现智能驾驶改变了传统的人与车之间的关系，带来了一系列的伦理难题。因为在智能驾驶所导致的交通事故中，并不存在驾驶员的过错，那么对责任的判定究竟如何界定？究竟是汽车本身、汽车设计者、汽车使用者还是汽车制造厂商？

2.人工智能虚拟现实技术应用后带来的伦理问题

人工智能虚拟现实技术是多种技术的综合，通过人工智能虚拟现实技术的应用，能够让人感受到很多虚拟的奇幻体验[4](P38-42+63)，甚至一个人可以从精神和身体上进行不同选择，成为不同的人，获得不同的情感体验，与此同时也带来一系列的伦理问题。例如，人工智能医生就是人工智能虚拟现实技术应用的体现，人工智能医生可以通过医疗系统平台实现远距离寻医问诊，甚至可以利用人工智能虚拟现实技术研制出智能机器人，使其进入到患者身体，检查患者身体，并根据具体情况为患者实施专家手术[5](P509-512)。而与此同时带来的伦理问题就是病患无法从机器身上获得情感安慰和信任感，患者可能出现严重的心理问题。例如，利用人工智能虚拟现实技术研发出的电子游戏。很多玩家为了取得胜利，必须使用暴力武器肆无忌惮、想方设法地杀戮对方。而由于这是一场电子游戏对抗，并不会实际对对方玩家造成身体上的伤害，玩家也根本感受不到其中的残酷与血腥。长此以往，玩家会在潜意识里认为为了竞争和获得胜利就应该无所不用其极地去消灭对方，极其容易让人的精神变得麻木，影响人的心理健康发展，甚至会泯灭人性，使人缺乏道德感。在当今社会，我们与各种智能设备打交道，它们充斥于我们的生活中，人们将精神支柱放在手机、电脑等电子智能设备上，离开了它，仿佛已经无法正常的生活。而事实证明，这种虚拟生活并不利于人的精神健康和身体健康，尤其是对于年轻人而言，由于自律能力差，往往沉溺于其中不可自拔，认为只有在虚拟世界才能获得真实感和亲近感，而现实社会无聊，空虚、缺乏乐趣。这就是当今社会人与人之间的关系愈发冷漠的原因。在今天的生活中，我们宁愿拿着手机与陌生人聊天，却不愿意与身边的朋友、同事、父母进行情感交流。随着人工智能虚拟现实技术的研究与发展，其应用前景十分广阔，但是在人工智能虚拟现实技术广泛应用的情况下，势必会产生一定的伦理问题，传统的道德责任情感正在消解。

3.隐私安全被智能系统泄露后带来的伦理问题

在当代社会，网络已经成为我们生活中不可或缺的一部分。在人工智能的基础上，互联网、大数据、云计算等得到了充分的发展。而随着这些智能系统的充分应用，对人们的隐私安全带来了一定的威胁。可以说通过人工智能技术将人的“隐私”透明化，人的秘密难以隐藏。例如，通过大数据采集分析技术，可以轻易地获取人的各种信息，如人的性别、年龄、学历、婚姻状况等。例如，在部分事业单位及企业中将人的各种数据信息存在云端中，但是云端如果一旦被攻击后这些人员的隐私数据则无法保证安全。同时有些智能系统软件通过云计算能够所获得大数据进行深入分析，如将一个人的网络聊天信息、浏览信息网站频率、工作经历、购物网站购物情况等数据收集归纳之后，就可以大致分析出这个人的生活背景、消费水平、兴趣爱好等。从某种程度来说，智能系统比我们自己更加了解自己。在此情况下，如果智能系统所掌握的敏感数据信息被泄露之后或被有心之人盗取之后，做不法之事，必然会给当事人带来严重的伦理困境。在如今的生活中，隐私被侵犯的事件频频发生，如果不采取措施，随着人工智能技术的发展，就会越来越严重。

4.人工智能技术对婚恋家庭带来的伦理问题

近年来，随着人工智能技术的发展，通过人工智能技术的机器人等为婚恋家庭领域带来了严重的风波，人们的敏感神经受到冲击。爱情被称为世界上最美妙的情感，家庭是人生活休息的港湾。而随着人工智能技术的发展对家庭结构和伦理关系造成了巨大冲击。在人工智能研究领域，人工智能机器人的研制备受关注，也是人工智能领域最难以攻克的领域。研究者希望通过人工智能技术，研究出与“人”越来越类似的机器人。很多人畅想在人工智能技术不断发展的情况下，所研究出来的人工智能机器人不仅能够具有人美丽、英俊的外貌特征，如女人可以具有光滑细腻的皮肤、高挑纤细的黄金比例身材、精致动人的容貌等，如男人具有伟岸的身材、健康的体魄、帅气的容貌等，还应具有人的情绪、情感。例如当你生气烦闷时，人工智能机器人会想方设法逗你开心，为你排解忧愁。例如当你做家务时，人工智能机器人可以陪你一起做家务，甚至在你需要情感慰藉时，人工智能机器人可以陪你谈情说爱。而当这一系列畅想在未来某一天真的得以实现之后，人工智能机器人具有人类的外貌特征和人类的自主意识和情感体验，走入到人们的家庭生活之中，扮演人类家庭中需要的保姆、爱人或者孩子。那么人工智能机器人与人是否会产生真正的情感？又是否也会产生利益争夺？我们不妨畅想一下，如果你按照自己的需要定制一个专属人工智能机器人，她美丽可爱、善解人意、勤劳懂事，他英俊迷人、体贴温暖、风趣优雅，具有责任感。人是否会考虑与人工智能机器人建立婚恋家庭。而这样的婚姻形式会对传统的家庭结构造成怎样的冲击？人工智能机器人可以为你提供一个如此优质的爱人，那么人又怎么可能退而求其次与生活中存在缺点、需要磨合的人去构建家庭呢？

5.智能机器人代替人工作后带来的伦理问题

随着人工智能技术的发展，智能技术人大量研发，被广泛应用于各个领域，在一定程度上为企业节约了人力资源成本，提高了生产效率，促进了企业发展，但是智能机器人代替人工作之后势必会带来严重的伦理问题。与人相比，智能机器人不会感到疲累、不会对工作有排斥心理、工作效率比较高，在生产流水线等工作中，显然智能机器人具有明显的优势。而且只需要预先设置好的系统，智能机器人就可以准确无误地进行高效率工作，而人由于每个人的资质和理解能力的不同，即使经过精细的岗位培训，在实际工作的过程中也不可避免地出现错误。在此情况下，未来在工作中，人可能会沦落为“智能机器人”的附庸，则势必会带来人员大量的下岗，人的工作为智能机器人所替代，人不需要再从事工作，人被边缘化，处于失业的挫败心理下，就会衍生出伦理问题。

三、打破人工智能伦理困境的有效突围策略

1.人工智能设计阶段融入伦理理念

在人工智能研究发展的全过程中，设计阶段既是其初始阶段，也是人工智能研究的第一步[6](P87-93)。想要打破人工智能技术所带来的伦理困境，就必须在设计阶段就将伦理理念融入其中。在此基础上进行再进行人工智能研究与发展。而在设计阶段融入伦理理念，意味着人工智能技术自发展初始就带有一定的价值倾向。简单地说，将正确的价值倾向和道德规范理念融入到人工智能技术之中，并通过人工智能技术的研究与发展将正确的价值倾向和道德规范理念呈现出来，必然会使人工智能走向正确的发展道路，为人类美好生活的实现保驾护航。在人工智能设计阶段，有专家学者提出应对人工智能技术进行清晰明确的道德化设计，在人工智能技术中设计道德调节机制来规范使用者的道德理念和行为。具体来说，在人工智能设计阶段融入伦理理念的过程中需要先确定道德设计的方式，究竟是采用隐性道德设计还是选择显性道德设计。如果选择隐性道德设计的人工智能技术设计方式，只需要直接进行道德调解预测机制设计就可以了。如果选择显性道德设计的人工智能技术设计方式，就需要通过以下步骤：第一，概念分析。这就需要邀请伦理专家加入其中，让其帮助来进行人工智能设计。伦理专家具有丰富的伦理知识，能够帮助人工智能设计者确定人工智能的目标价值。在具体的设计情境设计中，伦理专家与人工智能设计者可以对设计的问题和背景进行描述，并对利益相关者进行界定。第二，原型开发。这主要是通过对多种设计方法的综合使用后将所确定的价值目标加入人工智能结构中。例如，在人工智能系统中可以设置“防错模式”，人工智能通过大数据分析运作及与目标偏离的方式，尽量预防错误行为的发生。尤其是人工智能技术被充分应用医疗领域时，这一设计方式能够最大限度地保护患者的生命健康安全。第三，道德调解预测。这一设计使将人工智能的设计语境与使用语境相互联系，这对人工智能设计者提出了较高的要求，作为设计者应该竭尽自己的专业知识和丰富经验进行道德形象设计，并通过想象将人工智能应用于所想象的不同情境之中，在获得结果之后反馈于设计之中，以此来完善道德调解预测机制建设[7](P18-23)。

2.遵循基本伦理原则，实施有效的伦理规制

随着人工智能技术的迅速发展，导致各种伦理问题、冲突矛盾涌现。翻开历史扉页，在科技发展中，人一直作为指导者，在研究发展各科技文明时都牢牢掌控着道德底线，使其处于可控范围之内。对于人类而言，科学技术是一把双刃剑，它既会造福于人类，也会稍有不慎，带给人毁灭性的灾难。而这一切最终的决定权在人的手中，最终的结果如何，取决于人如何运用它。人工智能技术也不例外，运用得当，能够为促进人类美好生活的实现，运用不当，就会使伦理关系、伦理秩序遭到严重破坏，甚至危害到人类的生命财产安全。在充分考虑到人工智能技术带来的伦理困境之后，我们必须在人工智能技术的研究与发展中将伦理、价值等诸多因素进行全面考虑，以此来制约人工智能。这也正是要求人工智能领域遵守伦理原则的重要原因所在。下面我们就具体阐述一下人工智能领域应遵守的伦理原则：第一，以人为本原则。我们之所以对人工智能技术进行研究和发展，最终的目的是使其服务于人类，所以不能本末倒置。在人工智能技术的研究中，应该通过人工智能技术的应用，使其代替人完成高度危险以及无法完成的工作，减轻人的工作风险、工作压力，为人类提供更加美好轻松的生活。而不是让人工智能技术所产生的负面危险危害人类，尤其是在智能机器人的设置中应严格遵循“以人为本”原则，在系统设置中应将“人的安全”排在第一位，要求智能机器人在任何情况下都不能作出对人的生命安全造成威胁的行为[8](P132-142)。同时在人工智能系统中设置“救助模式”，当人类遇到危险时，智能机器人能够自觉提供救助服务。第二，公正平等原则[9](P21-29)。每个生命都是平等的，不应该有高低贵贱之分。因此对于人工智能产品的使用，应该赋予每个公民平等使用的权利，而不是成为有钱人士、有权人士手中的工作。所以国家政府应该进一步完善社会福利保障体系和教育培训体系，使各个区域的人民都能够有使用人工智能机器的机会。第三，公开透明原则。[10](P197-204)在人工智能研究与发展的过程中，应始终坚持公开化、透明化的原则，除了相关部门加强监管以外，伦理委员会人员和社会公众也应该充分应用手中的监督权，对人工智能的研发进行有效的监督，保证智能机器人的研发始终处于可掌握的范围之内，保证智能机器人不会被黑恶势力及别有用心人士利用，危害人类。第四，知情同意原则。当前，人工智能技术被广泛应用于政府部门及企事业中，这些部门将企业将人的数据信息录入到人工智能系统中，这些数据信息属于员工的个人隐私。所以在录入数据信息时应告知员工，获得员工同意。员工只有知情同意之后，政府部门及企事业单位才有权力将员工数据信息录入人工智能系统。与此同时，在将数据信息录入到人工智能系统之后，为了保护员工隐私不受侵犯，避免员工处于伦理困境，单位必须做好人工智能系统的安全保护工作。这就需要人工智能的设计者在人工智能系统中设置安全保护模式，并在系统使用的过程中定时更新维护，进一步保证人工智能系统的安全[11](P35-42)。第五，责任划分原则。在人工智能技术被投入使用的过程中，一旦发生问题，责任的划分至关重要。因此，在人工智能研发和使用的过程中必须根据综合考量道德要素之后，对责任进行明确划分。只有这样，当问题发生后才能够问责到人。例如在上文我们提到过智能驾驶汽车撞到行人，导致其行人死亡这一案例。针对这一问题，就需要进行责任划分。首先在充分了解智能驾驶汽车的特殊性质之后，将智能驾驶相关的多元主体一一罗列出来，分别是车辆的研发公司、车辆所有人、软件提供商。然后在依据具体的事故，在具体情况下划分责任主体，确定责任承担情况。当前，智能驾驶汽车出现事故可能的责任划分主要由智能驾驶汽车的研发公司、软件提供商承担主要法律责任。这是因为对于这两个主体而言，智能驾驶汽车属于一种产品，这一产品在行驶的过程中导致事故发生，依据《侵权责任法》和《产品质量法》的相关内容来看，属于产品存在问题。因此，一旦智能驾驶汽车发生事故，责任最大的承担者可能就是汽车研发公司和软件提供商。

3.完善法律体系，加强产品把控

人工智能技术想要得到进一步发展，就必须为其营造一个良好的发展环境。而通过相关法律法规的建设与完善，既能够为人工智能技术的发展创造安全的法律环境，也能够保障人的基本权益。首先，针对人工智能技术，应尽快建立与“人工智能技术”的事前立法，通过法律手段来规范人工智能的发展，在伦理问题尚未发生之前，将其扼杀于萌芽中，最大限度地保证人工智能在人类可控的范围之内。其次，围绕人工智能技术在应用过程中可产生的伦理问题进行相关法律法规构建，尤其是责任划分的依据和标准，保证在问题发生之后，能够进行明确的责任判定。例如，针对智能汽车驾驶所出现的事故就可以进行法律建设，构建智能驾驶系统的交通法律。最后，加强法律专业人才的培养。人工智能领域属于新领域，出现问题之后，法律面对的对象不再是“人”，而是“智能机器人”，传统的法律人才在应对时难免心有余而力不足。这就需要加强法律专业人才的培养，在人才培养的过程中，注重人工智能技术方面知识的引入及人工智能引发的伦理问题方面的案例的探讨，使所培养出来的法律人才在处理问题时能够轻松一些[12](P117-128)。除此之外，相关部门应该加强对人工智能技术产品的把控与监控。随着人工智能技术的不断发展，在未来的某一天，人工智能必然要走到人们的日常生活当中。而为了规避人工智能所产生的伦理问题和一系列麻烦，相关部门十分有必要加强对人工智能技术产品的把握与监控。首先，注重人工智能技术产品的研发工作，在研发过程中注重人工智能产品的安全保护，防止程序被不法分子侵入，导致人工智能技术产品出现问题。同时注重人工智能技术产品研发人才的招聘与选拔，在招聘与选拔人才时，应进行全方位的考察，尤其是道德素质方面的考察。人工智能技术研发工作本身就是一项十分苦闷的工作，作为研发者不仅要有较强的专业能力、技术知识，还要有刻苦钻研、淡泊名利的职业操守。如果将思想上有问题之人或者心志不坚定之人招聘到人工智能技术研发当中来，那么在面对巨大的利益诱惑时，他们可能会丢失职业操守，做违法之事。其次，严格把控人工技能产品的出厂管理。针对研发出来的人工智能技术产品进行严格的审查和检验操作，保证人工技能产品的安全，坚决杜绝有问题的人工技能产品投入到市场。最后，加强人工技能产品的监管。对每一个人工智能技术产品都为其设置独一的编码，并在产品内部安装监控系统，在产品投入市场使用之后，全程动态对人工智能技术产品监控，避免出现安全问题。

4.注重人文关怀，构建公平安全市场伦理环境

人工智能技术的应用能够带来巨大的经济收益。对于商家而言，这就如同一块“肥肉”，但是在追逐商业利益的同时，商家也应该注重人为关怀，让人工智能不仅体现出商业价值，还能够体现出人文价值。除此之外，我国应该应尽力为人工智能构建一个公平安全的市场伦理环境，为人工智能技术的发展做好保护工作。[13](P605-610)

四、结论

时至今日，我们已经迎来了智能时代，人工智能技术被广泛应用于医疗事业、教育事业、媒体事业中，促进了其发展，但是不可避免地也带来了一定的伦理困境，在面对人工智能技术所产生的伦理问题困境时，我们应正确地对待，不要过于惊恐、强力抵制，也不要毫无顾忌、全盘接纳，而是应该针对人工智能技术所带来的伦理困境想方设法想出突围策略，为人工智能的发展注入更多安全因素，推动人工智能技术在当今社会稳定、安全、可控地发展。