现代AI技术的发展与伦理制约关系

（苏州科技大学，江苏 苏州 215001）

随着现代社会飞速发展，高新科技在社会科技研发投入中的比重日益增大。技术的发展必然导致社会体系部分剥落重整，社会文化自然与伦理意识产生冲击摩擦。

我们从来都没有把伦理学认为是不可撼动的巨石。伦理学不是一成不变的顽固死规矩，随着我们社会发展和科技进步，伦理学也会随之被逐渐修正完善。我们不能打破的是伦理道德的基本底线而非被禁锢的伦理学本身，一味地追求维护先前的适用伦理学不做任何修正只会使整个社会的科技水平固步自封。当前伦理学要研究的不是如何守好伦理学，而是怎么在科学发展与伦理发展之间找到平衡的支点。

一、AI技术发展的进程与伦理冲击

AI技术在人类文明史上大致有三个阶段，1943年，两位科学家沃伦·麦卡洛克和沃尔特·皮茨发表了论文 《神经活动中内在思想的逻辑演算》。这篇论文讲述了计算机也可以进行深度学习，描述了如何让人造神经元网络实现逻辑功能，AI的大门正式打开。1956年达特茅斯会议提出人工智能的概念，并指出要用“人工智能”替代“人智能”。第二阶段AI技术发展开始于20世纪七十年代，神经网络算法备受追捧，掀起了一股研究AI技术的热潮。现代AI技术自2006年多伦多大学杰弗里教授发表了三篇关于人工智能领域深度学习的论文，并提出了深度信念网络的概念，基于大数据互联网的全面普及，当代社会又进入了AI技术第三阶段。现阶段的AI技术已在云计算、健康医疗、政务国防、隐私保护、数据匿名化、卫星数据处理、网络安全、工农自动化、自动驾驶、金融分析、材料科学等诸多方面有了广泛发展。

AI技术仍有深远的发展前景。许多学者一致认为，世界即将迈进“AI新时代”。于此同时，在陆续出现的云计算、手机语音人工智能、具有“行为主义”学习的AI程序、无人驾驶技术等创新性的AI技术逐渐走入人们生活的同时，AI换脸技术、脑机接口技术等直接依托于人应用的AI技术产生的伦理问题接踵而至，引发了全社会对AI技术安全伦理性的质疑，各国紧急叫停多个AI研究室并逐渐形成了基本的AI技术发展伦理制约规定。但即便如此，各项新兴AI技术的面世仍伴随着社会各界的质疑。

2017年IEEE新版人工智能与伦理报告中提出了：重视人工智能的边界问题，提出了“鼓励、限制、禁止”三种发展人工智能的政策。预告成立中科院“人工智能技术、伦理与法律联盟”的合作平台。可以见得，在目前世界范围内，伦理关系已然成为制约AI技术发展的先决条件。不受伦理制约的AI技术发展也将打破人类生活的正常秩序，极大程度改变目前以人为主导的社会体系。

二、AI技术国内外发展现状

1、AI技术国内发展现状

我国在语音识别、视觉识别、机器翻译、中文信息处理等AI技术方面处于世界领先地位。依托《关于积极推进“互联网+”行动的指导意见》、《“十三五”国家科技创新规划》等国家扶持政策，我国至未来几十年间都将把AI技术置于高新技术发展的重要地位。我国擅长的AI技术领域涉及较少的伦理问题，主要的发展风险来自于用户个人数据泄露。

目前提出的用户数据保护原则：第一，收集信息必须在用户有感知的情况下；第二，要主动体现采集来的信息如何投入实际应用；第三，使用户可以动态控制自身信息的应用场景。随着我国AI科技的不断发展，数据保护政策也在逐步完善。

2、AI技术国外发展现状

全球范围内的AI技术不仅局限于基础人工智能发展，他们更多的不是纵向深入研究人工智能机器人、数据分析AI等。美国应用其目前拥有较为先进的AI科研技术，横向探索类似AI换脸技术、基因重组AI模拟、各类对比检测AI技术。据科研调查显示年轻人、兼职、西班牙人和美国低收入人群反映受到AI技术进步影响最大，青中年男性对AI技术发展的关注度十分显著。这也是为什么国外数据联想产生的AI换脸技术多针对男性用户研发。

随着AI技术越发成熟，世界各国家、组织都制订了国家级AI发展战略，但是AI技术在全球的统一伦理标准尚不完善，还有待各国的沟通协商。

三、现代AI技术带来的伦理冲突

1、现代AI技术涉及的伦理学

1.1 现代AI技术涉及的经济伦理学

现代AI技术涉及经济伦理学，狭义上与AI相关的企业经营伦理学。广义上则包含组织和个人全部的经济决策、经济行为、经济制度的伦理规范合理性。

经济伦理学顾名思义，是研究伦理学与经济学之间的现实联系，主要任务是遵循两学派间的基本原则解决实际生活中的冲突矛盾。经济伦理学的学科本质在于使人们在通过发展AI科技获取经济利益的同时完善道德价值取向，通过协调利益关系规范科研过程，使AI技术的发展具有原则性，有确实的善恶取向，不盲目追求利益。

1.2 现代AI科技涉及的商业伦理学

科技最终的目的是流于商业，促进经济。商业伦理学一向应用范围较窄，在过去的长久发展中，商业的最终目的都被设定为获取利益。如何抢占更多的市场，如何降低成本发展更多受人追捧的产品是每一个企业商人的追求。在获取利益的道路上，很多人选择了让伦理妥协，这是商业社会中牢固的观念。现代西方经济学与此种理论相依相存，形成了一种牢固的商业体系，对全球商业模式也产生了深远影响。

现阶段AI科技如果遵循此种商业体系，追寻利益，亟待开发的就是关于读取个人信息、操控个人意识、育成合成人胚胎等技术。部分商界巨富愿意拿出大笔资金资助研究室开发类似科技，他们认为这类AI科技的投入使用会产生翻天覆地的经济动荡，他们可以借此东风获得机遇，赚取常人难以想象的利益。这些巨富和研究者各怀目的，以利益为发展目的，自然根本不会去考虑商业伦理，甚至任何挡在他们研发道路上的问题都会被认定为他们牟利的绊脚石。

商业伦理学在近代极速发展，因为人们终于看到了长期以来频繁发生的企业失德行为，一次次破坏了商业秩序，极大程度阻碍了社会经济发展。于是商业各界开始正视商业伦理学的重要性，并依次标准重新评判一个企业的价值发展前景。无秩序寻利的AI科技值此发展洪流将如逆水行舟，作为新兴科技产业，研发标准尚不明确。我们也应该给予现代AI科技发展更加严格的商业伦理标准和企业管控。

1.3 现代AI科技涉及的人文伦理学

人文伦理学的核心在于个人本身。人文伦理中有一项重要的原则为：个人自治。即个人有生存、思考、探索、决定的权利，在不影响他人的情况下，任何人都有为自己的人生做出任何决定的权利。任何人意识形态的产生都该被尊重，这与现代AI科技探索人类思维网络的过程产生了巨大的冲突。

人文伦理学所倡导的个人自治并不抛弃责任。其学科主张自由社会与责任共存，生活在社会中的每个人都有责任承担起自身的义务。除此之外，社会对个人自由的形成才能予以庇护。这项原则即现代AI技术的发展成果不能仅基于小部分人的利益，AI技术的研发和应用必须基于整个社会的发展。

2、现代AI技术在科研实践中产生的伦理冲突

2.1 现代AI技术在科研中产生的伦理冲突

现代AI技术中仅在科研阶段就被叫停或者多方限制的多为医疗技术，比如计算机编辑基因技术、脑机接口技术等。

直接作用在人身体上的神经科学和AI可能带来比AI在其他领域的应用更深远的伦理影响。脑机接口AI技术已初步实现了控制猴脑神经元活动，这一研究一经发布引发了世界各国的广泛关注。部分医学家认为依靠此技术在未来可以通过构建某种AI模型达到训练、控制病人的大脑，治愈多种因大脑皮层功能异常产生的神经性疾病，例如人格分裂、癫痫、抑郁等。另一部分专家学者则认为无法保证全部医者在医治过程中不会窥探患者隐私，乃至暗示、控制病人的大脑。另一方面，掌握此项科技的科学家可以通过不法手段设计AI程序，违背他人意愿，达到操控他人的目的。即使先摒弃未来可能产生的伦理问题，现实的案例也已经表明，智能机器和脑机接口设备的运作能使一个人开始怀疑自己的身份，怀疑自己的行为是否受自己控制，再拔除脑机后使用者仍有被操控感，无法轻易从被操控状态脱离，产生严重的身份认同危机。

这极大程度违背了：人工智能不应用来收集或使用信息，以监视人和控制人的基本伦理原则。

2.2 现代AI技术在实践中产生的伦理冲突

目前新兴争议较大的AI技术大致可以分为：基于信息识别对比大数据库模拟数据得出某项检测结果或产出衍生品的AI分析技术、基于计算机编写基因代码技术、各类将人脑与计算机上AI模型相连的脑机接口技术三个方面。

AI分析技术有多种形式，比如：2018年7月来自墨尔本大学的研究员设计出的一种AI生物识别镜，此项技术可以检测一个人对AI的理解以及对其独有特征的相关信息的反应。系统会在几秒钟内检测出用户的一系列面部特征。然后将数据与内部存储的面部照片数据进行比较，进而产生包括性别、年龄、种族，以及魅力、性格古怪之处和情绪稳定度等。①通过此种技术，生物识别镜投放者可通过暗中安装识别镜扫描他人的脸部，检测就外貌分析出的所有结果。更可怕的是，这类检测结果并不完全准确，却可能为被检测人盖棺定论。换而言之，任何人都有可能因为天生的外貌而被断言具有犯罪倾向或被认定没有任何提升潜力。

2012年基因编辑技术CRISPR/Cas9问世，虽然在识别提取具体基因序列和打印单序列基因方面技术还较为粗糙。但此项技术已经构建出人类社会未来可通过打印目标基因植入某个物种的基因序列中，从而改变生物的性质甚至创造全新的物种。从伦理学角度来讲，这类创造出的物种介于自然物种和假象生物之间，违背了自然规律。制造出的物种如果不符合实验初始目的，必定会被立刻终止生命，无论是立即毁灭还是用于科研都有悖于人文伦理。

四、现代AI技术的未来发展

1、AI技术发展产生的伦理隐患

现阶段AI技术对人类的威胁大多集中在抢夺一部分体力工作者的岗位等方面，还没有引发全社会直接关注，但是我们必须预先了解和设想到不加管控的AI技术发展可能带来的严重后果。

新兴AI分析技术可能使人类继种族歧视、性别歧视、宗教压迫等后产生“AI数据检测”歧视。仅仅基于理论数据即对被检测人进行分类、推断。或许AI分析技术最后会演化成一个人从婴儿出生起就会经历各种检测，以决定他将来被划分为哪一类人群，从事何种工作，以什么样的方式度过一生。

AI换脸技术虽然使用户能够 “一键换脸明星”，但这项技术也经常用于被人恶意剪辑不良图片、视频，给诸多明星、政府工作人员造成了名誉和心理的双重损害。

现实的担忧就是随着人工智能在各行各业的普及，会导致大量劳动力失业，国家失业率上升必定导致一系列社会问题。这些都是我们在发展AI技术的同时应该考虑到的隐患。

2、如何保证AI技术在发展和使用中的安全

要保证AI技术在发展和使用中的安全，首先必须在研发过程中进行严格的监管。AI技术的发展是达摩克利斯之剑，它既可能给我们带来庞大的利益、医学史的突飞猛进、生活上的种种便利，但稍加不慎，人类的文明历史将受到破灭性打击。所以不基于基本伦理的AI研究都违背了科学发展的基本准则，即：以人为本。

无视其背后潜藏的巨大风险执意展开缺少伦理制约的技术研究，大多都是为了少部分人的短期利益绝非所谓“为了社会的发展”。除了在研究、实践AI技术的过程中坚持遵循“第一，以人为本；第二，完全可控；第三，以全社会的价值取向为发展方向”的基本伦理原则外；如果现代社会对现阶段某种AI技术发展可能产生的负面印象无力抵抗，我们应该适当延缓其发展，而不是对未知的领域盲目探究。

注释：

①《世界首款AI魔镜：一照识别你的性格》，中国大数据，2018 年，据 http：//chuansong.me/.