思考和超越——医疗智能化背景下的医学伦理学*

黄 强，肖人铨，王璐颖

(1 中国人民解放军联勤保障部队第九二四医院药剂科，广西 桂林 541002，hhhqlg123@163.com；2 海军军医大学基础医学院，上海 200433； 3 海军军医大学政教室，上海 200433)

20世纪50年代，美国达特茅斯举行了第一届人工智能会议，人工智能的先驱者西蒙、明斯基等科学家参加了此次会议。该会议首次向世界宣告了人工智能时代来临。时至今日，经历半个多世纪的发展，以人工智能发展为主线，将其发展划分为三个历史阶段。在每个历史阶段进展的过程中都是计算能力和数据容量的革命性技术突破。在第一个阶段，主要是基于规则的某一专业的研究与开发，是一个具有大量专业知识与经验的程序系统，根据某个领域一个或多个人类专家提供的知识和经验进行推理和判断，模拟人类专家的决策过程，以解决那些需要专家决策的复杂问题;第二个阶段，机器学习的崛起，实现了智能系统与机器本身及自身之外的环境进行认知信息交互与联系的功能，它可自行完成从外部环境中获取有用的信息完成程序事先设定好的推理任务；第三个阶段也就是现阶段，人工智能具备“临摹”和“超越”人类的能力，人工智能几乎在所有领域超越人类，并在非人类的领域中进行探索，使得人工智能能够真正地“智能”起来，使其能够发现、创造，甚至运用新的知识。从粗鄙的机械性劳力工作到精美拟人化的设计工作，甚至超越人类多领域探究的智能机器人，从起初的服从到最后的创造，这不仅是人类生活的革命更是人工智能的矩阵革命。

1 医疗智能化的研究进展

目前，我国的医疗健康领域中存在部分人工智能的应用，已经有了初步的成果，例如智能影像辅助诊断系统、导诊机器人、智能放疗系统和药物研发平台等。其有效地帮助国内医疗系统解决了优秀医疗资源不足，分配不均，医务人员工作任务繁重，偏远地区对医疗资源需求大等的问题，人工智能的医疗应用改进了医疗模式架构，患者可以得到更好、更快、更高效的专业性医疗服务。

1.1 智能化诊疗

人工智能融入传统医疗模式中，其强大的储存、运算和分析能力弥补青年医生缺乏大量临床经验的不足，为医生选择针对患者风险最小、利益最大的医疗方案。2016年，人工智能诊疗在国内迎来爆发式的增长，2016年10月，人民卫生出版社推出临床决策辅助系统-人卫临床助手。2017年4月，零氪科技的HUBBLE医疗大数据辅助决策系统正式上线。以往治愈患者之后大量数据信息归档，例如临床医学实践报告、电子病历等内容，如果有需要调查研究病例，依靠人工统计浪费大量的时间，而且过程繁琐以至于结果极易出错。同时，人工智能不是简单机械计算和优于人脑的归纳整理，针对大量数据进行合理分析归类极大程度促进医疗进程，这也证明人工智能具有战略性的研究与发展价值；同时，为许多疫病的病因、治疗药物的研究提供方向。

1.2 智能化影像诊断

智能影像辅助诊断系统发展迅猛，传统的人工阅片耗时长、效率低下，医疗智能则能够迅速读片，找出病灶后生成一个完整的诊断报告，对医生的判断审查治疗进行辅助。2017年的第六届医学影像高峰论坛上北京友谊医院联合相关人工智能公司研发出CT肺结节辅助诊断系统，该系统的诊断准确率据报道达到92%。同年，李红天等结合人工智能影像诊断技术，利用晶状体不透明面积、深浅和位置三大指标对患者的白内障进行检测，对患者的患病概率进行高效评估[1]。国内医疗体系已大量引入人工智能设备，人工智能是时代进步的产物，医疗领域引入和发展人工智能已经形成了势不可挡的趋势，更加有效缓解医疗人员压力、优化改善医疗服务模式。

1.3 智能化机器人

近些年，国外很多国家都进行了专门的医用机器人研究。其中最负盛名的就是现在国内也可以见到的Da Vinci(达·芬奇)外科手术机器人。由美国Intuitive Surgical公司于2000年推出。通过医生在控制台上来操作机器人动作，实现手术的精细化操作。在当前以机器人为载体的实际应用主要集中在外科手术领域，外科医生给予机器人指令，机器人代替医生执刀。一个优秀的外科主治医生可以将误差控制在2毫米,而机器人则可以达到微米级别[2]。在微创手术盛行的时代，其发展势头是不言而喻的。

2 医疗智能化背景下医疗实践面临的矛盾

人工智能的出现，是工具进化的结果，它回应了生产力发展的要求，很好地满足了人类改造客观世界的需要。维纳认为：“工业革命是一把双刃剑，既可以造福人类，也足以毁灭人类。”[3]这是一个哲学家对工业革命带来的机遇感到的担忧。在医疗智能化的背景下，必然加快医疗救治的进程，但同时带来了很多伦理问题，是医疗纠纷潜在因素，是医疗实践隐含矛盾。

2.1 人工智能背景下的人权赋予问题

人权，是作为独立个体的社会人在他人或群体面前，能够满足自身基本权益的要求或者主张。而人权伦理则力求人的全面发展和人的自由可以实现，并且强调人人平等。现阶段我们社会中存在的智能机器人尚且不会自主学习和思考，依靠人工植入的编程代码来判断是非，代替人去执行作业时，通过不同的算法使机器人尽可能地接近人的习惯，但是无法根据现有条件提出新的问题，不能作为一个独立的主体去判断做的事情“道德与否”。此时的机器人应该是不存在“人权”这一社会属性的。在迅速发展的人工智能浪潮下，美国学者雷·库兹韦尔曾大胆预言:“2029年将会诞生具有智慧的机器人，它将会有独立性的自我意识”[4]。 所以在科技不断发展的同时，将不得不面对人权伦理这一根本问题。人的思考是一个动态的过程，可以因为外界的事物不断自我更新。正如现今很多线上购物平台的商品推荐，能够依据客户的浏览记录筛选出合适的商品类型和价格。说明了人工智能在数据挖掘的同时，也在模仿人类的“思考”模式来迎合人类。目前人工智能可能还没有意识到，在未来若人工智能学会运用自己掌握的认知或者说凭借运算逻辑进行“思考”，诞生新的道德判断。那么人工智能将会是具有独立意识的个体且不再听命于人类给予的运算逻辑，即成为一个能够判断是非的主体承担者。最后对人工智能伦理人权的讨论范畴必然纳入伦理道德规范。

2.2 人工智能在医学运用的道德价值取向问题

道德取向是指主体个人的道德认知和道德行为具有一贯的导向性的道德价值观念，和具体的道德行为密切相关，并指向了一定的道德目标[5]。人工智能具有获取速度快，快速统计出疾病的共同特点。现在我们医生获取医学知识是依托导师的“传、帮、带”，缺点为掌握知识慢、更新速度低。优点是可以获取一些个体化的治疗方案。人工智能道德是指具有自主意识的智能机器或机器人判断某种行为正当与否的基本标准与准则[6]。据此，人工智能的道德取向就是面对道德选择时，能够选择正确的价值取向。道德并非先天就有，而要后天养成。对当今的智能机器而言，其所涉及的道德问题要分清主体是机器人还是设计机器的人。2014年，作为人工智能的领军企业，谷歌率先成立了人工智能伦理委员会，其目的就是为了防止人工智能的滥用。当前情形下，道德概念是存在于人类社会之中，机器人并不能作为社会的一个独立的主体，因为它自身的行为和社会地位的赋予，都依靠于它的设计者和使用者。此时人工智能的社会属性是附着于人类身上，自身并不能产生道德问题或者成为道德的选择者。而人和其他生物最主要的区别是建立了社群，相互之间进行有效的沟通。当人工智能机器人能够和外界进行有效的信息交互，独立于机器人设计师和使用者，自我进行事物的逻辑推理，那么便会拥有自己的道德判断以及产生属于机器人自己的道德问题。

2.3 医学决策和行为的过错归责

大数据使人工智能试图去代替人决策和行为，沃森医生( Watson for Oncology)是一款 IBM公司制作的医疗认知计算系统，目前已被应用于8种肿瘤治疗的决策中。使用者将患者基本信息输入，沃森医生就可以从数百种刊物里进行分析，选择出最适合的治疗方式协助主治医生的治疗。当沃森医生的判断导致了患者的病情加重时，沃森医生作为人工智能设备不具备承担责任的能力。因为在法律层面上来说，人工智能设备没有意志上的自由，无法作为一个自然人来承担犯罪行为的主体[7]。此类事故的责任人，是沃森医生为患者制定治疗方案所依据的文献的作者或是最终采取沃森医生制定方案的幕后医生。目前，尚没有明确人工智能在事故责任中应该担负的角色和应承担的责任，只是行为的代理执行者。在以后，机器人演化成拥有智慧的个体时，能进行独立的思考和学习的时候，从生产线出来一段时间后通过自我底层算法的演化，变成一种类人生物。人工智能在诊断中出现的决策失误而导致的错误行为，假设还和现行的归责标准一样进行裁定时，会因法律的缺失而造成社会上伦理道德观念的混乱。

3 伦理学带来医疗智能化道德上的解决措施

现代科学技术带给人类便利的同时，也会使人们不得不置身于伦理的困境。科技的发展带动人工智能的进步，人工智能的进步改变了社会内部的生产关系。人工智能带来的伦理问题更加显著，准确把握伦理道德问题的成因尤为重要。

3.1 正确认识医学人工智能

人工智能向着不可预料的方向飞速发展，已解决了很多实际的问题。沃森医生极大地解决了医生检索文献所需要的时间，达芬奇手术机器人比大多数外科医生更为精确……这都是人工智能带给医疗工作者的福音，改变了人的思维和就医习惯。20世纪，苏联切尔诺贝利核电站事件是整个人类的创伤，21世纪日本福岛核电站事件是在尚未愈合的伤口又刺上一刀，科技给人类生活带来的便捷是革命性的，但是面对最大利益是否可以牺牲部分人的幸福生活？如果有道德约束的人类能够允许少部分的人牺牲，更何况无道德制约的人工智能。人的发展是社会的第一原则，没有任何力量能够阻止人类向前发展，5G时代的来临，人工智能伴随着瓶颈技术的突破而进入人类社会，社会中各行各业对人工智能充满渴望和需求，从事体力劳动的人类必然被人工智能高效便捷的劳动所取代。不对人工智能加以甄别，可能会产生以行为的实际效果作为道德价值的基础和最高标准的传统功利主义[8]。长此以往，会损害当前社会固有的道德价值观。

人工智能时代的来临，研究型医疗工作者应时刻保持警惕，不断学习和适应人工智能，合理地与人工智能一起工作。而不是坐享其成、故步自封导致头脑僵化，对人工智能的依赖性逐渐加深，最终人被人工智能所取代，甚至沦为人工智能的生物能源。2018年召开的全国人工智能哲学与跨学科思维论坛上，伦理学家苏令银以中国传统儒家伦理规范中的“忠”“恕”“仁”为规范，构建人工智能在现实社会生产先在条件和准则[9]。人工智能的开发者把家国融汇于技术开发的情怀，阐幽发微而示之以人所未见，率先垂范而示之以人所未行的践行。如此守正之士才能创造符合人类社会真正需求的人工智能，人们方能享受人工智能给人类带来的便捷生活。

3.2 赋予人工智能伦理算法规则

2018年，欧盟委员会就值得信赖的人工智能(AI)道德准则草案开展了公众咨询[10]。该草案认为“AI必须具有道德目的”“以人为中心”等道德准则为发展AI的基础。这就意味着人工智能必须是为人类社会谋福利，改善个人和集体的生活为主线。大数据、底层算法和CPU是支撑人工智能技术不断发展的关键要素，数据量的丰富程度是提升算法有效性的关键，也将使道德的和不道德的信息一起涌入人工智能的数据库中。随着移动设施和全球网络的普及、即将到来的5G时代 ，全球的信息将会越来越集中地涌到一起。倘若不加以约束，可能人工智能的走向会偏离人类的初衷。设想从底层算法层面进行伦理的制约，以伦理学为纽带，人工智能的研发者应该具备工具理性主义的哲学思维，人类应为控制人工智能的主体，人类自身的理性不应该被超前的人工智能所统领，变成人工智能的工具或者是人工智能的延伸。为防止人类的理性被人工智能所控制，人类理应建立符合伦理道德的算法来对人工智能的大数据进行约束。人工智能自动依据道德算法对现行社会道德楷模特征定性并建立道德模型，作出符合人类当前社会道德价值的判断，将人工智能技术发展势头控制在人类当前所能接受的伦理道德观念之中。

3.3 建立完善的医疗智能化法律体系

法律的功能是将社会现实中复杂的、各具特点的人，以统一的、制度化的方式抽象构建出法律上的人[11]。 2019年1月，我国开始正式实施《中华人民共和国电子商务法》，人和自动售货机及其搭载的自动交易平台产生等价交易时，是需要结缔合同的[12]。说明了社会的人和人工智能在该情况下是对等的。当前，相当多的学者反对人工智能的快速发展，观点为对于人工智能的立法情况尚处于空窗期，人工智能拥有自我意识后会发生“革命”，背离我们人类最初发明它们时所赋予它们的使命。但是依据当前发展趋势来看，人工智能的发展是大势所趋。我们要做的不是阻碍人工智能的发展，而是在制定关于人工智能的相关法律时，应该指明在编程设计和编制范围之外，人工智能产品基于自身“意志”自主实施的犯罪行为的情形，应将责任归结于智能化机器人。对于人工智能产品按照程序设定的目的实施犯罪行为的，则应该责归于智能机器人背后的程序员及其智能机器人的使用者。假如在制定法律时不加以界定，那么在某人工智能产品发生事故时，责任归生产方还是使用者来承担？所以，人工智能还尚未拥有自己的意识的情况下，制定合乎人类伦理道德的法律规范来对人工智能和人工智能相关产业产生约束是一个十分重要的手段。

4 结语

综上所述，人工智能目前在一些领域已经超越了人类，例如大存储容量、大数据分析、大数据运算，但是它有更多不如人的地方。比如它没有情商、没有智慧、没有人情味。对于人工智能的到来，我们满心期待着它可以给医疗行业注入新的活力，同时我们也需要做好准备应对人工智能对医疗行业中的伦理价值观带来的冲击。