对人工智能发展可能导致的若干问题之思考

吴 恺

（武汉大学 马克思主义学院，湖北 武汉 430072）

随着经济社会的发展，人工智能的作用逐渐凸显出来。作为第四次工业革命重要内容的人工智能，对社会的许多领域都产生了积极影响，如交通运输领域的自动驾驶汽车、医学领域的智能医学影像、养老领域的机器人陪护等。人工智能包括弱人工智能、强人工智能和超人工智能［1］。弱人工智能不具备独立思考的能力，不能对具体问题进行分析和推理。强人工智能则能够进行独立思考，可以在分析和推理的基础上作出正确反应，从而解决问题。超人工智能则不仅具有一定的思维力和创造力，还能形成自己的判断方法和评价标准，能虚构故事、制定规则。人工智能在其发展中，也可能导致一系列问题，具体分析如下。

一、对人工智能的技术缺陷和法律法规不完善所导致各种风险的思考

随着人工智能技术的发展，以及传感器技术和识别算法的不断改进，机器人的感知与判断能力越来越强。今天人们生活水平不断提高，越来越多的人开始关注自己的健康，智能健康管理也应运而生。与传统的健康管理相比，智能健康管理是一种更具前瞻性的健康服务模式。智能健康管理是运用人工智能技术，从门诊或住院电子病历中采集个人健康数据，并将这些数据传输到医疗健康数据平台，对其进行筛选、提炼和分析，进而提出有针对性的健康管理建议［2］。在医疗领域，人工智能还可应用于外科手术、医学检查、临床护理、医疗救援等多方面。在医学检查中，智能医学影像是人工智能应用的重要方面之一，它通过图像识别技术，对医学影像进行识别和分析，从而帮助医生快速发现病灶，提高影像诊断效率［3］。智能医学影像系统还能自主学习海量的影像数据和临床诊疗信息，不断提高自身诊断能力，降低误诊率。人工智能在金融领域的作用也不容小觑，如充当智能顾问等。所谓智能顾问，是由投资者个人或机构提供投资方向、收益目标以及风险管理等信息，人工智能以此为依据，进行智能核算，从而优化投资组合，为用户提供最符合要求的投资参考。人工智能还可以用于机器人陪护，随着人机互动、人机协同等人工智能技术的日益完善，机器与人之间的情感距离也被拉近了，于是，人工智能逐渐在人们的情感方面获得了一席之地，机器人通过与人的适当沟通与交流，能帮助人们走出负面情绪和心理阴影。

当今，人工智能虽然广泛应用于社会各个领域，但人工智能的发展还不成熟，还存在这样那样的问题，其应用也可能产生一系列负面效应。比如，人工智能的应用增强了对个人信息的收集和对个人数据的挖掘，并由此加大了隐私泄露的风险；人工智能具备一定的分析和决策能力，如果其认知出现偏差，就可能作出错误判断、采取错误措施，从而危及人的安全；人工智能的发展属于技术进步的重要内容，技术进步又会导致资本积累的加剧，这会使未来社会的资源集中于少数拥有人工智能的资本家和社会精英手中，从而加剧社会的不平等，扩大贫富差距，等等。

我们要看到，人工智能的不断进步是科技推动生产力发展的必然结果，人类只能顺应这种趋势，积极制定合理的人工智能运行规则，并完善相关法律法规，构建人工智能运用的安全环境，推动人工智能朝着正确的方向发展。以护理机器人为例，对于行动不便、身体疾病多的老年人，由于子女可能没有时间照顾他们，于是护理机器人便成为老年人护理的一种可选择的途径。护理机器人拥有超大容量的数据存储单元和高性能的处理器，它们除了可以记录老年人的既往病史和生理数据外，还可以通过远端传输系统，将采集到的信息实时上传，让患者和医生快速建立交流渠道。护理机器人还可以帮行动不便的老年人起床、传递物品等，如果有些老年人出现记忆力衰退等问题，护理机器人也可以对各种事情进行人性化的提醒。比如，荷兰科学家研究了一款机械手RSI，它可以在桌子上给那些需要帮助的老人喂饭或翻书。美国科学家也发明了一种可以完全自主活动的机器人HelpMate，它可以通过智能导航来躲避障碍，也可以通过自己的判断去开门或乘坐电梯；HelpMate还可以跟人沟通，老年人可以通过人机交互界面，控制其到达指定目的地，完成药品、食物等的运输［4］。但我们要看到，任何技术都不是完美无瑕的，要保证护理机器人工作的准确性，就必须进行不断的技术创新和程序完善。如果传感器对物体识别的准确性不够，就会导致护理机器人在利用传感器采集体温等数据时出现误差；如果护理机器人承担了用药和救治的任务，技术误差会导致其误判，从而出现给患者错误用药或延误治疗等严重后果。但随着人工智能技术的不断发展，深度学习将会成为智能机器人的未来趋势。护理机器人在不断的学习过程中，会让自己的决策模式越来越成熟，从而不断纠正自身行为的偏差。

当今社会，人们的隐私往往有被泄露的风险，如电话号码、身份证号、家庭住址、各种密码等，这些信息在登录一些网站或平台的时候往往会被输入。这些信息存储在一些网站、平台的内部系统里，如果该系统被黑客攻击，或信息被网站工作人员盗取，人们的隐私就会被泄露。但只要人们选择享受人工智能带来的生活便捷，就必须承担这些风险。护理机器人在为老年人服务的过程中，如果不对其提供详细的信息和数据，它就不可能提供周到的服务。护理机器人所获取的数据甚至会涉及人们的身体状况和所处位置，可以窥探人们生活的每一个细节，这些深层次的隐私如果泄露，其后果会更加严重。从法律层面看，现有的法律法规对机器人的行为没有任何约束力，且机器人不具备主观判断能力，不能判断其行为的正确与否。现在虽然有“机器人三定律”作为机器人发展的指导原则，但这还远远不够，人类需要构建一套完整的关于机器人的法律法规系统，使人工智能的发展朝着有利于人类福祉的方向迈进。此外，还要构建完整规范的责任约束系统，能对机器人的设计开发者进行追责，能对机器人的错误行为进行预防和规避。

二、对人工智能应用导致失业问题的思考

随着当今计算机技术和信息技术的迅速发展，尤其是电子电路、芯片技术等的进步，人工智能已广泛运用于各领域之中。在生产和劳动过程中，人工智能可以帮助人们更加有效地整合各种生产要素，从而提高劳动生产率。人工智能不仅可以代替人的很多体力劳动，还能代替人的一些脑力劳动。目前，已经有不少行业实现了人工智能与生产流程的融合，有效提升了行业的智能化水平。人工智能发展所带来的技术革命和产业变革，在把人类从很多体力劳动与基础智力劳动中解放出来的同时，对产业结构调整也产生了巨大影响，对人们的就业造成了很大冲击。

根据马克思主义政治经济学的观点，技术创新可以缩短商品生产的社会必要劳动时间，从而节省更多的人力资源。在人类历史发展的进程中，曾多次出现由技术革命所导致的失业现象。如发源于英国的第一次工业革命，是以瓦特改良蒸汽机为开端，此次技术革命促进了人类由手工生产向机器化大生产的转变。之后在西欧和美国出现的第二次工业革命，使电力得到了广泛应用。第二次世界大战后，由于计算机和原子能技术的发展，导致了第三次工业革命（又称信息革命）的爆发。而以人工智能为代表的第四次工业革命，无疑会对社会的就业和分配产生巨大影响。比如，随着我国人口老龄化程度的增加和劳动力成本的不断提高，由人工智能带来的经济效益和总性价比逐渐凸显。人工智能可以极大提高劳动生产率，实现让更少劳动力完成同样的劳动过程，从而填补我国由“社会老龄化”所造成的劳动力空缺，缓解未来劳动力市场的劳动力短缺问题。基于此，国家会逐渐加大对人工智能产业的扶持力度，并将其提升到国家战略层面。如2017年国务院就印发了《新一代人工智能发展规划》，提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，部署构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国［5］。

人工智能的发展，大大促进了生产的数字化和自动化，这使得以往大多数简单重复的工作都可以通过设定机器程序来完成。于是，劳动力市场的供需平衡被打破，传统生产模式逐渐变革，技术含量较低的岗位出现了大量失业人口。对于这些失业人口而言，以往的工作被效率更高的机器所取代，他们在短时间内也很难找到新的岗位。这会让他们的生活失去经济来源，家庭负担随之加重。此外，人工智能的发展还会导致不同劳动者之间的收入差距扩大。在人工智能的冲击下，原本处于中层收入水平的劳动者会向低层收入水平移动，而原本处于低层收入水平的劳动者则可能面临失业的风险［6］。在企业里，高层管理人员的收入会越来越高，而中、低层劳动者的收入会越来越低。从国家层面看，由于不同国家人工智能的发展进度不同，这会扩大各国在经济水平、科技竞争力和国防实力上的差距。掌握了人工智能核心技术并将其广泛应用于生产的国家，将会获得经济全球化所带来的更多利润，而那些落后国家则可能会被锁定在低端产业链上，处于经济全球化中的不利地位。

正是新旧事物之间的博弈，推动着社会的进步。我们不必夸大人工智能对社会的潜在挑战，也不必为人工智能的发展而感到焦虑，因为人工智能的应用是社会发展的必然趋势。虽然在短期内人工智能的发展会对部分传统行业产生冲击，但从长远看，人工智能的发展也会创造出一些新的就业岗位，如算法开发、智能设备维护等。此外，随着人工智能的大规模应用，还可以改善劳动者的工作环境，缩短其工作时间，这使得人们在休闲娱乐方面的需求大大增加，从而在服务业中衍生出一批新的工作岗位。这包括许多新型的、能满足消费者精神需求的软就业模式，它们主要集中在教育、文娱、法律咨询、信息金融等领域，如网络主播、环境工程师、电竞解说员，等等。

在未来，掌握高端核心技术的人才在劳动力市场会更有竞争力，仅掌握中低端技能的劳动者，其竞争力会大大降低。为了让人工智能更好地服务于经济社会发展，政府应该加大对朝阳产业的扶持力度，对朝阳产业的发展做好顶层设计与合理引导。对于劳动者来说，应加强自身的教育培训和技能训练，以提高自己的专业素质和就业竞争力。对于高校来说，则需要在顺应人工智能大趋势的基础上优化学科结构，建立紧密对接产业链、创新链的学科专业体系，让教学能更好地服务于经济的高质量发展和产业的转型升级。

三、对人工智能产生自我意识并控制人类的思考

作为最复杂棋牌类游戏的围棋，是最后被人工智能攻克的棋牌领域。在2017年的围棋峰会上，阿尔法狗（Alpha Go）以“3∶0”的比分战胜世界围棋冠军柯洁，这引发了人们关于人工智能是否会在某些领域超越人类的思考［7］。人类对事物的认识，是在大量实践的基础上，通过总结经验、深入分析、理性思考，从而形成一般性的结论。人工智能是基于人类设计的程序，通过神经网络系统进行“深度学习”，并基于当下情况作出独立的思考和判断。计算机程序由于其精确的算法和巨大的信息量，能保证人工智能判断和操作的准确性。但人工智能仅仅是拓展了人类对世界的认识范围，启发了人类思考世界的方式，并没有改变人类认识的根本特性，即由实践到认识无限发展的辩证过程。我们要看到，人工智能不是“神话”，而是实实在在的算法。对人工智能技术的研究与开发，体现了人类对未知世界的不懈探索。对人工智能体现出的“高智商”和超强能力，我们既不能轻视，也不必对其感到恐惧。我们一方面应该以艰苦的劳动和踏实的努力来开发人工智能技术，一方面也要立足于东方文明特有的包容精神，来建设智能机器与人类共存共荣的新世界。这既是人工智能发展的正确方向，也是未来社会的基本蓝图。

在人工智能时代，我们该如何界定“意识”？意识是人脑的功能和属性，它是人脑对客观世界的反映，是感觉、思维等各种心理活动的总和。人工智能虽然具备人们所赋予它的认识能力和决策能力，但人工智能只是通过信息处理的方式模拟人的思维过程，人工智能无法产生意识。尽管人的某些意识活动已经可以被计算机模拟（如手机、电脑的准确指令等），但人工智能只是按完全确定的程序来执行，而无法判断该指令的正确与否。人的思维意识可以进行对和错的判断，并通过语言、文字、图画、表情等方式表达出来，这是计算机无法做到的。人工智能在模拟人脑的部分功能时，虽然其某些方面的能力已远远超过人类（如记忆力、运算力等），但人工智能还必须依赖人类对其的把控，它还无法脱离人类独立自主地进行“意识活动”。也可以说，人工智能是被人类智能创造出来的，人工智能的思维活动从属于人类的智能活动。

至于说随着人工智能技术的飞速发展，人工智能是否会控制人类，甚至取代人类成为地球的霸主？其实，在现实生活中，人工智能技术已经在一定程度上“控制”了人们的生活。比如，当人们沉迷于智能手机时，智能手机便在一定程度上控制了人的大脑。但只有当人们沉迷于各种技术，对其产生依赖时，人们才会按照技术所规定的内容去行事，这就是技术的异化现象［8］。人工智能也是如此，只要人们能合理安排自己的工作、社交与生活，将人工智能看作工具而非目的，便不会受到人工智能的控制。未来，人们真正需要担心的是：在人工智能时代，人类的情感将被置于何处？因为随着人工智能技术的发展，机器会变得越来越“聪明”，可以满足人类多方面的情感需求，人与机器的互动和交流也会越来越多。如果人们不懂得充实自己的精神世界，未来人类社会最大的问题是人们可能会越来越依赖机器，人与人的关系由此变得疏远，人们会逐渐变得孤独而缺乏人文关怀。

很多人担心，一旦人工智能具备了自我意识，它们就能迅速交换和分享信息，其结果是，人工智能“生命”将迅速崛起，甚至可能会排挤包括人类在内的各种生物。因此，“人工智能将来能否产生自我意识”这个问题非常重要。如果人工智能没有自我意识，那它就不是一个思维主体，它仍然是人类的工具，能够被人类所控制，其能力越大对人类越有用；而一旦人工智能具备了自我意识，即使其很多方面能力都弱于人类，也可能对人类产生巨大威胁。“智能”和“意识”的区别在于：“智能”主要体现在其完成某些复杂任务的能力，“意识”则主要是学习和实践过程中主体的思维和体验。人运用自己的思维可以完成各种复杂任务，在此期间或兴奋或疲倦，并且能理解“自己在做什么”及“为什么要做”，因此可以说人既有智能又有意识。而人工智能虽然可以通过人类开发的各种程序完成复杂的任务，甚至可以自主应对各种复杂的情况，但其本质还是按照程序运作的结果。对于人工智能而言，提升其智能水平并不是难事，但是对于人类所掌握的大部分最简单的技能，人工智能却无法胜任，因为它从来没有真正理解自己行为的意义和价值。

人类对人工智能的设计，只是希望借助其智能来提高效率、解决问题、达成目的，使其能毫无风险地为人类贡献智能，而并不包括使其具备“意识活动”。因此，人工智能作为人类发明的生产工具或技术手段，不可能在产生“自我意识”的基础上重塑“自我”价值观，也不可能威胁到人类的生存与发展。当前，我们应该充分利用包括人工智能在内的各种工具和技术，最大限度地实现人的自由全面发展和全人类的解放。

总之，由于人工智能比人类具有更多的知识储备、更强的记忆力、更高的效率，它被广泛应用于社会生产生活的各个方面，并将人类从一些简单烦琐的劳动中解放出来。有了人工智能，人们可以将自己的精力更多地投入到创造性的活动中，从而改善自己的生活条件，提高自身的幸福感。但我们既要看到人工智能发展带给人类的巨大利益，也要看清人工智能可能带来的潜在风险；既要鼓励人工智能的研究与开发，也要做好对人工智能风险的预防措施。只有这样，才能安全有效地运用人工智能服务社会、造福人类。