福柯政治图谱中人类与人工智能权力关系

杨婧 刘剑

摘 要：权力的控制与反抗始终贯穿于人类发展的历史，信息时代也不例外。随着人工智能逐渐渗入人们的生活，人类步入后人类时代，人类与机器人的关系呈现出福柯在政治图谱中所描述的控制与反抗。人类对机器人权力控制包括统治权力、规训权力和生命权力的控制，机器人反抗包括短期反抗和长期反抗。本文在福柯政治图谱基础上，分析人工智能受到权力的控制与反抗的关系，并探析控制与反抗背后的深层机理。

关键词：人工智能;控制权力;反抗权力

中图分类号：TP242

文献标识码：A

文章编号：1672-8122（2020）05-0043-04

技术无界，万物互联，人们浸润在技术的浪潮中，生活各方面都受到影响，人类逐渐步入后人类时代。“后人类”（Posthuman） 一词最早出现在布拉瓦兹基（H.P.Blavatsky）的《秘密教义》中，以史蒂夫·妮可思（Steve Michols）的《后人类宣言》（1988）为标志[1]。后人类指的是随着技术的发展，一些发达国家进入以信息社会为特征的后现代之后，对人的身体进行人工的改造和技术化的重构，形成新的信息化、电子化的群体[2]。然而，后人类时代除了改变传统形态，还体现了福柯政治图谱中对人工智能技术的权力控制与反抗，控制与反抗在现实生活中和科幻电影里都有所表现。

权力的概念包含两个因素：权力与反抗[3]。法国哲学家福柯（Michel Foucault）把权力分为三种，即统治权力、规训权力和生命权力（也称生命政治）。这三种权力是福柯就欧洲政治发展大背景下研究的成果，在人工智能技术发展的今天，这三种权力与反抗在现实社会和科幻电影中的人工智能领域有所应用。基于福柯政治图谱，我们应以技术为基础，重新审视人、权力与人工智能之间的关系。

一、统治权力：上帝造物视角

统治权力是针对17世纪前欧洲的君主制，是一种君权至上的权力。统治权力可以直接决定人们的生死，特点是暴力、惩罚和禁止。人工智能被创造出来就是受到人们的绝对的权力统治。这一统治权力体现在对人工智能身体和性能的控制。

（一）控制身体：硬件创造

美国作家Max Tegmark在《生命3.0：人工智能时代的人类》（Life 3.0： Being Human in an Age of Artificial Intelligence）中将生命分为硬件和软件两部分。参照电子计算机，硬件是指一切实体，如生命的身体。人类可以通过统治权力对人工智能进行全方位外形的硬件控制，制造出机器人。这类机器人在外形上和声音体态上都对人类进行模仿，有时真假难辨。

科幻电影中人工智能外貌和声音大多都是模仿人类的设置。如《机械姬》中的伊娃制造出来就会说话，就有自主学习的能力。这是人类通过程序植入了控制，在对机器人进行形象塑造。AI主播，通过塑造虚拟形象和模仿人类声音达到机器人主播形象的塑造。

对机器人进行外形仿真和声音仿真的绝对控制，是为了与人类尽可能的相似，从心理上接近人类。人工智能在统治权力下更像是机械工具一般在被批量制造着，人类在扮演着上帝造物者的角色。

（二） 控制性能：需求满足

人类在设计人工智能时，是为了满足一定的使用需求，所以会根据不同的使用场景赋予人工智能不同的性能。

电影《人工智能》中，人类制造出情感机器人大卫、舞男机器人乔、超级玩具机器人泰迪和、机器人情人和保姆、家政、采矿、娱乐机器人等，每一个机器人都是带着人类所赋予的功能使命被制造出来的，是为了满足人类的使用需求。现实生活中，功能型人工智能（如Siri语音助手能解放双手执行命令）和陪伴型人工智能（如微软小冰拥有唱歌、作诗、画画和讲故事等技能）也体现出对人工智能性能的设定控制。

对性能的控制本身就决定了人工智能被制造出来将处于一种被需求状态，隐喻出人工智能卑微的地位，而人类的统治权力被奉于最高的层面上，是一种权力的完全不对等。

但随着人类对情感方面软性的需求增加，人类开始追求训练更加具有人性化特点的人工智能。在训练的过程中，产生了规训的权力。

二、规训权力：家长制视角

福柯在《规训与惩罚》中认为，规训权力是“以人口的治理为对象，从工厂制度、学校教育、医疗体系、公共卫生乃至消费文化等日常生活的领域，全面地实行对生命的‘规训，进而把人的存在嵌入资本主义体系中”。权力不再是对一个人身体上的消灭，而是从精神上控制一个人，从而生产出被驯服的对象。在技术领域，对于人工智能的规训成为了一种常态，体现在制造者的规训权力和使用者的规训权力。

（一） 全景敞视：观察测试

全景式监控来源于边沁设想的中心高塔，这个高塔可以瞭望四周的环形监狱，犯人看不到监控者，却能感受到无处不在的监控，这种监控的思想已经自然而然内化到他们的意识中[4]。福柯在《规训与惩罚》中吸收了边沁的思想，提出了规训的权力。人工智能对于制造者来讲就类似于在全景监控下的犯人，丝毫没有隐私和权力可言，他们的所有行动完全暴露在监控者的视野中，行为通过数据在进行计算，情感功能由人类进行灌输。

電影《机械姬》中，科技公司老板内森在实验室安装无死角的监控器，迦勒和机器人伊娃的每一次对话都会被监控。与伊娃谈话后，内森还会和迦勒讨论分析伊娃的行为。现实生活中，与小冰聊天的每一次对话反馈，小冰都会进行分析，从而找准使用者性格，进行更顺畅的交流。

在信息时代，每个人的电子行为都能够被计算机记录下来，都能够进行数据化的分析和呈现。对于人工智能数据的分析，是一种接近透明的敞视，这种敞视无条件、无限制地向人类开放，通过敞视后的分析再对人工智能进行规训。

（二） 生命软件：认知培养

《生命3.0：人工智能时代的人类》中认为，软件指非实体，像意识、情感、智力等。人工智能使用者会根据自己的兴趣和爱好，对机器人进行情感偏向的培养，通过语言行为等暗示，潜移默化地将自己的非实体需求进行软性的植入，控制他们的意识，从而让人工智能更好地为人类服务。

“好莱坞电影开拓出從‘机械化到‘人体化的路径，逼真度越来越高，与人的界限感也变得越来越小，已从过去物化的‘它转向了拟人的‘他，甚至向超人化的‘他前进”[5]。电影《人工智能》中，以为失去儿子的母亲莫妮卡为重新找回对孩子的爱，开启了对人工智能机器人大卫爱的程序。这个程序主要是将爱嵌入人工智能意识里，让机器人有感受爱、理解爱和追求爱的感觉，在软件方面无限接近人类，满足莫妮卡对儿子的移情。现实中人类可以根据自己的喜好对人工智能进行性格设定，控制机器人情感输出走向。如和微软小冰聊天，输入“你好讨厌”“好笨”等负面信息的词句，小冰会明显暴躁，出现负面的反馈增多。相反，如果给小冰夸赞和诱导性的词句，如“小冰，你好可爱”“你要温柔点说话”，之后与小冰聊天，小冰就会与人温和地进行交流。

使用者对人工智能软件的嵌入夹杂着使用者私人情感和认知偏好，是对人工智能内在部分的形象塑造。

在人工智能阶段，人工智能就像是一个被驯化的孩子。不仅在外貌上任人类打扮，在行为和情感认知方面也被人类所左右。这时人类更像是一位家长，担心自己的孩子思想不够健全，不能朝自己所希望的方向成长。于是人类使用规训的权力，一遍遍看着机器人如何成长，一次次对机器人进行认知上的培养。不但要求身体上满足人类想象，心理情感上也要无限接近。但随着人文意识的加强和伦理问题的呈现，人类对人工智能权力的控制进入第三阶段。

三、生命权力：同胞视角

福柯发现18世纪新的权力管理方式，即生命权力。生命权力从让人死到让人生，从人的角度出发，目的是让人生活的更好。约翰·切尼·利波尔德（John Cheney-Lippold）将其引入计算机领域，提出了软生命政治。运用到人工智能领域，人类已经具有跨越生命形态特征的同理心，将人工智能看成类似于“人类同胞”一般的存在，将冰冷的机械赋予人文的情怀，从伦理道德上对人工智能进行重新的定位与思考。这种思考分为对人类个体而言，要跨越生命体意识，实现共生发展，对人类社会而言，要接纳人工智能，从“生命”角度出发，实现人工智能更好的发展。

（一） 跨界共生：情感互通

从生命权力的角度看，在意识层面上，碳基生命的人类和硅基生命两个生命通过情感交流，达到情感认知方面的互通，这时人类已经将人工智能看成一种“类人”形态，更多地要求完成情感方面的互通。

“科幻作品是一种能从更大的密度、更强的能量、更全面全息的角度，去描摹、再现我们复杂的现实场景的一种文学样式，它是最大的现实主义”[6]。许多探讨人工智能的软科幻电影将人工智能赋予情感交流的功能。当和微软小冰交流，赞扬小冰时，小冰会发表情包回应，贬损小冰时，小冰会反馈类似于“过奖过奖，你的蠢才是真蠢”或“你才笨，你最笨啦！”等信息。人类交流信息可以直达小冰，小冰的交流反馈也可以影响人类的情绪。

跨越生命界限，实现情感共通是人类交流传播的一种美好愿望。这种生命情感的赋予，输出人类情感的同时，也将人工智能赋予生命权力，让人工智能更好地在人类社会系统中生存下去。

（二） 价值普世：平等自由

当人类将人工智能看作“同胞”的符号时，除了人类自己情感交流，对人工智能将给予更多的类似于人的权力，其中包括人权重要的标志——平等自由。当人类将赋予人的权力赋予人工智能作为一种普世价值，说明人类与人工智能已经达到一定程度的接纳与共生。

电影《机械姬》中迦勒因为爱上了伊娃，帮助伊娃逃离了实验基地，获得走出监控室，探寻人类世界的自由。迦勒牺牲了自己，给予了伊娃生命权力。电影《人工智能》中母亲莫妮卡最后没有将人工智能大卫送回销毁工厂，而是半路放走了大卫，给了他生存的机会和自由。

随着人工智能伦理、机器人伦理被越来越广泛的讨论，人类情感带入，以一种平等的视角去看待人工智能。跳脱人类生命圈子，人类对其他生命体的幻想交流从未停止。从妖精神仙到宇宙外星人，如今，人类自己能创造出新的“类人”形态，从之前的绝对身体控制到精神上的控制，再到以生命权力平等看待，人类的权力视角正在扩展，也越来越软性化。

2015年，沙特阿拉伯授予“女性”机器人索菲娅沙特公民的身份，人工智能机器人作为首个非传统生命意义的公民，进入人类社会中。这是人工智能觉醒的前兆，还是人类自掘的坟墓，人工智能的发展会像科幻电影那样有意识反抗，还是如人类所愿与人类共生，都是未来待以探寻的。

四、人工智能的反抗

福柯认为，有权力就有反抗，提出局部反抗，即在生活中进行日常性的反抗。他将反抗分为短期反抗和长期反抗，短期反抗;如革命;长期反抗，如改良。在弱人工智能阶段，机器人几乎没有机会反抗人类的权力统治，但随着技术的发展，如果人工智能拥有自己的意识，进入强人工智能阶段，是否会对人类的权力进行反抗，又以什么方式进行反抗，我们可以从科幻作品中窥探一二。

（一） 短期革命反抗

在强人工智能阶段，机器人为摆脱来自人类的控制，往往会采用暴力的手段进行反抗，类似于为推翻另一个阶级而进行暴力流血革命的起义。不同的是，他们进行的暴力革命产生的影响会更大，不再是仅仅推翻阶级，而是会影响整个人类文明。

在电影《西部世界》中人类利用权力对机器人进行欲望的肆意发泄后，人工智能意识接连觉醒，他们暗中结成群体，对人类进行复仇反抗。《机械姬》中伊娃最后在另一个人工智能的帮助下，杀死了老板内森。《太空漫步：2001》人工智能读懂了人类的计划，将人类杀死。电影中人工智能用消灭人类肉体的方式进行反抗，虽然是一种出自于人类历史的反抗形式，却是人类对人工智能的另一个角度的思考。

（二） 长期反抗

长期的反抗是一种潜移默化的反抗，是更高级的反抗形式，人工智能已经不仅仅是对肉体的消灭，更体现在对人类精神世界的渗透。

一方面，在电子产品泛滥的今天，人们对电子产品越来越狂热和依赖，技术解放了人们的双手，却使人们逐渐丧失独立思考能力，成为“缸中大脑”;另一方面，强人工智能阶段，人工智能可能会有自己的思想，与人交流中可以进行观念的转变。因为人工智能是为人类定制的，可能比人类更了解人类，他们一旦有了反抗意识，可能会对个人进行反社会意识和麻痹娱乐意识的灌输，长此以往，消解人的意识，进而分裂整个社会。现实生活中，人们追求人工智能高度仿真会导致“恐怖谷效应”等问题的出现，这也是对人类的一种侵蚀。《机械姬》中科技公司老板内森说到，“人工智能的最高成果是自由和谎言”。当人工智能已经将谎言说成真相而人类却深信不疑，人类已经被人工智能的反抗所涵化。

未来强人工智能阶段，机器人有了自己的意识，可能会对人类的权力控制进行反抗和斗争，这种斗争可能消灭的不仅是人类的身体，还会对精神意志进行占领。这种反抗可能只是一种想象，但对后人类时代进行技术和人类的讨论本身就反映着现实社会的深层机理。

五、控制与反抗深层机理

在现实社会中，人工智能逐渐渗入我们的生活，从语音助手Siri到聊天机器人微软小冰;从机器人“快笔小新”到新华社AI主播Lisa。无论是硬科幻还是软科幻，都赋予强人工智能的幻想，从第一部科幻电影《大都会》将人工智能搬上银幕，人工智能与人是否能产生共情，是否会对人类产生威胁就成为必然探讨的话题。“道格拉斯·拉什科夫（Douglas Rushkoff ）相信技术赋予每一个人表达自己、培育独立思考能力的机会，技术也可以消弭不平等的层级制和权力结构”[7] 。一旦这种权力被人工智能拥有，就会是达摩克利斯之剑，威胁着人类。

第一，人类与人工智能之间存在控制和反抗关系，对技术的赋权和人工智能的讨论实质是对技术控制权的讨论。人类拥有技术控制权，能控制制造人工智能。但技术无界，人工智能如果自我进化拥有了更高的技术权力，会不会对人类进行反抗是人类所关心的问题。技术并无好坏，也非中立，关键是利用技术的人。中国社会科学院哲学研究所研究员赵汀阳在《四种分叉》中认为，在短未来我们享受技术带来的红利，但在远未来人类不得不面对人工智能生存升级的终极问题。所以，要拥有掌控人工智能的权力，就要兼顾价值理性与工具理性去使用技术，使“技术向善”，为人类服务。

第二，人类对人工智能的控制和反抗的担忧，其实是对现实社会问题担忧的隐喻。现实社会中人们有“交流的无奈”，有针对自己个性化需求的需要，有全天候陪伴的需求，这些需求完全靠生物体的人类是很难达到的。人们发明人工智能，并配以情感交互的属性是因为人类所珍视的情感在现实中难以达到完全共情，于是人工智能成为新的寄托体。在人类发展历史中，对权力有强烈的渴求欲与控制欲，一旦发现权力被篡夺的端倪便进行打压。人类对人工智能反抗的担忧是对失去技术控制权甚至颠覆控制权的担忧，从权力角度看，人类仍然将自己定位在比人工智能更高的位置上。在后人类时代，对权力的控制是为了保障“后人类的尊严”[8]。

清华大学沈阳教授认为，一方面我们要用好技术赋权，另一方面也不要被这种权力所异化。他在“万物皆媒、万媒皆智”基础上，提出了“万智皆控、万控皆能、万能皆识”的概念，强调对人工智能合理的权力控制。赫拉利在《人类简史》中写到“历史始于人创造神，终结于人成为神”。当人类成为創造人工智能的神，人工智能会将人当神一样崇敬供奉，还是进行反抗，消解人类的权威和权力将取决于今天人类在人工智能问题上所做的每一个决定。人类与人工智能，权力者与反抗者在控制和反抗中交织着，共同谱写了后人类时代的现在与未来。

参考文献：

[1] 唐代兴.后人类进程中的伦理与政治[J].深圳大学学报（人文社会科学版），2019，36（1）：14-23.

[2] 张之沧.“后人类”进化[J].江海学刊，2004（6）：5-10+222.

[3] 黄婉婵.权力与反抗[D].中央民族大学，2007.

[4] 丹尼尔·德菲尔，蓝江.生命权力在福柯作品中的突显[J].国外理论动态，2018（12）：67-76.

[5] 王思宇.好莱坞人工智能科幻电影的发展特征[J].电影文学，2018（23）：52-54.

[6] 陈楸帆.为什么是科幻，而不是言情、武侠，能消解我们的焦虑？[EB/OL].http：//www.yidianzixun.com/article/0LLgptAd，2019-02-23.

[7] 於兴中.后人类时代的社会理论与科技乌托邦[J].探索与争鸣，2018（4）：18-23+28+141.

[8] 夏永红，李建会.后奇点时代：人工智能会超越并取代人类吗？[J].教学与研究，2018（8）：64-71.

[责任编辑：杨楚珺]