深度伪造与伪造深度：技术治理的边界与限度

张爱军，曹慧雅

(西北政法大学 新闻传播学院，西安 710199)

技术与资本、政治所具有的天然联结属性使其会影响政治权力与资本势力的运作。深度伪造技术的诞生与应用，在政治领域表现为具有伪造深度的信息的生成会遮蔽政治认知、阻碍政治沟通，并分散政治共识；在经济领域表现为其应用的开发具有加剧资本剥削的风险；而对公众心理的影响则表现为批判意识、隐私意识和伦理意识的淡化。目前，对于深度伪造技术所引发的风险的研究主要包括宏观和微观两个部分。其中，宏观研究较多集中于探讨深度伪造技术对国家安全和国际关系的威胁，忽略了宏观上资本势力的负面作用；微观研究的焦点则较多集中于深度伪造技术对于个人隐私的侵犯，忽视了其对于个人心理的影响。具有伪造深度的信息产品需要利用技术力量进行治理，而围绕技术治理的研究则多聚焦于技术本身的设计和应用，对技术治理的困境及边界未有深入研究。探索技术治理的挑战可以为治理技术指明前进的方向，并构建多方合力的治理框架，而分析技术治理的边界则能够限定技术治理所涉及的权力主体在行使治理功能时的职能范围。

一、深度伪造和伪造深度的概念与关系

智能技术的快速发展表现为技术的更新迭代及新兴智能技术的诞生，深度伪造技术是在生成对抗网络、算法技术、深度学习技术等技术的交叉融合的基础上被创建的。其诞生一方面拓宽了技术的应用实践范围，另一方面则提高了虚假信息的逼真程度。

(一)深度伪造及其应用实践

深度伪造技术是深度学习和伪造的合成词，是指借助机器学习合成音频、图像和视频，从而形成内容的技术，是人工智能技术发展到一定阶段的产物。

视频伪造结合了音频伪造和图像伪造，是深度伪造技术应用最广泛的代表，其应用实践包括互换身份的“换脸”、改变人物面部表情，以及创建虚拟人物三大类型。事实上，从深度伪造技术的代码在开源软件的公开到各种换脸软件的普及，脸部伪造的应用门槛逐渐降低，专业技术人员和普通大众皆可利用深度伪造技术生成脸部伪造的信息产品。改变人物面部表情是通过利用深度合成技术来改变人物五官的动态呈现，从而转换视频中人物的情绪表达和说话口型。在实际应用中，可用于制作静态艺术作品中人物的动态视频、制作具有高度还原性的历史人物的相关影像。而创建虚拟人物则是通过收集真实人物的声音图像作为原型，利用深度合成技术打造出虚拟人物。

深度伪造技术的更新升级使其产品的逼真度有了很大提高，但仍存在信息产品伪造深度不同的情况。虽然经过机器的深度学习生成了伪造信息，但部分深度伪造技术生成的信息产品在本质上仍旧属于“浅伪”的范畴。

(二)伪造深度及其影响因素

伪造深度是指深度伪造产品内容接近真实和客观存在的程度，即深度合成产品的逼真程度。深度伪造的产品与真实的视频、音频无法达到完全一致，存在着不同程度的瑕疵，从而造成了利用深度伪造所生成的信息伪造深度不一的情况。具体而言，伪造深度的程度受两种类型因素的影响，一是技术处理上的不自然和硬件设施的不适配降低了伪造的深度；二是深度伪造信息中的内容逻辑与现实不符合，以及细节“露陷”影响了伪造的逼真度。

第一，技术处理和硬件设施。深度伪造的产品受技术处理和硬件设施的影响，其逼真程度有所不同。深度伪造的源代码在网站的开放及换脸软件的普及降低了深度伪造的技术门槛，伪造深度低的产品往往通过免费下载的软件就可生成，消费者不需特殊的专业知识和技术能力即可实现换脸操作。相较于拥有专业处理技术和硬件设施的专业人员，普通用户生成的深度伪造产品存在瑕疵，观察者能够通过肉眼分辨出其与真实音频、视频的区别，伪造深度不高。如视频中人物脸部表情的扭曲生硬、脸部周围光影的闪烁和模糊，音频中语调的不自然和不连贯。而专业人员通过对源代码的升级、对瑕疵的技术处理，以及适配的硬件设施，则会生成以假乱真、伪造深度极高的深伪产品。

第二，内容逻辑和细节。深度伪造产品的主要生成动机包括娱乐消遣和政治目的，政治目的中包含了政治宣传和政治动员等内容。用于娱乐消遣的深度伪造技术生成的信息内容多为某个个体与影视剧中演员的换脸，往往与现实逻辑和人物身份不符，伪造深度不高。而用于政治宣传、政治动员的深度伪造产品，要煽动公众情绪、达到特定的政治目的，其内容通常符合逻辑和政治人物的形象与身份，伪造深度较高。此外，深度伪造技术生成的信息内容的细节破绽也会影响其逼真度，在视频中背景信息的前后不连贯，即某个物体和人物的突然出现或消失都会降低伪造的深度。

此外，伪造深度受技术硬件及内容细节的影响而深度不一，最终依赖受众做出主观判断，受众信息素养是衡量伪造深度的标准。受众信息素养包括判断信息、鉴别信息和评价信息等方面的能力。面对同样的深度伪造产品，具备信息素养的受众在接收到视觉信息和听觉信息后，就其内容可辨别出是否符合现实逻辑、是否存在细节上的漏洞等。而不具备信息素养或者信息素养不高的受众则难以辨别出深度伪造产品，同时也证明了该产品的伪造程度较深。

(三)深度伪造与伪造深度的关系

伪造深度是深度伪造的程度，深度伪造技术的直接目的是生成具有伪造深度的信息内容，深度伪造与伪造深度表现为彼此融合促进的关系。伪造深度的需要对深度伪造技术的产生、发展起促进作用，而深度伪造技术的演进升级则对伪造深度的程度起提升作用。在深度伪造技术出现之前，仅能使文本、图像的篡改、伪造接近真实的程度，但对于音频视频的合成、修改则较为困难，达不到以假乱真的程度。依托于深度学习的深度伪造技术的孵化则实现了对听觉信息的操控和对视觉信息的进一步控制，让音频信息和视频信息随着人类的思维构想生成或者更改，以接近真实的存在，满足了人们对于信息伪造深度的要求。对伪造深度的需要促进了深度伪造技术的发展，新技术的发明与使用本质上是要反映人的意志，要为人类的社会生活与政治理想服务[1]。作为一种新兴技术，深度伪造技术进入政治领域，受政治驱动力的影响，就其运用的目的而言是带有政治性的，政治对伪造深度的需要无疑会推动深度伪造技术的发展。深度伪造技术出现之前，出于政治目的，编造事实的政治攻击往往通过伪造文本信息，对敌对政党进行文字指控；而深度伪造技术的应用则可在视觉认知和听觉认知方面塑造真相，从对“事实”的陈述转变为对“事实”的展示，为政治攻击提供具有可信度的证据，政治对伪造深度的需要会有意无意地促进深度伪造技术的发展。

深度伪造技术的演化和更新会提升伪造深度。深度伪造有使用技术的简单性与复杂性之分，相较于简单传统的深度伪造技术与大众可使用的深度伪造技术，复杂的伪造技术则是借助专业技能修饰造假信息的瑕疵，并升级深度伪造算法的技术。简单来讲，深度伪造技术从依托卷积神经网络到生成对抗网络，其深度伪造工具的日臻完善不仅提高了伪造速度，而且也提高了伪造的深度。

利用深度伪造技术生成的具有伪造深度的信息除用于影视特效、艺术还原等特定领域外，其在大众娱乐狂欢、政治传播等领域的应用则会引发一系列问题，甚至会将技术变成资本手中的利器，给社会和个人带来灾难性的后果。

二、深度伪造与伪造深度的风险

技术与资本、政治具有的天然联结属性使技术会影响政治权力与资本势力的运作，技术权力、政治权力和资本权力互相建构，以维护和巩固既有的权力结构，在建构的过程中或会出现对已有权力结构的削弱和强化等不确定的风险，当然，个体权利和利益的损害亦在技术所引致的风险样态中。伪造深度的高低与深度伪造技术产生风险的可能性呈正相关关系，伪造深度越高越容易引发深度伪造技术的风险。

(一)深度伪造技术加深人的异化

深度伪造技术对人作为主体所拥有的意识的削弱。在技术面前，人的批判意识、隐私意识和道德伦理意识被削弱，表现出由人所创造的技术反过来束缚人，使人丧失了主体性和能动性，个性得不到全面发展并造成人的异化。

第一，批判意识的淡化。深度伪造技术在展现其功效时会引起人们对于技术的盲目崇拜。正如芒福德认为，在巨型机器制造的不幸中，首要的就是当今人们对科学技术界的无限崇拜[2]。对技术的崇拜会使人片面地认为技术所具有的正向影响与功能会给人类带来福音，并认为任何技术都不应该受到遏制，具体表现在大部分的深度伪造产品所具有娱乐消遣的价值取向上，其内容大都是具有情绪的煽动性的。在后真相时代下，情绪价值高的信息产品无疑能收获较高的满意度，进而使人们沉醉于深度伪造技术所造就的满足个人幻想的情景中，享受着深度伪造技术所提供的精神层面的满足，进一步加深了人们对于技术的依赖与崇拜，相反，人们对于技术的批判意识则被削弱。此外，更有甚者，深度伪造技术创造出的具有较高伪造深度的信息产品会代替社会真实，而人们对于深度伪造技术所创造出的假象的迷恋则会降低对真实社会的关注度，从而使人们丧失对社会现实的批判，并导致技术对人的异化，即人被自己的创造物所控制、奴役、束缚。

第二，隐私意识的淡化。使用深度伪造技术创造出具有一定伪造深度的信息产品的前提是收集个人的面部信息、声纹信息等个体生物数据，借助机器学习将采集到的个体声音、面部五官对原本音频和视频中的人物进行替换。依托深度伪造技术的“换脸”软件，让不具备专业技术知识和能力的普通用户接触、使用深度伪造技术并生成深度伪造产品。在“变身”主角的背后是个人生理信息的被采集、个人隐私的让渡，利用个人声纹、面部信息和深度伪造技术可生成出用以诈骗勒索的假音频、假视频信息。由于第三人效果感知定势的存在，个体往往认为伪造的敲诈信息会对他人具有较高欺骗性，而不会影响自身的认知和判断，从而愿意用个人生物信息换取娱乐，轻视了深度伪造技术对于自身隐私的威胁。

第三，伦理意识的淡化。20世纪60年代，格伯纳等人提出“涵化理论”，认为将大众传媒的内容反复传播给受众会影响其认知，进而再塑其思维方式。深度伪造技术所塑造出的伪造现实不是对真实现状的复制呈现，而是通过深度伪造技术展现编造过的情景。对深度伪造技术的恶意使用表现在生成突破道德伦理底线的信息产品上，使其吸引公众的眼球和注意力、符合大众的猎奇心理。尤其是在深度伪造放宽技术门槛与各种换脸软件的普及后，涉及他人形象的格调低俗的信息产品可轻易被制作，经过社交媒体的大规模传播后，将潜移默化地淡化公众的伦理意识、降低其道德底线，进而对现存的社会道德伦理规范形成潜在性威胁。

深度伪造技术表面上实现了人类的想象力和思维意识的自由，但在实际的技术应用中则会使个体形成对深度伪造产品的依赖和对深度伪造技术的沉迷，使本属于人类的理性思维和底线思维受到技术的蚕食，从而只能顺应技术异化的逻辑。

(二)深度伪造技术阻碍政治传播

深度伪造技术的恶意使用进一步模糊了真相与假象之间的界限，使舆论场上的信息难以辨清真伪，导致政治传播面临政治认知被遮蔽、政治沟通被阻塞，以及政治共识被分散的危机。

第一，深度伪造遮蔽政治认知。政治认知是政治主体对于政治事件、政治人物、政治规律等政治信息的看法、态度和评价。作为技术和表达手段的深度伪造，可以通过使用人工智能或者深度学习技术来创建扭曲政治人物、国家形象的图像、音频和视频，并进行议程设置。视觉层面的伪造具有较高可信度，深度伪造的信息被认为是一种客观现实而被受众接受，从而使公众认知受到干扰。尽管深度伪造的政治信息会被调查核实，但其经过伪造的事实也会公之于众，同时由于首因效应的影响，公众对最先接触的深度伪造政治信息先入为主地形成了认知和记忆，从而影响、阻碍了真实政治信息的传播和传递，造成公众对政治信息的认知窄化和片面化。

第二，深度伪造阻碍政治沟通。政治沟通是指政治信息、政治态度与政治思想交流与交换的全部活动。政治沟通的前提是公众对公共事务的理性商讨，而深度伪造技术则被各种政治力量所利用，生成具有伪造深度的视觉信息，用以在认知层面上传递煽动性言论和诱导性信息。非理性的话语走向使政治交流和互动无法有序开展，情绪式宣泄使政府难以与公众进行沟通对话。政治沟通的理想状态是政府与公众间畅通的互动与对话，而这就需要营造出风清气正的网络政治空间，创造出信息双向流动的良好环境。政府的辟谣行为是政府权力的运作方式，也是提升政治沟通效能的方式。以政务新媒体为代表的新型官方辟谣媒介凭借其即时性、交互性等特点成为政府进行舆情管理的阵地。而深度伪造技术的运用使具有高度可信性的虚假信息生成，给政务新媒体的辟谣带来了挑战，政府传递的信息难以被公众接受、肯定，政府与公众之间的信息交流与沟通就形成了阻塞，使两者无法在公共问题上进行有效的交流。

第三，深度伪造分散政治共识。政治共识是人们对于政治价值观念、政治规则与程序意见的基本一致。达成政治共识需要对政治信息形成相通的意义空间，深度伪造所制造的假信息的泛滥会造成真相与假象共同充斥的网络空间，真实的信息与虚假的信息都有各自的受众。深度伪造技术还可以结合算法推荐技术，根据用户的政治立场，有针对性地向其推送具有伪造深度的政治信息，固化用户的政治态度，且由于证实性偏差的存在，受众在面对深度伪造信息时首先判读的不是信息真伪，而是其是否与自身既有的认知结构相接近，个性化推送技术迎合个体的政治认知，进而将个体封闭在单一的政治信息环境中，造成个体政治信息环境的封闭与狭隘，并进一步固化人们的政治观点与政治立场。接收深度伪造信息推送的群体与接收官方信息推送的群体处于两种意义空间之中，对政治规则、政治规律和政治事实存在不同的认定，导致群际间产生间隙与裂痕，出现网络巴尔干现象，也使得政治共识难以形成。

(三)深度伪造技术加剧资本剥削

资本是一种积累起来的劳动，“资本逻辑”的核心在于通过“榨取”和“剥削”来实现自身的扩张，为再生产和趋利致富做好充分的准备[3]。作为深度伪造技术软件研发方的资本平台可凭借换脸软件的运行收集公民的数据信息，并将收集到的公民信息数据转化为数据资本，事实上，对用户数据的二次利用的实质是对用户的剥削，以实现资本利益的最大化。

第一，劳动领域的资本剥削。智能经济新业态新模式不断催生形态各异的数字劳动，从网络众包中的微劳动到平台用户的免费劳动，资本不再满足于雇佣劳动制下对人们体力劳动和智力劳动的吸纳，而是凭借平台垄断和数据抓取，实现对大众生命政治活动的吸纳[4]。个体在深度伪造构建的虚拟空间中以自身生理信息作为交换生成具有伪造深度的信息产品，这些数据可被开发软件的资本平台采集，个体也随之丧失对数据的控制权。用户的个人生理信息和深度伪造产品中含有的信息被平台数据化为数据资本，基本信息则用来建立个人的数字画像以精准投放广告；网络行为中用户的深度伪造内容生产免费为平台方提供原创内容，为其增加日活量和热度。资本平台可将用户个人信息和原创作品作为与其他平台数据交换和数据共享的资料，谋求共同利益。

第二，消费领域的资本剥削。个体在技术构建的虚拟空间中生产信息和数据，而这些数据可被资本平台采集，基于消费者的生理信息诸如性别、年龄有针对地进行广告推送，以刺激消费。在广告和服务推送的过程中，根据消费者的年龄、性别可分析其消费能力、消费偏好，采用动态定价方案，针对不同消费者的消费水平等显示出不同的商品或服务价格，以帮助企业实现利润的最大化。利益驱使着企业采取算法进行动态定价，在消费市场进行价格歧视、算法杀熟。

深度伪造技术造成的危害不仅在于其技术的复杂性，也在于其对于人为因素的放任。深度伪造技术自身漏洞所造成的产品伪造深度存在的偏差，给技术治理和攻破深度伪造指明了思路。

三、深度伪造与伪造深度的技术治理

深度伪造的伪造深度决定了其影响程度，对具有伪造深度的信息进行治理，可通过一系列技术手段侦破深度伪造信息的瑕疵，以降低深度伪造的伪造深度，并最终辅助人类分辨出真实信息与伪造信息。治理技术包括基于区块链的溯源技术追踪信息链条上的信源、根据细节指标的核查技术判断音频信息和视频信息的真伪、利用标签技术对真实信息和伪造信息进行标记、利用信息屏蔽技术限制低俗的深度伪造信息在网络空间的传播。治理技术的应用厘清了真相与假象的界限，使舆论场上原本具有伪造深度的政治信息可信度降低，从而削弱了其对政治传播带来的负面影响；切断了突破道德伦理底线的深度伪造信息的传播网络，防止其进一步且在更大范围内弱化公众的伦理意识。

(一)深度伪造与伪造深度的技术治理

第一，溯源技术。信源的可信度是信息真伪判断衡量的标准之一，通过追踪信息的来源出处来衡量信源的可信度，而判断信息真伪的溯源技术则是判定、治理深度伪造信息的技术之一。区块链以链条的方式组成去中心化的共享账本，记录网络空间中的数据并保证数据的不可篡改。如斯坦福的DRT小组探索开发的区块链程序可追踪视频的多个编辑版本，如果无法追踪到母视频则无法信任该数字视频的内容。利用此程序可帮助用户确定视频是否可以追踪到信誉良好的来源，从而打击深度伪造。如果溯源技术检测到传播链条上的“深度伪造”信息没有原型的存在，就可以证明该信息有经过合成的可能。如果溯源技术将追踪到的信息原型同传播链条上的信息版本进行比对，也可以检测出原音频和原视频信息内容是否被篡改，由此区分出真实内容和伪造内容。

第二，核查技术。对溯源技术检测到的信息传播链条上有深度合成可能的信息，可将数据库中的信息原型与伪造的信息进行比对，检查音频和视频是否利用个体生理信息进行伪造和冒用。对于检测到有原型的多版本信息，核查技术可通过技术手段检测信息是经过伪造还是随着事态发展的自然演变。溯源技术与核查技术所检测出的真实信息与伪造信息，为下一步进行标签技术提供了参考。

第三，标签与信息屏蔽技术。标签技术可对溯源技术追踪到的源头信息进行标记，如斯坦福大学计算机科学系的学生开发的Neural Hash就可以对生成指向的原始内容标签数字水印，即即使恶意攻击者可以修改视频、扭曲音频、交换他人的面部等，其数字签名都无法被抹去。对元内容的标记方便了大部分用户追踪信源，通过对比原始内容和接收到的信息辨别出其是否为深度合成的真相。同时，这也有助于提升公民对具有伪造深度信息的辨识能力。信息屏蔽技术即技术删帖，对于利用深度伪造技术生成的突破道德伦理底线的信息产品，不论其伪造深浅，都应限制信息在互联网公共空间的流通，防止其对公众的伦理意识造成不良影响，维护社会道德规范。

(二)深度伪造与伪造深度的技术治理困境

利用技术治理深度伪造存在的困境与挑战：治理技术与伪造技术在设计和应用上存在时差、伪造形式的多样性与治理技术的规范性存在冲突、治理技术的程序化和“伪造”动机复杂化也存在矛盾。

第一，治理技术与伪造技术的时差。深度伪造技术与鉴别伪造技术的设计和应用存在滞后性，针对深度伪造技术的特点及其漏洞而开发出的治理技术需要经历代码设计、程序测试、软件应用等阶段，造成治理技术在时间上延迟于伪造技术。而伪造技术会不断地升级，治理技术需根据伪造技术的更新进行技术上的不断调适，造成其始终与伪造技术存在设计上的时差。在技术应用上，利用深度伪造技术生成的产品在网络空间中传播后，一系列的鉴别技术才有了应用的对象，但也造成了对伪造技术和伪造信息的滞后处理。

第二，核查技术规范性与伪造形式多元性的矛盾。核查技术内设有特定的算法，在核查深度伪造产品时通过既定的程序判断信息是否经过深度伪造，而伪造形式可能不在核查技术所检测的范围内，因此或带来误判。如深度伪造技术对眨眼模式进行改进，即通过查看眨眼模式来识别深度伪造的工具是否失效；对深度伪造技术进行升级后，视频中人物脸部周围光影的闪烁、模糊，音频中语调的不自然、不连贯等等瑕疵都被消除掉，这也导致识别此瑕疵的核查技术无法发挥作用。因此，伪造形式的多元性给核查深度伪造带来了阻碍。

第三，技术程序化和“伪造”动机复杂化的冲突。深度伪造技术的低门槛应用使社交媒体上生成的深度伪造产品主体泛化，在注意力经济模式下，或有部分用户为博取眼球而声称其发布了深度伪造的信息。即使通过某种形式的身份验证证明了某些事物是真实的，但如果当事人否认其真实性，则依然会形成无法验证的怪圈[5]。技术的判定是程序化的，而“伪造”的动机则是多变复杂的，两者的冲突是技术治理的困境之一。

持续加强对治理技术的探索开发，可以缩短其设计与应用的时间，以实现技术治理的有效应用，从而提升治理技术应对多元化、复杂化的深度伪造形式与动机的能力。此外，建立技术预警机制是治理技术的方向。

(三)深度伪造与伪造深度的技术治理边界与限度

治理技术依托科技公司搭建设计与运营的框架，并作为政府治理社会的工具发挥其服务社会的功能，技术治理涉及三个主体即技术本身、政府和资本，因此，应构建技术伦理边界、政治伦理边界以及经济伦理边界，以明确技术治理过程中的秩序与规则。

第一，技术伦理边界。针对治理深度伪造技术所研发的溯源技术、核查技术与标签技术，可以在一定程度上应对具有伪造深度的信息所带来的负面影响。治理深度伪造的技术是从技术层面检测、判定经过合成的信息，从而使人类用户根据技术判断的结果认定信息是否经过深度伪造，以反映出自主意识和价值判断对技术的让渡。治理技术的开发研究和应用发展的初衷是服务人类，而其所表现出的服务性存在则易滑向思想控制的存在，从而使人类的主体性地位受到威胁，有鉴于此，技术伦理边界的建设应受到关注。

工具理性和价值理性关系的融合共生构成了技术伦理边界。工具理性注重履行技术的使命，追求技术达到效率的最大化。当以工具理性作为技术治理深度伪造的主导价值取向时，虽然能够应对深度伪造带来的负面影响，但也会将技术引入野蛮发展的轨道而使个体形成对技术的依赖，深度伪造的信息会被技术核查并打上标签，人类用户自身的判断、分析与理解能力未必能识破深度伪造的信息，因此不如依靠技术的判断与治理影响个体的价值认知、价值选择和价值判断。另外，价值理性的人本主义展示出对人文精神的关怀，价值理性的过度强调或导致其一味地追求人文价值而限制技术的运用与发展，进而阻碍技术在深度伪造领域发挥治理的作用。因此，构建价值理性与工具理性融合共生的关系，有利于技术最大限度地达到预期目标，同时技术的设计也应受到伦理道德和准则的约束，为人类的自主性思考和理性思维留有一定空间。

第二，政治伦理边界。技术与政治共同处于社会系统之中，技术影响政治系统运作，在对政治认知、政治沟通和政治共识的形成带来阻碍的同时，政治也内嵌于技术的运作与应用中，利用技术巩固既定的政治体系。数字技术是政府治理变革的助推器和驱动力，数字技术嵌入治理体系可有效提升治理能力与治理效能[6]。利用技术治理深度伪造的本质是加强国家的社会管控能力，若越过政治伦理边界，作为管理和权力方的政府可利用新兴治理技术构建新型的控制网络，将治理技术变成加强管控的利器。如通过标签技术认定伪造信息，对个人发布的、用以攻击政治话语、公共政策与现有权力体系的信息打上标签并限制其传播，具体表现为技术删帖和限制访问等信息屏蔽行为。而针对用以政治攻击的深度伪造信息，标签技术可以滞后处理甚至不处理。政府利用技术治理深度伪造，是将技术作为社会治理的工具和手段。政府对社会进行治理时需要在政治伦理的边界内行使权力，以避免将技术治理转变为技术控制。

权力和权利关系的平衡构成了政治伦理边界。政治伦理学作为一门研究政治正当性及其操作规范和方法论的学问[7]，它规定了权力主体在行使政治权力时应具有的价值正当性。即使治理深度伪造的技术赋予了政府追踪、收集公民信息，进而监督与控制私人信息的可能性，但政府的责任仍然在于平衡自身权力与公民权利，即在实现舆论监督的同时不以技术侵犯公民的私人领域，在实现维护公共空间秩序的同时不以技术限制公民政治参与，不以让渡个人权利、侵蚀个体隐私与尊严的情况下延伸权力的范围。此外，政府对公民的权利保护应在伦理道德框架之内，以避免过度保障权利而限制权力运作，由此造成权利与权力关系陷入另一个极端。

第三，经济伦理边界。治理深度伪造的技术设计研发和应用由科技公司执行，为防止治理技术被恶意修改和应用，甚至被深度伪造技术用做技术升级的参考，治理技术往往不公之于众，这也造成治理技术处于“黑箱”之中，资本平台对数据资源进行开采，掌控借助核查技术所建数据库中公民的生理信息及借助溯源技术中的区块链程序获取公民发布在社交媒体上的思想信息，并以技术治理的名义规避政府和公众监督，资本具有的天然扩张属性使商业化运作的企业利用网民数据获取收益。因此，需构建经济伦理边界以规范经济主体的商业行为。

资本平台利益与公民权益的关系构成了经济伦理边界。经济伦理既是激发经济行为的精神动力，又是评价人们经济活动是否合乎道义的标尺，并以此影响人们对经济体制和经济行为的选择[8]。在经济伦理边界内，企业获得经济效益不以损害公民的权益为前提和交换，在以技术治理的形式服务社会时应尊重个体权益。

技术治理的边界是技术治理深度伪造过程中各主体应遵守的规范和道德底线。只有在技术伦理边界、政治伦理边界和经济伦理边界内，技术才能发挥正向的治理作用。而技术治理的挑战和其存在的越界风险，则表明对于深度伪造的治理不能完全依赖于技术，社交媒体平台、媒体从业者、公众、政策和法律都应共同作为治理深度伪造的主体，搭建起互相监督、共同治理的有效治理框架。