人脸识别“易破解”面临的风险挑战及监管研究

苗 杰

(国家计算机网络与信息安全管理中心江苏分中心 南京 210019)

随着机器学习、深度学习算法的不断演进以及人工智能技术的日益成熟，人脸识别得到越来越普及的推广应用.日常生活中人脸识别技术也被广泛应用于交通出行、小区进出门禁、金融支付等较多领域.2021年2月清华大学RealAI团队最新的研究成果爆出手机终端具有人脸识别“易破解”安全隐患[1]，这些被破解的手机终端来自排名前5的国产手机，且覆盖每一手机品牌的不同价位手机型号.目前我国手机终端用户非常之多，除了苹果手机基本用的都是主流国产手机，且政府机关以及一些重要岗位工作人员也大多用的是国产手机.因此人脸识别“易破解”不仅会对用户个人隐私信息、财产形成潜在威胁外[2]，如果被一些违法犯罪分子利用还会引发一系列的社会问题.同时人脸识别“易破解”的安全隐患也会危及个人安全和社会安全，甚至会危及到国家安全.

1 人脸识别原理及应用现状

1.1 人脸识别原理

人脸识别是身份识别的一种方式，主要是基于人的面部特征信息来进行身份识别.人脸识别的目的就是为了要判断图片和视频中人脸的身份是什么.具体应用中则是通过视频采集设备扫描获取识别人的脸部图像信息，并通过人脸识别算法计算获取人脸的面部特征信息，与人脸识别系统中的人脸样本数据库进行比对，最后判断出用户的真实身份.

人脸识别过程可通过图1所示几个环节来简要描述，首先是采集人脸图像并检测，其次对采集的人脸图像进行预处理并提取人脸特征信息，接着将提取的人脸特征信息与人脸特征库信息进行比对，最后给予识别结果[3]，如图1人脸识别流程图所示:

图1 人脸识别流程图

一般在人脸识别应用中还会对被识别人进行活体检测[4]，即要求被识别人进行眨眼、张嘴、点头等组合动作，以验证被识别人是真实本人在操作，而非通过照片、换脸等欺诈手段进行识别验证，这也是人脸识别“易破解”受攻击的薄弱环节.人脸识别还涉及对人脸进行属性识别、聚类识别等一些技术应用场景，如人脸属性识别即是根据人脸展现出的特征检测出与人脸相关的属性，包括年龄、性别、头部姿态等信息.

1.2 人脸识别应用现状

在2014年我国人脸识别技术从理论阶段迈向了实际应用，随着人脸识别技术日益成熟，并在2018—2020年期间人脸识别技术得到推广使用并迎来了重要转折点，人脸识别在诸多应用中通过“刷脸”即可完成.目前我国人脸识别技术在考勤门禁、安防以及金融3个领域应用最为集中.人脸识别应用在考勤门禁领域、安防领域和金融领域的占比分别是42%，30%，20%，如图2人脸识别应用现状所示：

图2 人脸识别应用现状

从人脸识别技术具体应用来看，其主要涉及场所进出、商业企业、政府职能、信息安全、公共安全这5个领域.如人脸识别应用在场所进出领域的小区门禁控制和出入管理等；人脸识别应用在商业企业领域的日常考勤和电子支付等；人脸识别应用在政府职能领域的管理人口户籍和电子政务等；人脸识别应用在信息安全领域的网络登录认证和文件加解密等；人脸识别应用在公共安全领域的识别罪犯和刑侦追逃等.

2 人脸识别“易破解”技术挑战

随着数字拍照、视频图像合成以及近年兴起的对抗训练深度学习技术的发展，同时伴随着网络各种换脸APP的涌现，获取特定人的人脸信息或者高精度的合成人脸信息变得越来越容易[5].例如2019年国内某公司推出的AI换脸应用“ZAO”就引起网民的换脸热潮.在人脸识别得到普及推广使用的同时，清华大学RealAI团队爆出其“易破解”安全隐患，由此可见人脸识别“易破解”主要面临如下一些潜在的技术挑战.

2.1 脸部模具破解

通过高精度的3D打印机，打印足够精细的人脸模型，再通过各类复杂识别算法极有可能破解人脸识别[6].

这种破解方式对3D打印机精度要求较高，且高精度3D打印机成本昂贵，具有成本高、破解时间长的劣势，不容易被广泛采用.

2.2 视频攻击破解

安装photospeak应用软件，找到需要破解的1张人脸正面照片，通过photospeak输入即可生成令人脸眨眼、张嘴效果，从而绕过人脸识别过程中需要行为人眨眼、张嘴这一活体检测薄弱环节，从而破解人脸识别.

这种破解方式需要安装photospeak应用，目前photospeak在应用商店免费下载且操作简单，容易被广泛采用.

2.3 3D建模破解

通过一些应用生成3D建模图像，绕过人脸识别云端检测实现破解.如借助“FaceGen”或“CrazyTalk”2款应用软件，根据需要破解照片中的人脸面部特征信息，便能在较短时间内建成相应的3D建模图像，用来破解要求用户进行点头、摇头等动作的人脸识别.这种在短时间内制作出来的3D模型与原来照片的相似度很高.

这种破解方式需要安装“FaceGen”或者“CrazyTalk”应用，目前这2款应用在其官方网站需要付费使用且成本较高，容易被某些不法分子推广使用.

2.4 修改程序破解

通过在人脸识别应用程序中设置断点，当人脸识别程序进入到一定流程时则会触发该断点，然后分析并修改人脸识别程序相应的值，从而绕过人脸识别过程中要求眨眼、张嘴这一活体检测薄弱环节，使用一张静态照片即可破解人脸识别.

这种破解方式对技术要求极高，实际操作起来也难，不易于推广使用.

2.5 样本干扰破解

清华大学RealAI研究团队利用对抗样本干扰技术破解人脸识别.其破解人脸识别过程是：首先统一将测试人员A的人脸信息录入手机，然后测试人员B利用A的照片通过“对抗样本攻击算法”在眼部区域生成一个最佳的干扰图案，最后将干扰图案打印出来贴在镜框上并带上眼镜，即可对手机屏幕完成人脸识别破解解锁.利用该方法成功破解了国内主流的19款采用2D人脸识别的手机，对采用3D人脸识别的苹果手机未能破解，破解成功率高达95%.

这种破解方式需要相关运算生成干扰图像，对技术能力要求较高，难于普及使用，但不排除商业推广使用的可能.

3 人脸识别“易破解”面临的安全风险

目前人脸识别技术在安防、金融、交通应用领域布局较为成熟，同时在教育、酒店等领域也有较广泛应用，其为社会发展带来了新的机遇[7]，也为人们日常生活提供了便捷.虽然人脸识别技术提升了身份认证便捷度和效率，但是从清华大学RealAI团队最新研究成果看出，人脸识别“易破解”也面临如下一些安全风险.

3.1 威胁个人财产甚至人身安全

目前个人手机留存用户大量的照片、视频、工作内容等隐私数据，同时个人手机装有各类银行、微信、支付宝等支持“刷脸”认证金融工具.近2年随着“深度伪造”技术飞速发展，模仿和伪造某人的行为特征并生成相应的图片、视频等也越来越容易，其中AI换脸即是深度伪造技术的典型代表[8].因此在一些开通人脸识别认证的应用中，出现个人支付账户被盗刷、个人隐私信息被泄露、入室盗窃犯罪等一系列违法行为已成为可能[9].人脸识别“易破解”不仅威胁到个人财产安全和人身安全，甚至会危及公共安全和国家安全，会造成社会忧虑和信任危机.

3.2 侵犯个人隐私和滥用人脸数据

随着人脸识别技术越来越普遍地应用到人们生活中，人脸特征信息也逐渐成为人们的身份证件之一，但是人脸识别技术在具体应用中仍存在一些不规范问题.首先，存在较多公共场所在采集人脸信息时并未明确告知用户的现象，用户在不知情的情况下其人脸信息被采集成为常态.其次，在小区进出门禁或日常工作考勤等人脸识别应用中，用户基本没有选择的权利，只能被动地接受采集其人脸信息.再次，部分在线教育应用以及换装、测肤质等娱乐小程序未按照相关法律法规要求收集、使用人脸数据[10].同时刷脸支付售货机、刷脸取件等应用也随处可见，这些应用正肆无忌惮地收集存储用户的人脸数据及个人特征信息[11].这些不规范的人脸识别应用不仅侵犯了个人隐私，也为人脸数据滥用提供可能.

3.3 安全机制缺失造成数据泄露

目前针对人脸识别的安全技术标准和使用规范不够完善，对于拥有人脸数据相关单位的责任和义务，人脸数据主体的权利缺少明文规定.同时人脸数据在收集、处理、传输和存储等各环节应采取的安全措施也缺少相关规定.并且存在使用人脸识别技术的企业是通过调用第三方的接口实现，其和人脸识别应用服务提供商采取的安全措施可能不足以应对人脸识别带来的安全威胁，从而容易发生人脸数据泄露等安全事件.另外网络安全生态环境持续恶化，一些不法分子攻击系统漏洞也会时有发生，因此人脸数据库泄露事件也屡见不鲜.

4 人脸识别“易破解”监管研究

为了有效防范人脸识别“易破解”带来的风险和挑战，需要从保障公众知情权、完善法律法规政策、制定人脸识别安全标准、构建人脸识别应用监管体系、建立行业组织鼓励行业自律5个方面来进行规避，以营造良好的人脸识别行业生态发展环境[12].

4.1 保障公众知情权

公共场合在采集人脸数据时，应公开明确告知被采集人，以便不愿被采集人脸数据的人避开这些区域.此外，人脸识别相关应用在采集人脸数据前应当告知被采集人其人脸数据的用途和可能带来的风险，以保障用户享有知情权和选择权.同时若用户不想继续让人脸识别应用留存使用其人脸数据时，应用也应该提供一定的删除渠道，保证用户能够及时删除其人脸数据，确保用户的删除权.另外，针对人脸数据易滥用、人脸识别“易破解”等问题，人脸识别应用主体需引导告知用户要谨慎开通具有“刷脸”功能的相关应用，特别是涉及资金支付、金融认证[13]等需要开通人脸识别的功能.用户在使用人脸识别应用时，若发现其开发单位为中小企业或不知名企业，更应提高警惕性和安全防范意识，避免企业因安全防控技术手段不足所造成的个人隐私泄露和资金被盗刷的风险.

4.2 完善法律法规监管

人脸数据属于公民的生物信息[14]，目前我国对公民生物信息保护的相关法律，包括网络安全法、消费者权益保护法以及最高法、最高检、国务院颁布的相关司法解释和规定中，在内容上也仅是对个人信息在收集、使用、存储、传输等环节进行了一些原则性规定，而缺少关于人脸识别在内的个人生物信息相关法律法规.因此应当尽快完善包括人脸识别在内的个人生物信息使用的法律法规，建立人脸识别技术应用申报备案和审批制度.法律法规应当明确保护公民个人生物信息的具体范围，并强化责任追究制度.同时法律法规需保障个人生物信息的安全规范使用，对泄露个人生物信息和滥用个人生物信息涉事者加大处罚力度.

4.3 制定人脸识别安全标准

随着人脸识别技术逐渐走向成熟，使用人脸识别技术的应用也越来越多.应当加快建立人脸识别技术所涉及的各类安全标准，包括保护个人生物信息的相关标准也应尽快出台.建议从人脸识别自身的安全性角度考虑，并结合实际应用过程中关于个人生物识别信息保护等方面，加快研制人脸识别的相关安全技术要求和管理要求、个人生物信息保护要求，并制定人脸识别安全应用规范等一系列标准.通过人脸识别安全标准可以指导行业依据标准来规范人脸识别技术的使用行为，提升人脸识别的自身安全保护水平，降低人脸识别实际使用中的安全风险，从而保障用户个人生物信息的安全性.

4.4 构建人脸识别应用监管体系

开展人脸识别应用必要性评估制度.企业或者组织机构在使用人脸识别技术前，需要对其实现方式、业务场景、数据收集使用情况，以及人脸识别在实际使用时预期的用户规模等情况，开展人脸识别应用必要性评估.在人脸识别技术正式投入使用前，通过评估的方式来强化事前监管，从而降低人脸识别正式推广使用过程所带来的风险.同时需建立完善人脸识别应用在投入使用过程中的评估制度，并建立完善发生安全事件的事后问责制度.一方面，督促使用人脸识别技术的相关单位依据安全规范标准，配套必要的人脸识别安全保障措施，并定期开展安全评估工作.另一方面，对发生人脸数据泄露等安全事件的单位严肃问责，并加强相关人员的安全培训和给予工作上的指导帮助，同时不定期对涉事单位进行回访并持续强化监督.

4.5 建立行业组织鼓励行业自律

以人脸识别为代表的人工智能技术发展日新月异[15]，相关行业法律法规的制订滞后于技术发展已成为新常态.同时人脸识别在实际应用时涉及多种技术且较为复杂，并面临保障人脸数据安全难的问题.因此完全寄希望于政府来管理治理人脸识别所存在的问题不大可能也不太现实.所以建立人脸识别行业联盟类组织则显得尤为必要.一方面，可以通过鼓励行业组织使其发挥行业自律平台的作用，来推动各利益相关方共同制定采集使用人脸数据的行为准则.另一方面，行业组织可以宣传推广人脸识别应用中的最佳实践案例，促进人脸识别行业的安全保护意识，带动提升人脸识别关于个人特征信息的整体保护水平，为人脸识别创造一个良性的行业生态发展环境[16].

5 结 语

从清华大学RealAI研究团队最新的关于人脸识别的研究成果看出，目前人脸识别在我国手机应用领域存在非常大的安全漏洞，对用户和社会可能造成危害.用户应该提升关于人脸识别应用的安全意识.同时企业在使用人脸识别应用时也应充分评估其安全性，避免因技术漏洞让不法分子有可乘之机.政府机构也应充分发挥其监管职能，为人脸识别应用营造一个良性的生态环境.