AI时代，你被监控了吗

2019-11-20田地

百科知识 2019年22期

田地

2019年9月，开学第一周，位于江苏南京的中国药科大学，在部分教室“试水”安装了人脸识别系统，“监控学生”一时间成为爆炸性新闻。这种人脸识别监控可在学生进入教室后自动识别个人信息，对签到签退、学生上课听课情况（是否认真听讲，课堂上是否抬头低头、抬头低头了几次和多长时间，是否在玩手机，是否闭眼打瞌睡，是否發呆）进行监控。

AI适用范围和伦理争议

今天，人工智能（AI）的强势发展让人脸识别技术逐步渗透进人们的生活、工作和学习中。学生上课被人脸识别监控并非新鲜事，很多学校都在“试水”。这势必引起双方的博弈：学生认为，这是在侵犯自己的隐私；但校方认为，此举意在减少学生逃课、早退、花钱找人代课以及上课不认真听讲等行为，提高学生到课率，严肃课堂纪律。校方早已向公安部门和法务部门咨询，教室属于公开场所，不存在“侵犯隐私”的说法。

人脸识别技术发展过程中遇到的第一个重要问题便是适用范围及随之产生的伦理问题。如果人脸识别只是用于刑事鉴识，似乎并无问题，而且中国早已经发展出了完备的天眼系统，这套系统通过应用人工智能、视频图像处理等多种专业技术，能在第一时间对人脸信息进行捕捉和匹配，识别速度快且准确度高。目前，已经有20多个省市的警务系统和这套天眼系统实现了对接，系统能够通过布控在城市公共场所的摄像头对人脸进行实时、精准且快速的甄别；同时，该系统会将抓拍到的人脸照片和公安局逃犯数据库内的几十万个数据进行对比，在三秒内即可完成身份确认和准确定位，让犯罪分子无处可逃。

但是，如果把人脸识别用于学校或单位监控学生和员工，势必产生伦理争议，因为学生和员工不是嫌疑犯。只要是在纪律所允许的范围，便不能剥夺他们学习、工作和生活的自由。

前不久，南京河西区某环卫公司为环卫工人配发了智能手表，以监控他们的劳动。这款手表除了能定位环卫工人外，还会催促工人劳动，只要工人在原地停留休息20分钟，手表就会自动发出“加油”的报警声。批评者认为，这种做法毫无人性，对工人极为严苛和残忍。

上海中医药大学附属闵行蔷薇小学也引进了AI系统，用于学校教学和学生学习。无论是老师还是学生，一举一动都处于AI的严密监控之下，连学生在日常生活中有无微笑、有无向老师问好、有无主动捡垃圾、队列是否整齐等细节，都会被AI捕捉，反馈到总控中心。这种做法也被视为是对学生隐私的剥夺，是让孩子进了集中营和监狱。

在舆论的一片谴责声中，南京环卫工人的枷锁—智能手表被摘除了。现在，教育部对中国药科大学的人脸识别“试水”进行了回应。今年9月5日，教育部科学技术司司长雷朝滋在接受采访时表示：“（对于人脸识别技术应用）我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”这个表态意味着，官方对使用人脸识别监控学生是持谨慎态度的。

尽管有教育部的表态，中国药科大学的学生和其他学校的学生能否逃脱被全面监控的命运还很难说。中国药科大学称，学校将根据人脸识别监控“试水”后的效果确定是否在所有教室都安装人脸识别系统。

技术的局限与法律的冲突

人脸识别只是生物识别的一种，尽管在识别个体上有较大的优势，但也存在技术漏洞，也会出错。在英国，警方已经在大型公共活动中尝试使用人脸识别技术，如在伦敦诺丁山狂欢节中使用，但是由于人脸识别技术的漏洞，已经导致了错抓2000多人。

尽管如此，进入AI时代，在监控下生活似乎是现代人难以逃脱的宿命。除了管理者有充分理由外，如监控工人可以提高生产效率，监控学生可以督促学生好好学习，一些国家的法律也都有意无意在支持这一举动。

就连十分注重个人权利、保护个人隐私的美国，也有法律规定：在一定条件下，雇主是可以监控员工的，同理，学校也可以监控学生。根据《美国宪法第四修正案》和《加州宪法》的规定，公民都有隐私权。但是，公民的隐私权是否受到了侵犯，取决于你的雇主试图查出有关你的什么事情。

事实上，根据“雇主试图查出员工的什么事情”这一要素，雇主想要监控员工的工作情况，以了解生产水平和生产力，一般来说是可以被接受的。因此，雇主和主管是可以在工作场所安装视频和音频监控设备的；但是，在员工的洗手间或更衣间里安装视频设备则是非法侵犯隐私权。

可以类比的是，学校管理方认为课堂是公共空间，所以为了“爱学生”，为了促进学习，就应当启用监控。不过，即便员工和学生可以被监控，也存在监控的程度和范围问题，同时监控是否有效以及是否真的是“为了被监控者好”，也很难认定。不过，如果人脸识别监控真的有效，人们是否应该让渡自己的隐私和自由来接受AI监控呢？

美国新罕布什尔州达特茅斯学院的安德鲁·坎贝尔教授研发的配合智能手机自带的传感器的应用程序可以持续监控员工的身体活动、地理位置、手机使用情况、环境光线等。通过一年内对全美750名工人进行测试，发现该系统能够区分各行各业人们的绩效水平，准确率为80%。

美国另一项研究结果则提示，监控员工未必就能取得好的工作成果和绩效。华盛顿大学圣路易斯分校的研究人员在3年时间内追踪了42家医院的5200名护理人员，发现他们在受到监控的情况下，其前两年的洗手率会有所增加，但监控放松后又会回落；而且在取消监控措施后，洗手率甚至低于监控前的水平。不过，这项研究也从另一个角度提供了必须监控人们生活、工作和学习的更充分和更重要的理由，撤掉监控后医护人员就懒得洗手（这对病人和员工双方都不利，会加大疾病的传播概率），那么，为何不始终采用AI监控，让医护人员永远保持工作前后洗手的行为呢？

监控面临的“拉锯战”

在工作效率、有益人们的健康以及其他理由面前，AI监控已经大行其道，也成为现代人頭上的紧箍咒，谁也逃不掉。每个人的隐私，包括私人信息和私人活动都要退而成为次要的因素。

在此情况下，人们的工作和职位也受到威胁。2019年初，媒体曝光亚马逊公司利用计算机系统，自动跟踪数百名未能完成生产指标的配送中心员工，这个系统还会自动生成任何关于质量或生产率的警告，而无需上级的输入。在获知这些员工的情况后，亚马逊公司解雇了他们。尽管亚马逊公司事后予以否认，但这已表明，无处不在的监控已经“降临”，稍有懈怠，就有可能失业失学。

不过，也有一些国家认定用人脸识别监控学生是违法行为。瑞典数据保护监管局（DPA）对瑞典北部城市谢莱夫特奥开出了该国的第一张依据欧盟《通用数据保护条例》（GDPR）的罚单，金额相当于1.9万欧元（约15万元人民币），原因是该市的一所高中使用人脸识别技术来监控在校学生的出勤情况，之前既没有向DPA报备，而且又非法处理了学生敏感的生物特征识别数据。