智能家居的伦理风险、成因透析及治理建议
2024-05-30谭九生
李 猛,谭九生
(湘潭大学公共管理学院,湖南 湘潭 411105)
一、问题的提出
从人类的社会本质变迁看,以往由家庭和社群承担的功能,正在被深度地物化和异化,逐渐被资本化了的国家和市场取代。工业革命不过花了短短两个世纪左右,直接使人的社会关系结构发生了质性的重构,加速家庭形式的消解和家庭观念的瓦解[1]78。随着物联网、人工智能和大数据等智能技术应用到家庭,智能家居技术正逐渐改变现代家庭结构和关系。
智能家居的概念最早起源于20 世纪80 年代,信息通信技术的发展催生电子住宅的发展,电子住宅在美国被称为Smart Home,是今天智能家居的原型。托夫勒在《第三次浪潮》中提到,越来越多的人选择在家办公,这种办公方式使雇员的交通成本降低、通行时间减少,同时提高了工作效率和社区归属感[2]201-202。进入21 世纪,随着物联网、人工智能等新兴技术的发展,智能家居技术利用温湿度等精密传感器、安保和照明系统,进行通信、监视、控制和家务的集中管理,为用户提供了便利舒适、安全高效、环保的家庭生活环境。伴随智能家居技术的发展以及商业营销,多样的智能产品已经进入寻常百姓家,满足了人们对居住、娱乐、工作和学习等各方面的要求,提升了家庭用户的生活体验,但也容易引发家庭内部的伦理风险,具体涉及家庭角色的性别歧视、技术依赖的恋物癖、闲暇时间的劳动化、家庭隐私侵犯及监控商业模式等方面。2023年12月,商务部等12部门联合印发《关于加快生活服务数字化赋能的指导意见》,要求加强生活服务数字化基础设施建设,丰富生活服务数字化应用场景,更好满足人民日益增长的美好生活需要[3]。智能家居集合多样的智能设备,成为生活服务数字化基础设施的典型代表,可以推动家庭生活服务向高质量发展。在获得政策的支持下,有必要在智能家居设备大规模普及之前,深入探讨家居设备数字化衍生的伦理风险问题,明确伦理风险的表现形式,理解风险诱发的内在机制,提出风险治理的具体建议。
二、智能家居诱发的伦理风险
智能家居技术的发展趋势在某种程度上打破了公共与私人、内部与外部、休闲与劳动的边界,既体现了技术对社会生活的影响,也反映了社会对技术发展的回应和塑造[4]。目前,多数学者主要从工业设计视角探究智能家居适老性研发[5],从计算机科学视角研究完善人机交互技术[6],从信息科学视角看智能家居的系统认证和数据安全问题[7],从工商管理视角看智能家居产品对消费者行为的影响[8],从能源工程视角看智能家居构建影响电力利用效率[9],从新闻传播学视角看智能设备重构家庭内的信息生态,逐步扮演着媒介的角色[10],改变用户传统的人际交往模式[11]。当前研究主要从智能家居的技术属性探索智能设备和系统的产品设计、系统安全和信息交互等问题,忽视了智能家居嵌入家庭对伦理关系的影响。日益突出的智能家居技术伦理风险尚未引起人们的关注和思考,学界有关智能家居技术伦理风险的研究成果并不多见。本文聚焦智能家居的社会属性,从智能家居进入家庭之前的“技术剧本”、进入家庭之后的“价值虚无”、“空间和时间变化”以及“连接背后的技术殖民”,探讨智能家居的伦理风险,揭示智能技术对家庭这一私人领域的深刻影响。
(一)“技术剧本”的性别歧视
智能家居技术嵌入家庭生活之前,媒介平台通过各种宣传手段,借助“技术剧本”的造势,展开对家庭生活的技术殖民。技术剧本实际上是研发者对技术的预设愿景,它为用户设定了一系列标准化的行为和使用场景,成为媒介平台与用户进行交互和沟通的重要手段。通过技术剧本,媒介平台对智能家居技术的推广和应用进行了有意识的引导和塑造,从而影响了用户对家庭生活的认知和体验[12]。平台通过广告和营销等实践创造技术剧本,运用某些概念、重点描述与宣传某类智能家居的使用情境,引导用户驯化复杂的物联网技术。智能音箱是智能家居的控制中枢,商业广告往往将其描述为拟人技术产品,产品大多设定或默认为女声,苹果的Siri、小米的小爱同学、阿里的天猫精灵等莫不如此。智能音箱被指定为女性助理的声音和角色,人类社会性别观念被投射到机器,利用社会现实中女性劳动的假设,将人造系统包装成温柔的服务角色形象,加固了性别刻板印象。联合国教科文组织于2019 年发布I’d Blush If I Could(如果我能,我会脸红)的研究报告,强调女性化的系统默认设置强化了性别偏见[13]。
女性化的智能音箱代表一种“作为社会行动者的计算机”(Computer Are Social Actors,CASA),基于此范式,计算机被赋予了与人类相似的属性,成为启动权力关系的政治实体。凯瑟琳·贝哈认为,客体世界恰恰是父权制下被分配的工具世界,女性逐渐客体化并成为受支配的弱势角色,被建构为受剥削的他者[14]296。商业广告展现的性别分工情境引导和影响家务劳动模式的划分,诱发家庭内部技术使用的不平等。智能家居技术涉及众多设备的安装、调适与操作,以控制、效率和优化等工程概念为基础,与表达操作主义的男性气质有关,仅提供了有限表达女性气质的机会。智能系统的驯化过程需要专业的知识和技能,这种数字家务为男性提供了一种满足感,使他们更倾向于参与这种劳务活动,从而远离其他传统家务活动,加深了数字劳务与传统劳务之间的界限。男性在技术剧本的引导下,逐渐被塑造为“技术主体”的角色,掌握了更多智能设备的控制权,并产生基于个人的“家庭责任”。这种趋势容易导致家庭权力在性别之间的失衡,对家庭内部权力分配和性别平等造成挑战。
(二)机器神话的“虚无主义”
刘易斯·芒福德首次提出“机器神话”这一概念,借以阐释技术带来的风险。他认为技术将人类排除出生产和劳动过程,使他们变成一只灵巧的手、沉重的背和凝视的双眼,抑或最终将人类排除在生产劳动之外[15]106。智能家居生态下设备间的多重联动,实现了家庭成员生命和财产安全的保护,提高了家务劳动的效率,提供了有趣的人机互动。但是智能家居的交互性、开放性与娱乐性容易扭曲和异化人的消费观念,甚至可能改造并重构人的内心和认知,使人陷入各种形式的虚无主义。虚无主义代表着现代的悲观和颓废精神,意味着最高价值的自行贬值,根本特征在于瓦解各种价值与目的[16]679。
智能音箱采用拟人友好的话术进行语音反馈,根据功能需求及使用场景设计合理的虚拟形象,成为较好的情感载体和情感寄托物。媒介等同理论的相关实验研究表明,人类与机器交流时会遵循社会的规则和偏好,只要机器能够提供充足的、符合现实人机交互中存在的社会化符号或拟人符号,人脑便会将机器与社会行为画上等号[17]。换言之,人与智能设备近距离共同生活时,智能设备逐渐建立与用户的情感关联并扮演一定的家庭角色,被赋予社会伦理属性。现代社会快速的工作节奏下,人们将劳累、孤独与无助感转向技术寻求相应补偿,智能机器被用户视为“另一半的替代品”,甚至导致“恋物癖”。智能设备对生活的深度介入帮助机器获得伴侣地位,但智能机器并不是人。人是具有情感、欲望和优缺点的真实存在,这些特质构成了人的本质和独特性。离开了这种现实的鲜活性、真实性和确切性,人的本质可能被抽象化和异化,陷入黑格尔描述的绝对精神或货币等物品的控制之中,进而消解人们现实的人际交往能力,导致人与社会的关系异化[18]。“机器伴侣”还会面临善后处理风险,引发新的婚姻模式、家庭结构和生育方式,这些将肢解传统的一夫一妻制和家长制。
(三)家庭时间的“去休闲化”
闲暇时间是人的一种积极存在状态,它不仅是衡量人生命质量的重要尺度,也是人自我发展和提升的重要空间[19]532。家庭时间往往代表一种闲暇时间,它使人们脱离外部快速的社会节奏,疗愈被工作折磨的疲惫身心。媒介技术影响人们生活的时间和空间,通过传播信息和塑造舆论,将个体的生活时间和空间与公共生活的时间和空间连接。随着物联网等媒介技术的不断渗透,智能家居技术正对家庭进行重新配置,不断改变家庭时间的分配和利用方式,衍生出新的时间特性。商业广告营销为用户营造出“技术造福于人类的场景”,即用户发出的每次指令都能调动某个或多个设备服务自己,满足自身多样化的需求,增加生活的趣味性和便利性。
表面上,智能家居呈现让生活更加美好的技术景观,实则技术成为资本家手中对劳动者监控和剥削的强大工具。用户在智能家居生态中的任何行为都会留下数据痕迹,成为大数据来源的“原始数据”,用以提升智能设备的能动性和交互性。人们原本在工作时间内产生剩余价值的劳动,延伸到劳动者的家庭闲暇时间中,劳动成果被媒介平台无偿占有且不支付任何劳动报酬。用户在使用智能设备和分享使用时,不自觉沦为从事“幽灵工作”的数字劳工,闲暇时间与工作时间的界限逐渐弥合,在基于生活便利构建的媒介接触圈内,无偿为智能家居平台创造流量和数据[20]。随着虚拟增强技术(VR)的成熟,人们通过“三维全息图像”实现居家远程办公,面对面的思想交流成本得以下降[21]289-279,推动全球化向更深层次发展,也将家作为新的殖民地带入全球资本主义网络。当居家办公成为常态,将引发工作场域的巨大变化,使家庭重回社会的中心。空间领域的变化也将传导到时间维度上,工作场域的时空分离将加速现代家庭的生活节奏,家庭时间逐渐去休闲化。
(四)家庭空间的“去秘密化”
隐私权是公民基本的人身权利,隐私保护最重要的是“保持私密性”,这是对人的尊严最基本的保护。隔绝性和不可侵犯性是家的重要特点,家一直被看作私密空间,是隐私保护的重要场所,而以物联网技术为基础的智能家居应用,将挑战原本代表秘密和安全的家的概念。智能家居通过传感器和联网的智能设备,自动感知和收集用户与环境的信息,实现了人、物和环境之间的无缝交流,提高了用户的生活便利性和舒适度,也为商家提供了更多的营销和服务机会。智能技术在为用户勾画未来生活无限可能的同时,“全天候监控”也威胁着用户的个人隐私。为了提供给用户更加精准的定制化服务,智能设备需要实时待机以便接受用户指令,其间持续收集用户的位置信息、通信录信息、音视频信息等个人敏感数据,但是收集过程中并未对用户进行明显提示。
马斯洛提出安全需要是人的基本需要,许多家庭出于安防和看护的目的安装了智能摄像头,期望科技能提升生活品质,但也带来了隐私安全的隐患。不法分子利用安全漏洞破解摄像头的IP地址,窥探他人家庭隐私生活,并将家庭的实时影像标价出售给偷窥者。老年人佩戴的智能手环等穿戴设备通过收集身体数据,结合信仰、观念、情感等私密信息,能系统评估老人的身心健康状况。平台可能将数据传送给第三方,当这些数据被非法获取成为犯罪的工具时,给老人和家庭带来安全隐患[22]。现代劳动法改革和义务教育政策的实施,让儿童从有偿劳动中退回到家庭和学校,但随着智能家居技术的发展,儿童再次被卷入资本市场。家长可能选择智能音箱陪伴和教育孩子,儿童因此被卷入平台的数据监控中,儿童在数据市场上的被发现和数据化,使智能家居得以完成对最后一个家庭成员的监控。2019 年,Alexa 智能语音助手在未经父母同意的情况下,记录了13 岁以下儿童的语音和位置数据,并在用户试图删除后仍将其保留。
(五)万物互联的“数据殖民主义”
万物互联是物联网的升级版,连接过程中加入了人的因素,人不再作为独立要素凌驾于数据生态之上,而是被转化为数据包,与各种物的资源链接和互动[23]。智能家居是万物互联生态的典型代表,技术平台既提供了家用设备之间的互连,也提供了人、数据和过程之间的互联,所有对象均被转化为一串代码,成为数字在场。数字在场通过数据关系侵占社会资源,将衍生出数据殖民主义,即通过数据商品化的社会关系,从成员之间的家庭活动、人与设备的交互行为等生活中提取数据牟利。
三星电视配备了用于人脸识别的摄像头和用于语音识别的麦克风,随附的长达46 页的隐私协议显示,电视会登记用户打开电视的时间、位置和方式。有调查发现,用户发出的语音命令会被记录、储存和传送到第三方,数据在聚合汇总的基础上建立全面的家庭画像,并依据用户的观看习惯提供个性化的精准营销[24]。传统商业部门如保险、金融和房地产等行业,将智能家居视为一种新的盈利机遇,通过布置家居设施,推动监控资本主义在家庭空间的进一步渗透。保险公司尤为如此,它们开始转向数据驱动的保险模式,通过与智能家居平台合作或免费提供传感器,收集家庭成员的数据,建立预测模型来确定投保人的保险费用。基于算法的风险定价,对家庭进行了更加细致和深入的区分,这种区分可能会进一步加剧社会经济的不平等。经济条件好的家庭由于能够采取更加健康的生活方式,保费可能更低;而经济状况不好的家庭由于各种原因往往采用不健康的生活方式,导致保费可能更高[25]。极端的个性化算法可能会违背保险设立的价值初衷,破坏社会公平原则,进一步加剧社会经济差距。智能家居的持续发展甚至让用户越发接近全景敞视建筑的“应用外表”,人、物、场景中无时不在输出家庭数据,技术平台数据存储、分析和传输的数据殖民行为使万物互联实则成为圆形监狱、透光窗户和中心塔楼。数据的监视在联网状态下进行,由虚构关系产生了真实征服,人们随时随地被技术监控和规训,权力被少数主体所行使,受权力支配的人群遍布全球。
三、智能家居伦理风险的成因透析
科学、技术与社会(Science,Technology and Society,STS)是20 世纪60 年代末诞生于美国的一门新兴学科,运用人文或社会科学方法阐释科学技术的生成和发展,旨在研究科学技术的本质以及科学、技术与社会相互之间的关系本质。STS研究和评估科学技术对社会、安全、伦理与环境等领域带来的风险、利益和机遇,逐渐在跨学科风险研究领域中扮演重要角色。基于STS 视角可以对智能家居伦理风险进行全面的考察,深入揭示智能家居伦理风险的特征,有助于准确识别风险产生的原因。从STS 视角看,智能家居伦理风险产生和发展的环境是一种“社会—技术”网络[26]。社会因素和技术因素对智能家居伦理风险的产生与发展有一定的影响,一部分风险来源于智能家居技术内在的不确定性,另一部分风险来源于资本、文化、伦理、教育等社会因素。
(一)智能技术内在的不确定性
智能家居结合了不同类型的技术、设备、接口和协议,复杂因素增加了技术内在的不确定性,加剧了安全和隐私威胁的产生。智能家居系统(Smart Home System,SHS)是典型的信息物理系统(Cyber Physical System,CPS),网络空间的破坏会阻碍物理世界中的设备,而物理世界中的疏忽和漏洞则会威胁网络空间,呈现系统运行的脆弱性。无论从单个家庭还是整个互联网的角度看,智能设备的数量都是巨大的,更容易引发不法分子的DOS 分布式攻击,使设备间的数据交换产生更多的安全和隐私问题。
智能家居集成多个异构网络,需要处理不同网络之间的兼容问题,容易产生安全问题。例如设备网络节点之间的信任关系是不断变化的,很难建立连接关系。当连接的智能设备数量众多,由于传输过程中数据量巨大,容易造成核心网络的堵塞,增加入侵设备的风险。智能生态系统的网络功能仅转发数据包,不提供认证等任何安全保障,即使用户预先使用通信技术建立先进的安全机制,计算和处理的限制也会使智能设备无法使用。在智能家居系统中,不同的功能设备通常来自不同的供应商,由于缺乏普遍的标准指南,设备的驱动程序和接口呈现高度异构性,导致连接和操作的碎片化[27]。高碎片化使不同设备间建立安全的会话密匙面临挑战,不同厂商的设备难以兼容,可能导致系统在集成过程中出现严重的安全漏洞。受电力、存储和计算能力的限制,智能设备难以使用成熟的网络空间安全解决方案,也难以整合安全框架和技术。
SHS 呈现复杂的时间性,家庭智能设备数量逐渐增加,不同的设备以不同时间接入系统,用户难以用相同的时间线初始化设备。智能设备的在线模式变化,即不同设备呈现在线、休眠、被控制等不同的状态,对SHS 安全性的配置和管理提出了挑战。当设备被丢弃,如果设备上的预置密钥被盗,将会带来严重的安全问题。
(二)利益驱使下的技术资本化
中商情报网的数据显示,2022 年中国智能家居市场规模约为6515.8 亿元,预计2023 年我国智能家居市场规模可达7157.1 亿元[28]。智能家居技术的价值目标是追求效率,与资本追求利润最大化之间有内在一致性。智能家居不受时间、空间等条件限制的特征,满足了科技公司及时、高效和精确等资本增值的内在要求,智能家居技术呈现资本化的趋势。
智能家居平台成为资本入侵的场域和基础设施,它“使两个或两个以上的群体能够进行互动”,成为能独占、提取、分析日益增加的数据的有效途径[29]42-50。家庭成员的数据串联起数据的占有者和使用者,平台根据算法和流程完成相应的数据处理,实现智能家居在家庭场景中的最优选择。用户不自觉地、更加深入地被卷入技术资本所营造的“景观社会”中,也催生了一种新型的自动化、非物质生产方式和相应的商业模式。智能家居平台逐渐成为数据的提取器,由于保值和资本积累的逻辑驱动,它也成为新的利润获取渠道与开辟市场,以及新剥削方式的技术手段和载体。智能家居通过数字化监视对家庭生活空间进行全面监控,推动生活经验的数字化和商品化,进而实现对大众生命政治的全面掌控[30]。技术平台借助用户的“同意疲劳”,在用户不知情的情况下授予设备获取数据的权限。例如平台对家庭成员电视观看习惯、作息时间、语音提问等行为数据进行捕捉和分析,从数据中提取用户主观意愿和情感认识,投其所好地推送商业广告,诱导用户进行消费。当经济因素成为智能家居开发中的首要因素,企业便会优先考虑技术的适用性和有效性,通过精密计算的方式为某种功利目的服务。企业在研发中过于追逐工具理性带来的经济利益,往往会忽视技术研发的价值意义,缺乏对技术存在的价值思考,使智能家居的开发偏离正确的轨道。
(三)技术文化的单向度规训
人类的发展史可以被看作是一部不断抵御风险、寻求个体安全的历史。人们借助技术工具强化自身、改变世界,构筑抵御自然威胁的堡垒[31]2。技术本来是人们应对风险的手段,但也衍生出新的风险,初始原因就是技术文化的单向度规训。智能家居技术以计算为核心,构建起了与技术逻辑相匹配的技术文化,成为规训现代人的重要器皿文化。全球科技浪潮下,科学技术被提升到十分重要的地位,新兴技术领域的竞争成为国家竞争、企业竞争、人才竞争的主要阵地。
当社会发展贴上了技术的标签,技术成为文化的主流和导向,就会存在过分强调技术决定一切、影响一切的偏执认识。智能家居作为一种现代技术,本质是海德格尔提出的“座架”,是一种世界的构造,反过来又构造和支配文化。现代性的技术文化背景下,智能家居成为人们提升工作效率和生活品质的手段,也成为人们生活的重要构成部分。正如芬伯格指出的技术文化对人类的规训一样,在目前智能家居所产生的文化中,家庭成员丧失了对技术反思的警觉和能力,智能家居以一种不知不觉的渗透方式对人类的思想展开规训。在某种程度上,受技术操纵的消费文化和融入日常生活的技术规范,已经演变为一种决定个体生活方式的新型社会组织范式[32]。科技企业通过广告营销的激励语言,展现智能设备使用的家庭场景,主动营造支持和认可智能家居的技术文化,消除用户购买和使用智能设备的顾虑。作为技术展现的关键标签,“智能”一词由一系列具有说服力的推广词支持,具体包括“效率”、“快捷”、“舒适”、“信任”、“安全”等,承载着价值的术语被更夸张、更综合的概念引入技术框架,如“愿景”、“智能世界”、“明天”、“全球议程”等。这些推广词语包含了独特的智能家居修辞,推动积极的未来叙事,产生了一套宏大的技术社会期望,形成消除使用障碍、让技术合法化的文化。
(四)女性行业话语权的缺失
智能家居研发过程中容易受到设计者主观因素的影响,如果研发者存在性别偏见或者价值偏差,在编码规则和指标选取上呈现主观倾向性,便会导致技术使用的性别歧视。目前的智能家居设计更多反映的是男性思维主导,缺少以情感为导向的女性伦理解释框架,技术研发者的性别比例处于男多女少的失衡状态,表现为女性行业话语权的缺失。
从本质上看,智能家居性别歧视很大程度上是社会早已存在的偏见、歧视与刻板印象在虚拟世界的投射。由于受到“女性更感性、男性更理性,女性适合学文、男性适合学理的刻板印象偏见的影响”[33],女性程序员或接受编程教育的女性数量远少于男性,这种现象并不限于编程行业,其他行业也存在类似的情况。联合国妇女署驻华办公室的高级项目官员雷军指出,尽管人工智能行业在过去几年有了显著增长,但女性在该领域的代表性仍然不足,根据欧盟的数据,这一领域只有约20%的从业者是女性[34]。2015 年,一项针对硅谷科技行业200名高级别女性的调查显示,有66%的受访者认为因为自身是女性而被排除在重要的会议之外,60%的人表示她们在职场中面临性别劣势[35]。如果设计工作考虑了性别多样性和不同性别气质的表现,可能导致设计工作量成倍增加,这与简化模块、控制成本以及利润最大化的经济原则相抵触。大多数由男性主导的企业高层并没有采取这一做法,反映了性别平等与商业利益之间的张力。智能家居行业女性话语权的缺失,使智能设备的设计弥漫着性别歧视的观念,加剧了性别刻板印象的趋势[36]。
(五)技术受众的媒介素养有待提高
人与人工智能对话成为一种正在到来的交往变革。智能家居改变了人与媒介之间单向度使用的关系,串联起“人”与“物”两个异质网络,使人的媒介化生存进入新的阶段。媒介素养成为家庭成员正确使用智能设备的重要能力,公众对伦理风险的感知以及应对,很大程度上受公众的智能家居媒介素养影响。智能家居给人们的生活带来便利,实际应用中用户媒介素养的不足可能造成技术的误用并产生伦理风险,这体现在技术素养和信息素养两个方面。
技术素养是一个人使用、理解、与技术互动的能力。智能家居系统通常依赖复杂的技术,包括传感器、网络通信、人工智能和大数据分析等。技术素养的缺乏表现为家庭成员对智能家居设备的操作、配置和维护能力不足。家庭成员缺乏专业的操作知识,无法正确配置和维护各种设备,导致性能问题或安全漏洞。例如,用户不了解如何设置安全性参数,未更改默认的用户名和密码,使智能设备容易受到非法入侵,增加技术使用的不确定性。当单个设备或者设备间联动出现故障时,用户无法有效排除故障,影响用户体验和设备效能的发挥。此外,由于不理解智能家居系统的功能和潜在风险,家庭成员可能会误用系统,如未能正确配置监控摄像头的隐私设置,使任何人都拥有查看权限。
信息素养指一个人有效地获取、评估、使用和交流信息的能力。智能家居系统通常需要收集大量用户信息,以便提供个性化的服务,但一些用户可能不了解信息的收集范围和目的,导致对隐私保护的漠视。家庭这一场域的特殊性,使系统产生大量生活习惯、消费行为等敏感的用户数据,这些数据具有很高的商业价值,需要用户妥善处理。信息素养不足的用户可能无法有效处理这些信息,导致信息过载和决策困难,给用户的信息安全带来了很大的风险。
四、智能家居伦理风险的治理建议
智能家居的使用过程存在诸多伦理风险,要做到真正防范和治理技术衍生的负面效应,不能简单限制或阻止技术的进步,而应在技术创新和风险规制之间找到平衡点,禁止一刀切的治理措施。伴随深度学习、大模型等技术的迅速发展,未来智能设备持续迭代创新,与之而来的伦理风险将更加严峻。为此,需要构建从技术开发到使用,涵盖政府、市场和社会等多元主体的多元治理体系,并切实付诸实践,引导智能家居更好地为人类福祉服务。
(一)促进智能家居技术的负责任研发
《新一代人工智能治理原则》提到以“发展负责任的人工智能”为主题,希望“负责任”贯穿人工智能的研发和应用,促进技术的健康发展[37]。智能家居的研发和应用应以负责任为基本原则,引导技术工具理性与人类价值观和伦理道德相适应,避免技术的误用、滥用和恶用,让智能家居技术更好地增进民生福祉。科技企业在智能家居伦理风险治理中扮演着重要角色,需要采取一系列措施推动负责任的技术研发。企业内部应制定明确的伦理准则,涵盖隐私保护、公平性、透明度和安全等方面,贯穿技术研发和应用的全过程。深化智能家居设计中的道德嵌入,在研发过程中考虑技术伦理问题,重视智能产品生命周期内可能出现的道德失范和技术风险。随着智能设备逐渐成为交互的主体之一,设计者需重新思考这些产品在家庭的角色,进而构建人与物之间互动的意义。例如,在人工情感技术设计中引入“分布式参与式设计”,将人机情感交互中的认知水平、情感偏好、行为习惯等进行“参与体验”建模,确保智能设备更加契合家庭成员的情感和文化需求[38]。此外,还应投资伦理决策支持工具的开发,以确保技术设计和应用阶段中的伦理问题,帮助设计师在研发中预测潜在的伦理挑战并提供解决方案。最后,企业应完善智能家居平台的隐私保护措施,包括数据加密、访问控制、匿名化和透明的数据使用条款,保证用户对其数据的使用有明确的控制权。智能平台上设置实时反馈功能,持续监测智能设备应用的使用状况,积极倾听用户和社会的反馈意见,并根据需要进行改进,更好地适应不断变化的伦理挑战。
(二)推动智能设备伦理的分级审查
伦理先行是智能设备应用于社会生活领域的前提,也是科学技术健康发展的重要保障。智能家居设计中是否嵌入伦理道德,将直接影响技术是在赋能社会的发展,还是在威胁人的日常生活。从监管视角看,引导智能家居向善的重要方式是对家居设备进行伦理审查,强化科技伦理风险防控,促进负责任的技术创新。2023 年10 月,科技部、教育部、工信部等10 个部门联合发布《科技伦理审查办法(试行)》(以下简称《办法》),正式通过并设定科技伦理规范,为科学研究划定伦理边界[39]。《办法》明确规范和统一了我国科技伦理的审查主体、审查程序、监督管理等,是补短板之举,重点解决了科技伦理审查职责不明确、程序不规范、机制不健全等问题。
智能家居技术呈现频繁的人机互动,具有引导用户消费的行为,影响家庭成员的内心情感和人身安全,使其成为伦理审查复核的重要科技活动清单之一。在智能设备伦理审查的实践中,应当根据不同情境,基于风险等级以及风险与受益的评估进行区分,采用不同的审查程序和方法。因此,需要完善智能家居设备领域风险分级的具体规则,充分利用现有的大数据技术,在大规模市场应用前深入评估智能设备的安全隐患、技术成熟度、脆弱性等,区分风险等级大小,对不同等级伦理风险的智能家居设备进行不同程度的规范。根据家居设备风险等级进行分类管理,可以优化伦理委员会的资源配置,减轻其不必要的负担,提高伦理审查的效率。例如,依据设备风险等级,审查程序可设定为高风险、较高风险、低风险三类伦理审查程序,达到审查程序宽严繁简分流的目的,实现伦理审查的客观敏捷[40]。
(三)培育人机和谐沟通的信任文化
文化是技术社会环境的重要组成部分,对人与技术之间的关系有着重要的影响。企业技术营销所营造的现代文化,打消了用户使用智能家居的疑虑,使人们过分依赖智能设备,甚至陷入技术决定论的漩涡。现代风险社会中,要改变人们对风险的紧张情绪,消解人们的技术依赖,培育信任文化和良好的社会风气就显得必要。信任不仅是人际和谐的重要前提,也是人机和谐关系赖以存在的条件。智能家居系统与用户之间应建立起相互信任的对话和沟通机制,保障信息的通畅与透明,把设备存在的风险和危害实事求是地告知消费者,让消费者自己作出选择。新闻媒体应起到社会监督的作用,坚持正确的舆论导向,破除机器无所不能的神话,促进积极的智能家居文化传播。智能家居伦理和治理中的人机信任文化需要依赖信任机制作为关键要素,促进消费者、智能设备用户和智能家居开发者之间的信任。信任关系需要在智能家居系统的内外部同时建立,通过可持续的信任机制和措施,确保各方的权益和安全得到保障,同时也促进整个行业的社会接受度和认可度。智能家居牵涉反映用户特征、行为模式和具体行为的数据,企业需要与客户和利益相关者进行有效沟通,明确如何妥善收集、使用和共享数据,减少用户的疑虑并建立信任,从而促使应用与创新能够高效、有序地进行。同时,政府部门的监管同样至关重要,为减轻用户在使用智能设备中对隐私风险的担忧,需要完善与《民法典》和《个人信息保护法》相关的司法保障和权利救济机制,建立健全举报和受理机制[41]。
(四)营造性别平等的工作和生活环境
智能家居技术并不是客观中立的,其应用需要在社会环境中获得共识。高质量的技术应该是能够被专业人员和用户理解的,同时它具有健康的发展潜力和高度的可塑性,可以营造性别平等的工作和生活环境。相关部门应将性别平等教育作为教育改革的重要组成部分,将其融入各级各类教育中。通过推动性别平等教育,培养社会群体的包容性和多元文化认知,缓解性别歧视和偏见。主流媒体应当充分发挥协调和价值引领功能,通过选择、解释和评论性别意识信息的方式,深入讨论性别平等的现实状况和面临的挑战,从而塑造和传播先进的性别文化观念,避免对社会带来负面影响[42]。通过在公共场所展开相关展览和宣传活动,唤起大众对性别平等问题的关注,推动社会实现性别和谐,实现全体成员共享平等益处。在企业内部的技术研发过程中,应该积极促进性别平等,确保女性在研发细节方面的独特优势得到充分发挥,这包括让女性在情感设计、交互应答等方面发挥更多作用,赋予她们更多在技术决策、计划制订等关键环节的参与权。联合国妇女地位委员会建议要推广循证方案并促进最佳做法的交流,提高妇女和儿童对科学技术的参与度,包括教授计算思维以及结合社会学科与自然学科的跨学科方法,创造更具性别平等、包容性的良善技术[43]。在家庭内部,需要打破传统的男女分工模式,倡导平等的家庭角色分工,使男女双方共同承担家庭责任和义务。通过充分的沟通和协商,促使家庭内的每一位成员都能平等地使用智能设备,并鼓励他们分享对设备使用的建议和想法,有效地预防因性别和家庭角色分工而导致的智能设备利用不公平问题。
(五)加强技术使用者的媒介素养教育
智能家居技术伦理风险治理的实践行动中,强调使用者的责任意识固然重要,但责任意识是以一定的媒介素养为基础。加强媒介素养教育反映和表达的是人们期望通过行动防范和规制智能家居技术伦理风险的一种合理性价值诉求。政府、教育机构和社会组织应积极开展媒介素养教育活动,提高公众对智能家居技术的认识和理解,培养用户的批判性思维和信息处理能力。通过教育活动帮助用户了解智能家居技术的优缺点、使用方法和注意事项,提高用户对技术的自主选择和判断能力,使用户具备基本的技术操作能力,包括使用智能家居设备、掌握移动应用程序、了解基本的编码和数据管理等技能,也包括信息检索、多媒体内容的创建和分享等能力。媒介素养教育内容应紧密结合智能家居技术的发展和应用,针对用户实际需求进行设计,提高教育的针对性和实用性。例如,教育应该强调隐私保护和数据安全的重要性,帮助用户了解如何保障个人信息安全和数据隐私,使用户了解智能家居系统如何收集和使用数据,以及如何保护自己的隐私权,这包括学会设置隐私选项、使用强密码和了解数据泄露的风险。此外,还应创新媒介素养教育的方式和手段,采用在线课程、专题讲座、实践操作等多种形式,满足不同用户的需求和习惯。同时,借助社交媒体、网络平台等渠道,加强与用户的互动和交流,提高教育的效果和影响力。总之,加强技术使用者的媒介素养教育是智能家居伦理风险治理中的重要一环,通过教育活动提高用户对智能家居技术的认识和使用能力,促进技术的安全、公正和负责任使用。