APP下载

互联网3.0时代的风险及治理

2022-02-13郝思瑾

关键词:人工智能用户信息

郝思瑾

(徐州工程学院 物理与新能源学院,江苏 徐州 221018)

互联网出现以来一直处于不断发展和演进的过程中,如今已经进入了3.0时期,实现了物与物、物与人、人与人之间的智能交互。但是,网络技术和人类社会的耦合性与交互影响不断迭代演化,呈现出高度复杂的局面,网络社会中的风险悄然出现。吉登斯指出:“生产力在现代化进程中的指数式增长,使风险和潜在威胁的释放达到前所未有的程度。”[1]网络社会风险有着新的特征和危害,需要及时采取有效措施加以防范。

一、互联网发展阶段及特质

(一)互联网1.0——互联互通的内容网络

互联网出现在20世纪60年代东西方冷战时期,最早是军事斗争的产物。当时美国国防部为了便捷地输送军方需要的数据和信息,把包括犹他州州立大学、斯坦福大学在内的四所高校的计算机主机连接起来,形成了互联网的雏形——阿帕网。1990年,伯纳斯·李发明了万维网(World Wide Web,通常简称为Web),万维网的出现改变了网络用户需要具备高深的专业知识和技能的要求,使得普通民众也可以在万维网上获取信息,有效解决了网络应用普及化的技术难题。1992年,美国克林顿政府率先提出建设国家信息基础设施的计划,即“信息高速公路计划”,由政府提供资金,推进与学术界、产业界之间的合作,研发新的网络技术,使用新的带宽技术以保证多媒体信息的传输。随后,英国、德国、中国、日本等国纷纷提出并实施了本国的网络技术开发计划,为互联网的全球联通提供了基础架构。随着网络通信的发展,商业资本发现为互联网提供内容以及为内容供应商提供服务可以获取巨大的商机,微软、英特尔、雅虎、思科、苹果、谷歌、脸谱、阿里巴巴等高科技公司随着商业资本的注入迅速崛起,它们在获取巨额利润的同时极大推进了互联网在信息提供、通信联络、资料检索、社交服务等方面的快速发展。

(二)互联网2.0——交互集成的服务网络

2004年,以社会关系网络(SNS)、信息聚合(RSS)、信息标签(TAG)等技术为基础的第二代互联网开始出现。互联网2.0强调用户参与、在线网络协作以及数据储存网络化,用户在发布内容的过程中不仅可以与网络服务器进行交互,还可以实现同一网站不同用户之间的交互,以及不同网站之间的信息交互。互联网2.0改变了信息从网站到网民单向流动的状况,发送信息的网站转化为高效的网络协作平台,互联网体系也从由少数资源控制者集中控制转变为以广大用户的集体智慧和力量为主导,控制方式由原来的自上而下转变为自下而上。微博、微信是互联网2.0在社交网络的代表性应用,小米公司、抖音平台、知乎网站、维基百科是互联网2.0在生产服务领域的典型应用。

(三)互联网3.0——个性便捷的智能网络

2010年,第三代互联网的理念和架构开始出现,至今还在不断地发展完善。互联网3.0以人工智能(AI)、大数据(BD)、物联网(RFID)为基础,将杂乱的微内容作最小单位拆分,进行词义的标准化、结构化,使得计算机可以理解网页内容,能够把散布在网络上的各种信息及用户需求聚合和对接起来。互联网3.0的基本特征是智能化、个性化和多样化。智能化是指社会生产生活的智能应用及社会成员之间的智能关联,如智慧校园、智能银行等;个性化是指引入偏好信息处理与引擎技术,对社会组织和社会成员的行为特征进行分析,帮助其快速准确地生产、使用和交流信息;多样化是指社会成员联结方式的多样性,互联网3.0时代的终端设备不仅包括电脑和手机,还包括手表、眼镜、家电等物联网上的各种设备。互联网3.0不仅使信息发布方式和接收工具发生了变化,而且加强了信息传播的“去中心化”,增强了信息的真实性、时效性和丰富性,在用户交流、信息沟通、资源共享、社会创新等方面发挥了重要的作用。

表1 互联网1.0到互联网3.0技术变迁状态表

二、互联网3.0时期社会风险类型

社会风险(emerging risk)的概念最早是由西方学者提出的,出自经济合作与发展组织(OECD)和国际风险治理学会(IRGC)的两个报告,认为社会风险包括系统风险、陌生风险和极端风险。以“社会风险”为关键词进行知网检索和百度检索,再分别以“Web3.0”“人工智能”“大数据”“云计算”“物联网”为关键词进行二次检索,得到相关文献179篇。按照来源抽样原则确定18篇文献并对其进行内容分析,发现互联网3.0时期社会风险在以下几个方面聚集。

图1 互联网3.0时期社会风险类型

(一)智能失控风险

近年来,人工智能在算法、算力和大数据的影响下,先后迎来弱人工智能、强人工智能、超人工智能三次发展浪潮,它在改变人类生产生活方式的同时,也给社会带来了不可忽视的风险挑战。首先,利用人工智能技术模仿人类,如换脸、手写伪造、人声伪造等,除可能引发伦理道德风险外,还可能模糊技术应用的合理边界,加速技术在灰色地带的应用。其次,人工智能是由大数据投喂、训练出来的,大数据可能会被添加伪装数据和恶意样本等方式污染,进而导致算法模型决策出现偏差[2]。例如,汽车越来越智能化,但智能汽车可能会受到病毒和黑客入侵的影响,因此无人驾驶的汽车经常出现事故。再次,人工智能的决策系统并不完全受预置经验法则的制约,在未来某个时期,当人工智能的智力超过了人类创造者的智力,人工智能有可能违背阿西莫夫第一定律,即“机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管”,失控做出伤害人类的行为或人类根本不会考虑的行为。

(二)数据黑洞风险

用户数据是互联网公司运营非常重要的内容,因为足够且有用的数据是技术应用得以发展的基础,行业领先者会对关键数据建立屏障并努力增量,造出“智者愈智、愚者愈愚”的数据黑洞。虽然物联网的发展加速了世界的互联互通,但如果想实现全面的互联互通就必须要经过用户的授权。目前,使用终端和数字媒介获取用户信息的途径主要是通过一种模糊性的授权,即需要使用者同意“用户协议”。很多APP在注册页面要求用户输入手机号或者绑定微信、QQ等才能登录,页面下方有一行“我已阅读并同意《用户服务协议》”的小字并为默认勾选状态,授权内容包括“读取联系人数据”“录音”“拍照”等,但在《用户服务协议》中,平台不会明确告知用户都读取了哪些权限并作何用途。部分企业通过这种方式在用户无意识的情况下免费获取信息,并将这些信息转变成企业重要的资产。因为用户所能选择的互联网平台不多,为了享受互联网带来的便利,在信任与便捷相权衡的过程中,只能将一部分隐私和数据权限让渡给互联网平台。

(三)“信息茧房”风险

基于算法,互联网能够向用户推荐与其兴趣和价值观高度匹配的信息,当“公众只注意自己选择的东西和使自己愉悦的通讯领域,久而久之,会将自身桎梏于像蚕茧一样的‘茧房’之中,不愿面对外部的世界和生活。”[3]“信息茧房”一旦生成,“茧房”内的群体成员与外部世界的交流就会大幅减少,经过时间的累积形成自己独特的风格与特点。群体成员有着相似的观点和看法,群体内部同质的特征越显著,群体间异质的特征就越明显,个体也会陷入自我封闭之中而不自知。“信息茧房”的形成源自多重因素的相互作用,包括个体信息选择及算法的收集、筛选、过滤机制等。人工智能以“用户的偏好”为出发点,对用户的习惯和行为特征进行记录和整理,对用户的需要和兴趣进行分析和深入挖掘,以便精准快捷地检索到用户所需的信息和资料,更好地提供个性化服务。与此同时,新媒体平台为了在竞争中占据优势地位,更加青睐“投其所好”的算法推荐方式,利用大数据等技术为用户提供定制化和精准化的服务,以迎合用户的需求,争夺用户注意力资源。“然而,在个性化推荐大行其道的同时,公众信息偏食问题凸显,还容易陷入‘信息茧房’,带来一系列负面影响。”[4]

(四)新型犯罪风险

互联网3.0时代,社会数字化造就了新型社会,同时也催生出利用智能机器攻击人类、物联网窃密、通过智能推送进行诈骗等新型网络犯罪手段,给社会造成了风险。《刑法修正案(九)》中增设了新型网络犯罪的相关规定,包括网络犯罪、非法利用信息网络罪、帮助信息网络犯罪活动罪[5]。新型犯罪与传统犯罪在实施方式和表现形式上存在较大的差异。新型犯罪以非接触的方式进行,可以同时展开一对多的撒网式犯罪,其表现形式具有隐匿的服务性特征和无地域限制的广域特征[6]。不法分子利用互联网技术严重扰乱信息网络安全秩序,其危害和影响远超传统犯罪。《2019年网络诈骗趋势研究报告》数据显示,2018年猎网平台共收到有效诈骗举报21703例,诈骗金额高达3.9亿元。2019年,兰州警方打掉一个特大“套路贷”犯罪集团,抓获犯罪嫌疑人253人,该犯罪组织通过短信轰炸、图片侮辱、曝光通讯录、谩骂诅咒、武力威胁等“软暴力”与“硬暴力”相结合的方式对受害人进行敲诈和勒索,非法放贷累计62.73亿元,获利28亿元,受害者达39万余人,截至目前已有89人因为逼债催收自杀身亡。

(五)群体失业风险

人工智能主要利用算法模拟人类的思维,通过运行计算机程序完成人类的指令,使“电脑”实现部分“人脑”的功能,从而操控机器完成以前只有人类才能完成的工作。目前,人工智能已融入人们的生产生活中,不仅可以大量减少人工成本,而且能够提高生产效率,这也造成了群体性失业的风险。人工智能可能导致两种状态的失业,一种是结构性失业,一种是全面性失业。结构性失业指在人工智能的冲击下,某些职业将在短期内面临结构性挑战,甚至存在被历史发展替代的可能。如在美国加州硅谷的特斯拉汽车公司自动化工厂里,冲压生产线、车身中心、烤漆中心、组装中心四大制造环境中有超过150台机器人参与汽车制造工作。这些机器人每6秒可以完成一个发动机盖冲压工作,轻松将1吨重的原料钢板卷成一个圈,独立搬运到车架,这是人力所不能及的。全面性失业指人工智能冲击的覆盖面是全方位的,各行业都不可避免。以前的机器智能技术只能替代人类从事简单的体力劳动,而现在的人工智能在运算能力、推理方式、存储能力、交互能力、控制能力等方面都比人类有着更大的优势,能够替代人类从事复杂的脑力劳动[7]。现在,人工智能不仅可以从事单一繁重的体力工作,而且可以从事教育教学、疾病诊治、文学创作等高级活动。由此可见,人工智能和人类争夺岗位的问题会越来越普遍。

(六)“透明人”风险

所谓“透明人”,是指“通过大数据的对比和信息还原,每一个个体在一系列时间段的所有行为都可以在事后被展现和还原出来,由此每个人的生活状态都将在很大程度上成为透明的”[8]。互联网3.0时期,计算机或其他智能设备中的一个数据、一个字节都有可能泄露个人隐私。当人们在“微信朋友圈”或者“微博”上传照片、分享日常生活时,他人便可以根据照片本身的数据、地理数据和时间数据来获取相关信息。如果被怀有恶意的人加以利用,平台用户的人身、财产、名誉等权利可能会受到侵害,甚至对自己或者家人的生活造成危害。2016年,监测发现超过13万个联网摄像头存在漏洞,有被黑客入侵控制的风险[9]。网络社会中“透明人”的风险增加,很大程度源于个人信息易于暴露的环境和应用场景增加。当前,指纹、声纹、人脸、虹膜等生物识别越来越广泛地应用于人们的日常生活之中,手机解锁、车站出入、金融支付、上班打卡等通过生物识别验证身份的技术精准性逐步提高,但生物识别依旧存在很大的风险。人脸识别技术可以抓取上亿的人脸的数据信息,通过和既有的数据库进行对比,能够追踪到公民的身份信息、行动轨迹、社会关系、家庭住址等个人信息,导致公民的人身和财产存在隐患,甚至危及国家安全。

三、整体性理论视阈下的社会风险治理

由于互联网社会风险具有隐藏性以及不确定性,需要采用有别于以往的治理手段来满足网络社会良性运行的需求。整体性治理理论起源于上世纪90年代中后期,是当代公共行政的主流理论,它以社会需求为治理导向,以信息技术为治理手段,以协调、整合、责任为治理机制,建构从“分权走向集权、从部分走向整体、从分散走向整合的整体性治理图景”[10]。

(一)多元共治——丰富社会风险的治理主体

在机器系统自带深度学习和指数升级功能的情况下,社会风险的活动及传递通常是潜在的,往往在不知不觉中已经逼近,预测控制难度的增加使得“黑天鹅”事件不断出现。在此背景下,依赖政府单一主体对社会风险进行治理远远不够,应建立多元主体的共治机制。习近平总书记强调:“要提高网络综合治理能力,形成党委领导、政府管理、企业履责、社会监督、网民自律等多主体参与,经济、法律、技术等多种手段相结合的综合治网格局。”[11]面对互联网3.0时期的各种社会风险,政府要充分发挥引导和顶层设计功能,从制度和法律层面为网络社会的发展、互联网技术的更新迭代营造良好的环境,在强化治理效能的同时适当下放部分权力,统筹协调各方力量,积极回应并调节各主体关系。社会组织应主动承担起协调政府与公众关系的责任,积极开展各种宣传与管理活动,并对政府、企业以及公众行为进行有效监督。企业应从技术层面入手,提供有效的网络安全认证、检测以及风险评估服务,不断推动风险防护技术升级,最大限度预防风险的发生。网民要提高自身的安全意识和安全技能,避免浏览非法网站和下载风险较大的软件,经常查杀计算机病毒,不轻易暴露个人信息;要自觉维护网络安全,与网络活动中出现的风险隐患及非法行为作斗争,共同营造清朗的网络社会环境。

(二)整合协调——完善社会风险的治理流程

在现今高度关联的社会系统中,事件或对象的交互次数和复杂程度不断增加,由原先的单一关系变成了多层次关系,这使得新兴风险的呈现往往不是一个孤立静止的事件,而是“多米诺骨牌”式的连锁反应。同时,网络社会中的新兴风险以链状或者网状的态势发展,风险扩散不再局限于特定的行政范围或者地理范围,风险治理也不局限于单一行政部门或单一行业中。在某种意义上,全球化作为社会风险产生的重要背景,整个世界都处于风险社会的范畴之中,各国互相依存,没有哪个国家可以置身事外。希克斯指出:“整体性治理就是以协调、整合、责任为治理机制,对治理层级、功能、公私部门关系及信息系统等碎片化问题进行有机协调与整合的模式。”[12]因此,习近平总书记强调,世界各国应该加强沟通、扩大共识、深化合作,共同构建网络空间命运共同体,共同面对网络社会中的数据黑洞、智能失控、新型犯罪等风险。此外,政府要克服新公共管理模式碎片化、藩篱化的弊端,在政策、服务与监督层面进行协调整合。例如,针对人工智能带来的失业问题,政府可以实施对智能资本增税、对人力成本减税的政策;可以对相关人群进行再就业培训,使其往现代服务业迁移;可以健全约束机制,使得科技进步和社会稳定协调共进。

(三)法律规制——形成社会风险治理的约束机制

互联网3.0时期所具有的智能化、个性化和多样化特征催生了各种新型社会风险,对网络治理环境提出了新的要求,需要对在虚拟的、无边界的网络社会环境中衍生的各种风险进行治理。网络社会是虚拟的,但是网络社会中的主体是现实存在的,因而要保证网络社会的正常运行,就必须如同现实社会一样建立起强有力的法治保障,所谓“法律是治国之重器,良法是善治之前提”。首先,要建立和完善网络社会风险治理法律规范体系,准确把握互联网3.0时期网络社会发展趋势,根据互联网的内在属性及运行规律,制定和完善与网络信息安全、个人隐私保护、网络运行监管等相关法律法规,为数据信息提供一个“安全网”,从而防止大数据时代由于个人信息泄露、滥用数据所造成的各种数据黑洞、“信息茧房”、“透明人”等风险。其次,要利用数据共享获取各网络主体的意见和建议,促进立法程序的民主化、科学化,并根据互联网环境的更迭变化适时调整、补充及修改相关法律内容,确保相关法律法规的时效性与协调性。再次,要提升网络执法队伍的工作能力,做到依法执法、科学执法。政府应依照相关法律法规对网络空间及其衍生的各种社会风险进行管理,做到严格规范执法,保证公众在合法权益被侵犯时能够及时得到保障。同时要强化对执法部门的监管,国家机关、社会组织以及公众等各级主体可依照法定职责及相关规定,对执法部门在执法过程进行实时监督与管理,确保执法部门能够正确行使风险治理的职权。

(四)技术控制——强化社会风险治理的管控基础

网络信息技术的发展一方面能够保障国家的政治稳定、经济发展、文化繁荣,另一方面也可能催生出一系列新型社会风险,这些风险是互联网技术的产物,若要有效治理,就必须从技术层面着手,以信息技术发展推进治理新态势。首先,要构建标准化的大数据中心,提升政府部门对大数据的分析和应用能力。为了满足社会公众获取公共信息的需求,政府部门应不断强化大数据技术研发,在法律范围内广泛收集、储存各种信息资源,建立一个应用范围广、安全系数高的电子政务大数据库,实现数据信息的开放共享以及资源的有效利用,从而更好地对网络社会以及互联网运行环境进行有效分析;通过跟踪和深度挖掘关联数据,实现全网智能搜索、定向预警追踪、自动采集分析等功能,增强对社会风险因素的感知、预测能力,及时发现潜在风险,从而防范各种社会风险的发生。其次,要强化对网络信息的监测管理,维护网络运行的安全;通过技术研发不断提升网络安全防御技术,加强对网络流通数据信息的实时监测,及时发现“恶性”数据以及病毒信息并进行有效控制,进而最大程度防范和遏制网络攻击行为的发生。最后,要建立智能化的应急反应机制,在监测到危险信息时,自动采取智能化的阻滞机制,以最快速度制定和完善相关风险治理预案,强化风险应对联动指挥机构,降低风险的影响力与危害性。

当下,互联网技术还在一日千里地向前发展着,“元宇宙”的推广应用未来可期,由此还会产生新的社会风险,需要我们不断“提高用网治网水平,让互联网这个最大变量成为事业发展的最大增量”[13]。

猜你喜欢

人工智能用户信息
2019:人工智能
人工智能与就业
数读人工智能
订阅信息
关注用户
下一幕,人工智能!
关注用户
关注用户
如何获取一亿海外用户
展会信息