APP下载

从“大设计”到“小设计”:大数据时代的社会规则之变

2022-10-31刘永谋李尉博

哲学分析 2022年1期
关键词:算法设计

刘永谋 李尉博

自人类诞生之日起,人们就不断在寻找扩大数据量、建立新的数据处理系统的方法。丹尼尔·黑德里克(Daniel Headrick)因此指出,以数据为基础的信息时代与人类历史一样悠久。数据量的增加所带来的不仅是计算的便利,随之而来的是所谓“运筹帷幄”,以提高行动的效率。实际上,无论东西,思想家们很早就有运用计算手段来操纵“人事”的想法。在17世纪,威廉·配第(William Petty)就开创了“政治算术”学派,认为“凡关于统治的事项,以及同君主的荣耀、人民的幸福和繁盛有极大关系的事项,都可以用算术的一般法则加以论证”。而在中国古代也有阴阳术数、奇门遁甲等围绕《易经》展开的“以数经世”的梦想,如宋代象数易学代表人物邵雍便以易学中天地、大衍之数为出发点,构造了一套有关数的理论体系,并以此为工具研究宇宙、社会与阴阳的发展变化。

近十年来,随着互联网、大数据、云计算、物联网、人工智能技术的高速发展,对人类生理、心理和行为数据的收集已经成为了普遍现象,人类所拥有的数据的种类和数量都获得了爆炸式的增长,当前人类已经迈入“大数据时代”。在大数据时代,数字化的广度和深度在不断加强,不仅信息、商品实现了数字化,甚至人自身以及社会都在向数字化迈进。大数据时代的计算已经不仅局限于对数字的计算,而是对一切可以被计算的数据的计算,互联网、物联网、大数据等技术已经将人与人、物与物、人与物连接在一起,社会日益成为“泛在社会”,泛在网络对整个社会数据的记录为社会的精细化计划与治理提供了条件。因此,以数字来测量、预测、规划和控制社会的理想虽然很早就已经出现了,但只有等到物联网、大数据、云计算和人工智能等智能技术兴起之后,才真正有了实现的可 能。

一、作为规则设计的大数据治理

(一) 大数据治理依赖于算法规则

《经济学人》杂志有一个著名的论断,即大数据是“新石油”,是当今“世界上最有价值的资源”,认为大数据对当今社会的改变程度可与石油在20世纪的地位相提并论。不过,“石油”作为一种原料,必须通过加工之后才能使用,算法就是加工大数据这一“新石油”的工具。在广义上,治理就是为了实现某一目标而有意管控风险或改变人的行为的尝试,国家与非国家实体都可以进行治理活动,大数据治理也同样如此。在2016年的美国大选中,剑桥分析公司收集了大量美国选民的数以百万计的数据,绘制出选民的人格画像,并以此确定应当给他们投放什么样的广告以获得最大效益。将海量用户数据交由算法分析,得出用户的偏好类型,再进行个性化推荐,有意将用户行为向特定方向调整,这是大数据时代使用算法对人的行为进行引导与控制的常见做法。正因为大数据治理离不开算法,国内外也有许多学者将大数据时代的新治理模式称为“算法治 理”。

从技术人工物的具体设计过程讨论技术的价值负载性问题,有着丰富的理论资源。根据司马贺(Herbert Simon)的观点,设计是目的性的活动,是将现存情形改变为想望情形为目标而构想行动方案。因此设计者的理念与目的在技术人工物的设计过程中处于逻辑优先地位。技术哲学家温纳(Langdon Winner)有一个著名的例子:桥梁设计者和建造商摩西出于种族偏见,故意将通往沙滩的高架桥设计得非常低矮,以至于只有开着私家车的富裕白人能够前往沙滩,而乘坐公共汽车的贫苦黑人的路就被阻断了。在这个例子中,被设计的高架桥并不是价值中立的纯粹工具,而是被嵌入了设计者自身的道德判断。维贝克(Peter-Paul Verbeek)提出了“道德物化”(Materialization of Morality)概念,认为技术人工物中可以嵌入人类价值,起到道德调节作用,并提醒设计者预测其设计在未来可能起到的作用,有意进行干预。

同样,算法作为一种技术人工物,它不是凭空出现的,而是依赖于人的设计活动。数据的采集、处理、解释、分析工作无一不需设计者主观活动的参与,丽莎·吉特曼(Lisa Gitelman)指出:“在想象所需的数据时,每个学科与机构都有自己的规范和标准,”所以所谓“原始数据”(rawdata)本身就是一个自相矛盾的术语。其中最为典型的就是,在处理社交媒体上的大量非结构化数据时,往往有“数据清洗”过程,即分辨哪些是可用以计算的变量,哪些是需要被忽略的噪声,这往往依赖于设计者的价值选择与主观判断。也就是,算法既包含技术元素,也包含着社会元素,是二者有机融合的产 物。

算法的核心是“条件判断”(IF ... THEN)语句,由要达到某一结果所应实现的条件以及后续步骤组成的规则体系。不过,这个规则体系不是算法系统所固有的,必须要通过对人与人、物之间关系的梳理才能实现,但是由设计者梳理而成的关系不是稳定的,总是充满了任意与主观。因此,算法本质上可以被看作设计者自身所设定的目标与判断的物化形式,是以数据为中介的规则体系,体现出设计者心目中人与人、人与物、物与物之间关系的社会调整方式。人与人之间的交往活动也越来越以大数据算法为中介,如在外卖行业,商家、顾客、配送员之间的交往活动就需要以大数据商业平台为中介,而商业平台所遵循的代码逻辑又受到了设计软件的程序员的支配与调 节。

(二) 大数据算法的控制论规则

大数据算法所体现出的人、物之间的调整方式依赖的是控制论规则。要实施大数据治理,首先需要算法设计者设置标准与目标,随后,算法系统持续不断地搜集其所要治理的环境中众多组成部分所产生的实时数据,而后不断计算,以便识别、改变、完善系统的运作,实现预先指定的目标。这与控制论系统的三个核心部分,即信息的收集与监控、标准制定、行为修正是一致的。总的来说,大数据算法所遵循的控制论规则具有如下特 点:

首先,大数据社会是大规模测量、预测、规划和控制的控制论社会。想要让社会运行效率得到提高,必然要通过对大量数据的算法分析,最大限度地挖掘出各数据之间的潜在关联,努力减少无知、未知和不确定性。大数据算法能够迅速地筛选、整理大量数据,对其进行数据挖掘、预测分析,并根据不断收集到的新数据进一步调整。大数据能够在超出人力所能及的数据集中找到有用的相关关系。这些相关关系可以从个人信息、个人与他人的联系、群体的信息,甚至是信息片段、信息自身的结构中被挖掘出来,是大数据的价值所在。数据搜集行为无时不在、无时不有,算法可以随着目标行为及其环境的变化随时更新与完善数据库,实现对整个待治理群体数据的实时监测与分析。大数据算法还可以根据特定个体产生的数据,个性化地对人的行为进行调控,其颗粒度更加精 细。

其次,大数据控制以结果为导向,并不必然采取某一特定手段,它只关心把事情“做好”,而不是把事情以某种特定模式付诸实施。这意味着灵活使用多种方法,以盖然性而非确定性手段达到目的。大数据最广为人知的一个特点是对相关性的重视,甚至在某种程度上认为相关性可以取代因果性。所以它只关心对现象的预测与控制,而并不提供统一的理解,因此大数据只能做出概率性的预测。随后,大数据算法便可根据这种粗略的实时预测为被治理者量身定制一套行动选择方案。虽然制定出这套方案的规则是由治理者(算法设计者)制定的,但与传统治理活动不同,被治理者不会因违反治理者的建议而受到惩罚。大数据治理依赖的是对被治理者行为的软性引导,而不是通过强制而使被治理者的行为符合法律或共同体的利益。如最典型的推荐算法,算法设计者通过大数据学习,将用户可能感兴趣的内容迅速推送到用户眼前,以此引导用户行为,但用户也完全有着点开或不点开的自由。算法关注结果、拒斥普遍方法的特点还体现在它对个体水平的关照。例如,在大数据医学治疗场景中针对特定个人的情况开展治疗,或者针对某人以往的购物经验推荐商品 等。

最后,大数据控制所要达到的目的也不是一成不变的,而是随着数据的实时反馈而不断调整。算法设计者在将内心的目标转化为具体的技术设计时,已经经历了一次转译。但由于语言的不确定性、社会环境的多变性,以及对社会环境解释的多样性,算法设计者预想的结果并不能完全如愿。当大数据控制出现失灵时,算法设计者将及时通过反馈得到的数据更新算法,发布“升级补丁”。这是大数据治理中典型的实施—反馈—调整的试错方法。还有一种“无监督学习算法”,甚至设计这种算法的人自己也不能预测学习输出的结果,因为它并不是由设计者直接控制的,而是会根据环境数据的反馈不断更新,这给算法初始标准的设定和对随后结果的解释带来了一些困难问题。可见,在大数据算法系统中,数据的生成和训练机制是系统内部不可或缺的一个方 面。

总之,通过对个体与社会的大规模监测与分析,大数据社会不再是盲目的、自发的社会,而是充斥着各种有目的、有计划的行动,朝着预先设定的方向前进。同时,大数据控制不追求以特定手段实现特定目标,而是以无时不在、无时不有的控制本身为目标。此时,社会行动是面向未来的,以数字的测量和预测为出发点,以数字的规划和控制为目的 地。

(三) 大数据治理的“大设计”误区

在大数据时代,使用数据对我们进行评估的算法已经对社会生活以及社会政策的制定产生了重大影响,有学者称之为“社会算法”,以此强调大数据算法的社会权力维度。有些学者对大数据治理充满了乐观态度,认为它可以让我们向一个更加“整合、灵活、全面的政府”的方向前进,甚至最终形成一个可被控制、被预测的“数据乌托邦”,整个社会将像发条装置一样精确运行,符合理性、逻辑与公平。但大数据时代数据收集活动的规模和持续性不断扩大引起了许多评论人士的担心。其中最有代表性的就是肖莎娜·祖博夫(Shoshana Zuboff)所谓的“监控资本主义”(Surveillance Capitalism)。她认为,由于政府与企业能够通过数据的监测与分析,充分地了解个体并预测个体的行为,它们就掌握了对个体施加严格控制的力量,以大数据算法塑造人类的行为。

实际上,这两种对大数据技术的看法都属于传统的“大设计”的技术治理实践在大数据时代的延续。“大设计”主张人类社会存在某个可以被发现的终极形态,然后应当以此终极形态为蓝图对社会实行自上而下的改造。最早主张“大设计”的社会改造的思想家以法国的圣西门和孔德为代表,他们试图像发现物理学规律一样发现精确的社会规律,然后根据这些规律对社会进行总体改造,从而将人类社会建设为某个终极的理想 国。

不管是数据乌托邦还是数据敌托邦,其思想核心都与“大设计”的主张相同。首先,虽然这两种观点相互对立,但它们都赋予了大数据技术以一种自主的力量,成了无可躲避的“天命”,将会把人类带向特定的终点。其次,“大设计”认为人类社会的终极蓝图是可以通过科学方法加以认识的,而对大数据治理的两种设想能够成立的基础,也在于大数据可以对人类与社会实现精确认识。这两种观点都预设了社会的方方面面均可以被大数据测量和监测,通过计算来解决或优化社会问题。最后,与“大设计”认为可以自上而下设计社会类似,这两种观点都认为大数据具有自上而下的支配力 量。

用传统“大设计”的观点错误地看待大数据治理,是当前学界对于大数据治理的方法、目的、前景争论不休、陷入误区的原因之一。大数据社会治理所遵循的逻辑不是从算法到社会到个体的单向影响,而是控制论式的递归循环;大数据算法并不追求特定目的与特定手段,而是追求在实时反馈中不断地控制与调整;人们并非处于圆形监狱一样受到大数据算法侵入性的注视,而是如同在教堂里“告解”(confession),即通过大数据平台自愿坦白自己的个人信息,以换取在大数据时代生活的便利。可见,大数据治理方式与“大设计”的社会治理实践存在着许多根本的不同。所以我们必须探索出一套真正符合大数据治理实践的社会规则,来取代以往对于“大设计”的迷恋。这种社会规则可以被称为“小设 计”。

二、“小设计”社会规则的内涵

(一)“小设计”的认识论

大数据时代“大设计”的观点认为,有了足够的数据,我们就可以对社会进行监测、分析、预测,从而实现自上而下的完美控制。这种观点背后通常蕴含着这样一个明确的假设,即“宇宙是由已知、可定义的参数构成的,[这]使我们确信,如果我们能够测量它们所有的参数,我们就能够相应地做出完美的预测和回应”。但是这也带来了凯特·克劳福德(Kate Crawford)所谓的“对大数据的担忧”:如果政府仍然以传统的自上而下的方式治理,那么数据的搜集将会是一项永无止境的工作。也就是说,“大设计”规则将大数据视为一种更高形式的知识,带有真理性、客观性、准确性的光环;同时,它高估了人类利用科学技术所能达到的认识能力,让我们以为自己具备事实上并不具备的知 识。

大数据技术是工具主义的:人们不再热衷于寻找因果关系,而是青睐事物之间的相关关系;追求的是预测而非解释。因此,大数据并不能给出一个完美的对现象的解释与理解,更遑论对现象的精确控制了。谷歌搜索引擎所开发的“谷歌流感趋势”是大数据分析能力的一个重要例子,只要用户搜索了一些与流感有关的关键词,系统就会开展跟踪分析,对全球流感疫情进行评估,绘制出流感图表与流感地图。一开始预测系统运转良好,但后来系统的预测出现了极大偏差,预测的流感病例数目甚至超出了美国疾控中心监测报告的两倍。其原因可能在于,谷歌的广告推送改变了用户的行为,同时谷歌也在不断改进搜索算法,这两个因素导致了谷歌流感趋势分析系统产生了不稳定、不可重复的结果。因此,大数据算法得出的相关性只是对现象层面的描述,其必然性无法得到证明,即使算法在一定时间段内是有用的,也可能会因复杂社会的任何一方面的改变所产生的蝴蝶效应而无效,大数据算法必然处于不断改进的过程 中。

大数据算法还具有一定的独断论色彩。首先,能够获取大量数据的公司常常毫无根据地假设“人”与“用户”是同义词,但是两者其实只是两个相交的集合。一个人可以注册多个账户,一个账户也能被多人使用,所以数据不能构成真实个体的“数据双胞胎”。其次,大数据算法做出的预测是从现有数据集学习而来,如果某件事在过去没有发生过或者发生过但未被纳入数据集,则算法很难做出预测。这一方面导致了算法对特定群体的歧视,例如照片去除马赛克软件将一张黑人的照片还原为白人,这可能就是因为在训练算法时所采取的照片大部分都是白人;另一方面,算法不能预测数据集之外的事情,这已经预设了未来发生的事情与过去等同,忽略了社会与个体都是发展的、变化的,也无法做到创新。如以过去女性在社会上处于不利地位时的数据进行训练,可能就会忽视女性获得解放的可能,对女性造成隐性歧视。如果完全依赖大数据算法进行决策,实际上不利于社会的发 展。

鉴于大数据认识的以上特点,“小设计”旗帜鲜明地反对“有了海量数据就能解释并预测一切”的“大设计”认识论。大数据社会的实际发展并不会与计算结果完全吻合,甚至多数时候并不吻合。强力计算并不能消除风险,不能给出基于“万能计算”的既定社会蓝图,而是更可能出现这样的结局:计算越多,数字越多,暴露出的风险也越多。因此,大数据时代的正确态度并非消除不确定性,而是承认不确定性、直面不确定性,只有逐步试错、不断改进算法,才能实现预期的结 果。

(二)“小设计”的方法论

“大设计”与“小设计”在方法论上的区别,和波普尔所谓“乌托邦的社会工程”与“渐进的社会工程”类似。前者与大设计一样,强调历史社会发展的必然性,主张使用科学技术手段理解并设计社会的终极蓝图,以此为基础自上而下地控制社会。这种方法得出的“终极蓝图”往往是遥远的乌托邦,并且认定目标只有一个,没有更改的可能。后者则反对历史规律的存在或人们认识历史规律的可能,认为社会的发展应当在局部的调整与改进中推进。波普尔反对前者,赞同后者。他强调将渐进社会工程用于铲除社会明显的“恶”,如贫穷、疾病和战争,而不是用于建设“地上天 国”。

“小设计”与波普尔笔下的渐进社会工程相类似。数据不断生成,不断被解释,不断与其他数据产生新的相关关系,所以我们生活在一个不断变化的世界,不能做到完全的控制。数据的生成与解释依赖于自身的语境,因此不能给出唯一的、理想的解释。这与波普尔对社会变化的强调、对理想计划的摒弃是一致的。更关键的是,在大数据社会中,这种变化背后的机理是不可知的,只能通过数据挖掘得出一些似是而非的相关性结论,而波普尔所批评的历史主义者虽然也强调变化,但他们更想找到“一切变化背后的驱动力理论”,即变化背后一成不变的规则。但大数据技术对于数据无所不包的搜集也不可能给出这样的规则,因为大数据只能揭示相关性而不能揭示因果 性。

算法模型也不是一成不变的,而是需要不断的调试。允许错误出现、在错误中不断前行是大数据算法进化的前提,也是渐进社会工程的核心要义。在大数据时代,人们热衷于计算,同时不断修正计算,在计算中实现对社会运行一定程度的控制,而决非通往设定好的某个终极理想状态。相反,变动不居的数据彻底否认永恒不变的“理想国”。波普尔指出,渐进工程师“知道他的知识多么少,他知道我们只能从我们的错误中学习”。运用理性和计算,对大数据时代的某些社会规则进行有限调整,是渐进社会工程的重要例子。规则不断被设计、被实施,随时接收反馈,然后不断调整、修正甚至重 塑。

波普尔还强调,渐进主义的社会工程师“可以在改革的范围中不抱成见地提出自己的问题”,而乌托邦主义的工程师却“一口咬定彻底改造是可能的和必然的”。大数据算法所产生的发现很多属于这种不抱成见的发现,并不预设任何理论的前提,也不预期产生特定的结果,这被称为“探索性实验”。传统科学探索必须预设不变的科学定律存在,试图将彼此不同的现象统一起来,然而在大数据时代,数据量已经超出了人的认识能力,无法通过精密模型加以计算。另外,不同现象构成的系统中包含着大量工作原理极为不同的机制,也无法用统一的科学定律加以解释。因此人类要想把握住大数据时代纷繁复杂的社会现象,对其进行一定程度的预测以及控制,必须要使用这种无成见的研究方 法。

理想与现实之间的差距,并不会减少大数据社会追求控制论效果的热情。对社会规则的不断修订甚至重塑,成为大数据时代常见的现象。人们逐渐放弃萧规曹随的观念,转而相信规则应该与时俱进。总之,从方法论上来看,大数据时代的社会规则设计,必须抛弃传统的“大设计”,走向局部渐进改善的“小设 计”。

(三)“小设计”的科学观

“大设计”之所以认为自己能够给出无所不包的社会蓝图,是因为它建立在人们对科学认识能力的过高估计之上,认为可以使用科学方法探寻到社会的终极答案。与此相对,“小设计”之“小”也不仅体现在使用局部渐进的方法取代乌托邦蓝图的方法,也体现在对上述错误科学观的反对上。“小设计”不一定要植根于波普尔所谓的证伪主义,而是要客观分析人类科学技术所能达到的水平,认识到科学技术的局限性。这一基础我们可以称之为“科技谦逊主义”。面对外部世界,人类依然还很渺小,谨记知识的局限性和科学规律、社会规则的时空性,才是真正理性和科学的态 度。

“大设计”的出现得益于“唯科学主义”在18世纪的兴起。在哈耶克的定义中,“唯科学主义”指自19世纪中叶以来将自然科学方法应用于社会科学中的思潮,并将通过这种方法得到的“社会规律”应用到社会实践中,要求“自觉地”控制或支配社会过程。在18世纪到19世纪,自然科学尤其是牛顿力学取得了巨大成就,人们逐渐对科学的力量推崇备至。19世纪的统计学家凯特勒(Adolphe Quetelet)借用了“大设计”代表人物孔德提出的“社会物理学”一词,开创了一门通过模仿物理学、使用统计学方法来把握社会规律的新学科。虽然在大数据时代,统计数据的极大丰富看似将要完成凯特勒的梦想,但实际上大数据却使人们意识到了社会现象的复杂性,数字的增多非但没有帮助凯特勒们得到想要的社会规律,给社会现象以统一的解释,反而只能得出数字之间非必然的相关性,以个性化、语境化的方式预测人类行 为。

几个世纪以来,“技术失控论”一直出现在各种反思技术的哲学文献中。面对新的科学技术,人类自以为有把握驾驭,但实际上却对技术所造成的后果并没有清晰的认识。新技术可能带来生活便利与经济增长,但也可能导致无法预料的伦理困境,引起难以承受的灾难与风险。2018年,杭州某高中上线“智慧课堂管理系统”,通过摄像头识别学生的行为和表情,以此评判学生的课堂表现;四川大学更是用无人机在课堂上抓取学生面部表情,通过大数据分析管理学生课堂行为,一时间引发了学校变为“全景监狱”的担忧。精准营销也导致网络购物平台可以获取用户的偏好、购买力等信息,实现“大数据杀熟”,阻碍交易公平。各个大数据应用无休无止地索取用户信息,导致个人隐私被泄露与侵犯的风险。机器学习的结果不仅会超出用户的理解,甚至有时连算法设计者也不明所以,这提出了算法责任、算法监管,以及算法民主等新的伦理问题。

面对大数据算法抛出的全新问题,人类只能在无知之中摸索前进。时刻保持思想和设计的多样性是科技谦逊主义的应有之义。“大设计”将某种蓝图视为社会发展的最终结果,否认其他的可能,这是一种缺乏审慎的做法,因为实际上不能预先知道大设计的结果能否实现、是否还有更好的目标等。等到真正实施起来,又是困难重重,为了不让民众质疑,甚至还要给民众“洗脑”。这就是高估了科技的力量以及自己的理性认识能力。大数据并不试图给出社会的终极蓝图,而是在实施—反馈—调整的试错设计中追求不断控制。虽然算法的“条件判断”规则并不能被违反,但算法设计者总要根据数据的变化,调整、更新算法。在大数据时代,人类面对着无知的未来,必须保持思想和设计的多样性,为更多的设计方案留出空 间。

三、“小设计”时代的社会问题

(一) 算法民主问题:公众参与的设计

许多学者热衷于将大数据时代的未来想象为黯淡的敌托邦,这与算法引发的独裁专制的想象是离不开的。一方面,算法似乎正在越来越具有自主的、难以控制的力量,甚至带来了监视一切、预测一切的可能,对民主生活造成了威胁。另一方面,即便将算法视为设计的产物,民众也会因算法逻辑的不透明、难以理解而感到自己只能被算法设计者摆布,引发“专家治国”的担忧。“小设计”的社会规则首先应当解决算法与民主之间的张 力。

从大数据规则来看,大数据算法是一种更加包容的技术,具有民主的潜力。拉图尔曾经以减速带的设计论证物中所蕴含的道德:减速带的设计目的是防止车辆超速,只要它存在于路面上,就能够起到类似于交警的功能,人为干预从这个场景中消失了。技术一旦达到了必要的标准,总是能够执行它的功能,也正因此,技术被认为具有自主性,甚至在某种程度上有脱离人的掌控的趋势。使用这种技术进行社会治理无疑是生硬的,减速带在居民区确实可以确保居民安全,但是也会拖慢急救车的速度。但根据“小设计”的观点,算法规则采取的是实施—反馈—调整的试错设计,大数据时代的政府可以被建设为一种“学习型政府”,即不将治理视为一劳永逸的活动,而是在公民身上试验政策和服务,并根据结果进行调整。这种实验性的方法可以让政府的政策设计根据民众的反馈作出回应,增加民众的民主参与活动,以实现在社会经验中的不断学 习。

算法逻辑不仅往往让民众感到难以理解,有时“甚至对设计者来说都是不可理解的,它们隐藏在中性技术语言的误导之下,绕过了民主和问责程序”。算法的代码与标准的模糊性与不透明带来了实现算法民主的困难。若不能理解大数据算法的运作方式,要实现民主所需的公众参与便会困难重重,个体思想得到传播的机会将大大减少,而且也不利于社会信任的建构。大多数用户在使用大数据平台时都会努力尝试理解算法逻辑,并根据算法逻辑重新设计表达,来更好地传播自己的想法。这虽然也是一个根据反馈逐渐调整的过程,但却仅仅涉及算法与民众两方,而没有将算法的设计者也囊括进来。人们对于算法的底层规则的理解往往模糊而简单,有时甚至是错误的。人们可能会试图以自己所理解的算法运行的方式来推动信息的传播,但有时却只会得到适得其反的效果,比如在微博上反复转发同一条消息,最后被标记为“水军”或者“机器人账号”。“小设计”认为,大数据平台有必要以适当方式公示其算法的基本原理、目的意图与运行机制,打开算法黑箱。只有在设计者—算法—民众三方形成实施—反馈—调整的良性循环,才能真正实现公众参与与公众对 话。

(二) 自我治理问题:实时反馈的设计

大数据控制的机制除了实施—反馈—调整的循环反馈之外,还重视反馈的实时性,以随时揭示变动不居的数据间所体现的相互关系,从而更加有效及时地治理意料之外的情况。在大数据时代,人、物、社会都处在不断地被数据化的过程中,这种实时反馈的治理可以无所不包,帮助构建起一个自组织、自适应的多元世界。大数据可以帮助共同体内的民众实现自我认识与自我治理,将以往自上而下的基于规则与法律的治理改变为有自我意识的实时反馈机制。例如通过佩戴智能手环,人们可以及时了解自己的身体状况,并根据数据的变化让自己的行为变得更加健康。正如社会评论家耶夫根尼·莫洛佐夫(Evgeny Morozov)所言:“突然之间,人们不再需要开发管理每一种偶发事件的程序了,算法和实时、即时的反馈比脱离现实的僵化规则做得更好。”

使用大数据进行实时自我治理的最佳例子是近年来在对抗自然灾害时新兴的“众包救援”方法。一旦灾情发生,大数据平台可以根据受灾群众、当地政府、来自世界各地的志愿者等多方力量提供的各种信息生成“危机地图”,标记出各地受灾情况、需求情况等,协助当地的救援工作。该方法于2010年海地大地震中初次崭露头角,当时,开源平台Ushahidi根据志愿者提供的信息绘制出了一张灾情实时地图,并生成了大约5万份灾情报告,被誉为“对人道主义团体来说最全面和最新的海地信息来源”

为了自我治理中实时反馈的有效性,“小设计”必须实现地方化的设计,即承认不同国家、不同地区、不同文化和不同传统之间的情况差异,因而强调规则设计要突出地方特色和适应性。虽然“众包救援”作为实时自治的典型案例而大获成功,但它也有失灵的时候。在2015年尼泊尔大地震中,志愿者受到了大量来自加德满都的求救信息,据此他们认为加德满都是受灾最严重的地区,然而事实并非如此。这次让大数据遭遇“滑铁卢”的原因是:加德满都是尼泊尔首都,当地人受教育程度较高,有更多人可以使用志愿者能听懂的英语表达自己的观点,这让他们在网络上发出了更大的声音。可见,由于“众包救援”没有注意到地区发展的差异,将大数据算法绘制的灾情地图不加批判地等同于真实世界的受灾情况,最终不仅未能达到大数据所允诺的高效救援,而且甚至还加剧了当地的经济、社会不平等现 象。

(三) 智慧城市设计问题:多元融合的设计

作为一种能够根据实时数据的变化进行反馈调节的治理方式,大数据技术在城市治理与城市规划中也起到重要作用。近年来,“智慧城市”(Smart City)这一概念越来越受到学界关注。这种城市的环境与基础设施中带有无处不在的计算机和数字设备,如无线网络、传感器、摄像机、计算机控制的管理系统和交通设施等。这些装置收集市民们产生的数据,并将数据连接、整合、分析,以对城市中的诸过程加以描述、建模、预测,模拟城市的未来。这样的城市可以产生对自身的实时认识,已赢得了“有智慧”“有弹性”“有感知力”等美 誉。

但是,也有许多学者,如城市规划专家本·格林(Ben Green)批评智慧城市的乐观前景是虚幻的,因为它“极其短视地将城市等同于技术问题的概念重构”,最后导致城市“表面上很智慧,但实质上充满了不公正和不平等”。显然,由于数据本身负载着政治,是经过意识形态、系统约束、政治观点、伦理考虑等多方面处理之后的产物,所以客观、中立、透明的数据是不可能的。大数据确实对城市的规划与管理有很大用处,但是它的局限性意味着我们必须考虑它们背后的价值观,思考它们代表的是哪些群 体。

“小设计”认为,大数据时代智能城市的治理必须依靠多元融合的设计。这首先意味着数据的多元融合。在小数据时代,限于数据处理的方法与设备问题,人们只能处理结构化数据,需要将复杂多样的数据还原为统一的标准格式。而在大数据时代,数据处理系统可以处理具有多种多样形式的非结构化数据,并且各自独立的数据收集系统可以在大数据系统中相互联 系。

其次是社会群体与价值观的多元融合。大数据可以从大量数据中“挖掘”到个体情况,而不是根据少数的社会或文化属性,将个体纳入一套确定性的或因果性的理解中。被边缘化、被污名化的少数群体往往分散在社会的各个地区,过着相对隐匿的生活,因此他们的想法很少能为人所知,但在大数据时代,随着互联网、智能手机和社交媒体的日益普及,研究者可以通过获取并分析少数群体所产生的数据,以理解和支持这些难以通过传统方法触及的人 群。

最后,“小设计”还意味着解决城市问题时采取方法的多元融合。将城市问题视为技术问题、相信技术可以解决一切问题的“技术解决主义”已经被许多学者诟病。城市是人生活的共同体、当代社会生活的中心,所以处理城市问题实际上处理的是人与人之间的关系问题;大数据时代的城市问题处理的是以大数据算法为中介的人与人的关系问题。但技术解决主义恰恰忽视了城市的这一本质属性,将城市问题的解决方法单一化为技术方法。正如本·格林所指出的,技术必须与其他形式的创新结合使用,如对制度和运营机制进行改革,才能释放技术的价值。

总之,小设计鼓励更多的方案,支持更多的创新、差异和冗余,反对社会规则的齐一化、机械化和绝对化。大数据技术为多元化创造了更多的便利条件,为多元化的小设计提供了更广阔的空 间。

(四) 机器人设计问题:面向未知的设计

机器人通常被想象为一种身体外形与人相类似的具体物质对象,包括可以在机器人身体的物质中找到的硬件和软件。但是制造出与人类相似的机器人(通用人工智能)仍然停留在科学幻想中,目前大多数所谓的“机器人”或者“人工智能”的核心仍然依赖于大数据技术的算法逻辑和机器学习方 法。

如同大数据技术一样,机器人也引发了许多乌托邦与敌托邦的修辞。对于通用人工智能机器人的想象,业已引起人们的普遍担忧:“人工智能将拥有自己的能动性,成为超人,并选择毁灭我们。”“通用人工智能”还要多久才能研发成功,以及究竟要不要研发的问题,已经成为了科学家、哲学家、文化评论家热衷于探讨的话题。机器人发展的未来愿景令人困惑,这是小设计时代的全新问 题。

面对未知的将来,“小设计”必须站在人类视角考虑问题。在敌托邦与乌托邦的幻想之外,也有越来越多人认为,人与机器可以协同进化,即让人的智能(创造性、决策能力)与机器的智能(计算、推理)携手并进。随着诸如脑机接口等人机混合增强技术的发展,人类也可以随着技术的进步而不断进化,最终走向“超人类主义”(transhumanism)。这种观点虽然很有道理,但它是某种“上帝视角”或“宇宙视角”,置身事外地看人机关系。的确人与机器人可能会协同进化,但是协同进化的最终结果并不一定对人类有好处,而且社会价值不一定乐于接受这种进化。有意义、有价值的是“人类视角”,也就是说考虑人类在人机协同进化中应该如何选择应对方案,以确保人类的延续和福 祉。

同时,“小设计”还必须时刻保持价值敏感性。探讨人与机器共生规则,既不是为了找到某种永恒真理,也不是为了维护荒谬的“机器福利”,而是要判断下一步如何行动。比如,无人汽车、无人舰艇发展,如何避免社会伦理问题,使之符合现时代伦理环境,不触发严重的伦理危机和风险。如果AI冒犯主流伦理,势必不能得到大的发展。比如,无人汽车出了事故,谁来承担责任?显然,解决该问题无需解决无人汽车是不是主体的问题,而是需要进行细致的制度安排,比如责任分摊、保险制度等等,便能符合主流价值观地解决无人汽车事 故。

总之,小设计必须成为面向未知的设计。今天,人类面对着“新无知之幕”,即不知道人机共生的最终结果而要做出选择。在这种情况下,我们不能指望探讨抽象的机器人思辨哲学就能实现对现实生活的良好治理,而是必须在“盲人摸象”中与能力超强的AI共同生活。这就是人类站在“新无知之幕”之前谦逊主义的根本态 度。

四、结语

“大设计”试图使用科技手段设计出人类社会的终极蓝图,这种想法在大数据时代基本已经宣告死刑。在“小设计”时代,规则共识成为一种理解运动,而不是先定义务或理念演绎。人与人为某个目的坐在一起,各有各的数据、数据解释和数据观,相互都需要学习他人的观念,尊重他人的选择,努力求得相互理解基础之上的“小共识”。也就是说,大数据时代的共识是微观的、具体的、变化的、容忍差异的和“入乡随俗”的。

人总是过高地估计了自己的理性认识水平,独断地给出“唯一解”,甚至为此冲突流血也在所不惜。在大数据时代,虽然对数据的监测与分析技术已经大大发展,但人类此时才更明白了自己对复杂社会现象的“无知”。大数据不仅让许多人抛弃了因果性解释,转向概率性的、相关性的预测,更带来了许多新的社会问题,而且这些问题究竟是福是祸,我们对此一无所知。正如弗洛里迪所警告的,信息社会是在没有任何计划的情况下建立起来的,我们已经被关于未来的各种谣言、科幻中危言耸听的警告,以及各种各样的蒙昧无知、故弄玄虚以及人云亦云所包围。所以,当前社会必须转向“小设计”的规则,在不断试错中前进,在多元融合中创新,更好地利用大数据的实时反馈特性应对未知问题,以此才能更好地增进社会福祉、保持人类文明的延 续。

猜你喜欢

算法设计
国际主流轧差算法介绍:以CHIPS的BRA算法为例
BUBA台灯设计
Travellng thg World Full—time for Rree
有种设计叫而专
学习算法的“三种境界”
算法框图的补全
算法初步知识盘点
陈国兴设计作品
匠心独运的场地设计画上完美句点
比比谁的算法妙