人工智能时代的国家画像与国家自律

□梅立润

（武汉大学 马克思主义学院，湖北 武汉 430072）

国家从出场之初就承载着增进民众与社会福祉的使命，国家治理是其践行使命的核心方式，国家能力是国家治理得以展开的基础性支撑。众多历史事实早已表明，正是由于国家能力不足，在第三波民主化浪潮中一大批国家因此深陷治理失败的困局。如弗朗西斯·福山所言，当今世界存在的诸如贫困、艾滋病、毒品等严重问题的根源就是国家软弱无能或国家失败；在他看来，要解决这些严重问题或者说构建良好的政治秩序，国家、法治和责任政府是不可或缺的要素，而且国家一定要像一个国家，要有强大的或者说至少是合格的国家能力，这样才能够有效维护自身的安全，维持和平与正常的社会秩序。确实，强国家能力对于国家有效治理来说具有不言而喻的重要性，“高国家能力或强政府是经济发展与社会繁荣的重要前提”，没有一定的国家能力作为支撑，不管是国家治理，还是国家建设、国家发展、国家转型，都可能会陷入困境。因此，借助技术进步提高国家能力，继而提升国家治理效度，从而造福民众与社会，已经成为一条普遍的政治经验。当前人类社会正在迎来一场智能化浪潮，人工智能具有强大的赋能属性，然而谁也无法保证，经过人工智能赋能之后一个更为强大的国家甚至说全能国家的出现，就一定会增进民众与社会福祉。

一、警惕国家：一种深厚而悠久的思想传统

国家或政府是人类社会生存与发展无法抹去的组织背景，虽然个人能够比较自由地选择加入或退出某一社会组织，但是并不能轻而易举地离开某个政府。而且国家的出场具有非常扎实的理由和深厚的意义，或者是为了帮助每个人“达到自足”抑或过上“优良的生活”，或者是为了克服自然状态的种种弊端，或者是为了使社会矛盾与冲突保持在“秩序”范围以内。特别是在现代社会，国家承载着更多增进民众与社会福祉的责任。正因如此，在许多人的观念里，“质疑国家的必要性就犹如怀疑重力一样愚蠢荒诞”。虽然每个人都要在国家中生活，国家存在的必要性不容置疑，但是这并不意味着国家可以“为所欲为”。实际上，自国家产生以来，人们对国家的态度就是两种风格并存，一种将国家视为“保护神”，认为国家是高尚的，对国家的发展壮大或者说“无所不能”持欢欣鼓舞的态度；一种则有点防备甚至敌视的意思，对国家的发展壮大或者说“无所不能”持相当警惕的态度，更倾向于认为国家应该是“有限国家”。

无论是在中国还是在西方国家，对“无所不能”式国家的警惕或者说对“有限国家”的强调都有着深厚而悠久的传统。在中国，早在春秋时期，著名的思想家老子就提出了“无为而治”的治国理念。无为而治强调对民性民心的尊重，强调给予民众“自化”“自正”的空间，要求国家或主政者自觉地限制手中的权力，这实际上隐含着对国家或主政者“有为”的警惕。在许多西方国家，自由主义是其思想文化底色，而自由主义的首要特征，也是最重要的特征，就是它是个人的自由主义，把个人当作社会与国家的前提或基础，是早期自由主义者对封建时代对个人进行束缚与吞噬的反动，也是整个自由主义脉络一以贯之的思想价值核心。正是由于对个人的高度重视，因此早期自由主义者对国家特别警惕。

对国家的警惕或者说对“有限国家”的强调，洛克在某种意义上既是先驱，也是集大成者。洛克认为，人类社会一开始处于某种自然状态中，自然状态遵循自然法的支配，自然法教导人们：个体是平等和独立的，任何人不得侵害他人的生命、健康、自由或财产。不过自然状态中的人们并不见得都会按照自然法行事，难免会产生争执与争端，如果在争执与争端过程中，每个人都“各行其是”地惩罚不按照自然法行事的人，则会导致更大的混乱，“正是这种情形使他们甘愿各自放弃他们单独行使的惩罚权力，交由他们中间被指定的人来专门加以行使……政府和社会本身的起源也在于此”。在洛克看来，虽然国家出场源于个人生命、自由和财产安全的需要，但是国家权力是有限的和有边界的，即使是国家，也不能随意侵犯个人的生命、自由和财产等“天赋权利”。换言之，出于对个人权利的高度重视，洛克既“拥抱国家”，也时时对国家保持警惕或者说颇为推崇“有限国家”。确实，“国家权力既是个人权利的保护神，又是最危险的侵害者。对其他组织的侵害，个人可以自卫或寻求国家权力的保护；而在国家权力的侵害面前，个人无能为力”。为此，洛克还提供了如何限制国家权力或者说构建“有限国家”的思路，一条是“法律之路”，另一条是“分权之路”。

实际上，除了洛克之外，西方还有许多思想家对国家保持高度警惕或者说推崇“有限国家”。在亚当·斯密看来，最小的政府就是最好的政府，最适合政府的角色定位应该是“守夜人”和“警察”，特别是在经济活动中，亚当·斯密对市场这只“看不见的手”充满了信心，认为市场本身是富有效率的，非常不看好政府对市场的干预。哈耶克也是一个警惕国家的自由主义者，他曾经援引布兰代斯（L.Brandeis）的话说，“当政府的目的在于行善便民时，经验告之我们更应当保有警醒以保护自由。生而为了自由的人，对于抵抗藏有恶意的统治者的侵犯其自由的行径，自然具有极高的敏感力。然而，对自由的最大危险，则潜藏在那种热心者的诱人但却剧毒的行径之中，潜藏在那些善意却令人无法理解其为何如此之善的行径之中”，由此可见其对国家的警惕之深。诺齐克在坚持个人权利优先的基础上提出了其理想中的国家形态，即“最弱意义国家”，认为“最弱意义国家是能够证明的功能最多的国家。任何比这功能更多的国家都要侵犯人们的权利”。波普尔对国家似乎也没有什么好感，提出了一个非常有名的限制国家权力的“自由主义剃刀”原则，即“国家是一种必要的罪恶；如无必要，它的权力不应该增加”。

总而言之，无论是在中国还是在西方国家，对国家的警惕或者说对“有限国家”的推崇由来已久。特别是在许多西方国家，虽然自由主义存在诸多流派，但是“自由主义者们普遍认为，国家是一种‘必不可少的恶’，为了便利人们的生活必须借助于这一机构，而要实现真正持久安全的生活则不能让它的权力无限扩张”，有人甚至直接指出，国家就是“我们的敌人”。

二、“全能国家”：人工智能时代的国家画像

个人是社会与国家形成的基础，为社会个体的生存与发展提供不可或缺的秩序和环境条件，是国家出场以及存在的正当性来源。虽然国家的出场以个人出让部分权利给国家或者说授予国家一定权力为代价，但是尊重与保护个人权利始终是国家行为的底线，如果违背这一点，国家将背离其最初的使命，甚至可能丧失其正当性基础。不过问题在于，没有人能确保国家总是为善而不作恶，故而与肯定国家的必要性和正面功能相伴随的是，人们长期以来对国家或明或暗的不放心。即是说，虽然每个人都需要国家，但是也要警惕国家。

尽管警惕国家或者说推崇“有限国家”有着深厚而悠久的思想传统，不过在现实政治中，“有限国家”的期待有时还是会落空。即使是在经过自由主义长期熏陶的西方国家，即使他们的社会民众已经树立起了非常深厚的个人权利意识以及警惕国家意识，“随着现代社会的发展，城市化进程的加快，公共事务的增加和风险社会的到来，西方发达国家早已进入了‘行政国家’的形态……即使现代西方政府努力保持有限政府的形态，但囿于公共事务的增加和服务需求的增长，它们也很难退守到‘守夜人政府’的境地”。换言之，“有限国家”的理想在许多以自由主义为思想底色的西方国家也并未完全走向现实。确实，在人类社会历史上，不少国家都出现过全能主义政治时期，全能主义指的是“政治机构的权力可以随时无限制地侵入和控制社会每一个阶层和每一个领域的指导思想，‘全能主义政治’指的是以这个指导思想为基础的政治社会”。在全能主义政治时期，“社会中个人或群体的自由和权利没有受到道德、民意、法律、宪法的保障。他们的自由活动范围的大小和内容，是政治权力机构决定的”。虽然全能主义政治时期的出现有其独特的历史合理性，但是依然无法否认，全能主义政治使得“政治权力的影响无孔不入，整个社会生活高度政治化”，“在这种状态下，所有事情至少在潜在意义上都是政治的。国家因此便无法声称其独特的政治特征了”。只不过由于尊重与保护个人权利以及打造“有限国家”日益成为一种内在的、稳固的“制度精神”，而“对个人权利优越性、绝对性的承认，一旦转化为一种制度精神，并为全体社会成员所认同，它就构成了政府权能观念演变与制度设定、变更中最为持久的软约束力，起着对政府权力扩张的屏障功能”，因此全能国家出现的条件越来越薄弱，概率越来越低，即使是在“行政国家”场景中，国家也并没有那么全能，社会和个人还是可以保有“自留地”，国家要想进入社会和个人的“自留地”有着难以翻越的围栏。

人类社会有警惕国家或者说推崇“有限国家”的悠久传统，与此同时，也经历过“全能国家”的在场与撤退。总体上来看，“有限国家”是当前人类社会的主流国家形态，而“全能国家”几乎已经只是一个停留在人们印象中的概念了。不过在人工智能时代，“全能国家”似乎又有回归与再现甚至强化之势。实际上，“全能国家”的根本性特征在于国家能够随时、全面地渗透到社会各个领域和个人生活之中并对社会各个领域和个人生活形成控制。由于信息是国家行动的基础，正如安东尼·吉登斯所言，“民族—国家的行政力量，如果没有信息基础作为反思性自我调节的手段，就无法生存下去”，同样，国家要想渗透到社会各个领域和个人生活之中并对社会各个领域和个人生活形成控制，就需要尽可能地掌握全面的有关社会和个人的信息，因此，国家能够掌握多少有关社会和个人的信息以及所掌握信息的质量如何在很大程度上决定了一个国家成为“全能国家”的潜力的高低。而信息采集与处理恰恰是人工智能的独特优势，在人工智能时代，国家可以利用人工智能的辅助采集到“更全更新”的社会和个人信息以及“又快又准”地处理所采集到社会和个人的信息。即是说，人工智能通过为国家进行信息赋能从而为“全能国家”再现奠定了坚实的基础。

随着互联网、智能手机、物联网的逐渐普及以及其他智能装置和设备的广泛运用，“人们的生活几乎被全天候监控——不仅包括传统的社交记录，还包括财务状况、健康评价、知识结构、饮食习惯、移动路线、出行方式、消费偏好等，甚至可以根据这些数据准确预测未来一段时间内一个人的行动”。有人甚至以忧虑而又不失幽默的口吻指出，“现代数字信息技术的出现，使得对个体的监视变得更容易、更严密、低成本和高效能。因此，我们越来越多的个人基本信息、日常言行、运动轨迹甚至欲望偏好，通过手机、网络、生物传感器等都可能随时被感知、被发现、被搜集、被分析和被应用，人们成为被‘第三眼’看得一清二楚的‘光猪’”。的确，在人工智能时代，为了生活的便捷性，人们有时既自愿又不得不向一些智能设备或智能系统交付诸多信息以换取“智能服务”，个人变成了“数字人”。虽然个人交付出来的许多信息可能杂乱无章甚至看起来毫无价值，但是国家通过大数据技术或智能算法进行交叉与关联分析后，可以从原本看似杂乱无章和毫无价值的信息中发现一些有用的东西。斯坦福大学计算机科学教授Michal Kosinski曾经指出：“了解一个人10个Facebook的点赞，对这个人的了解足以超越这个人的普通同事；了解70个点赞，则对这个人的了解足以超过这个人的朋友；如果了解超过300个点赞，那么恐怕会比这个人最亲密的伴侣更了解这个人。”国家所掌握的有关社会个体的资料远远不止70个赞或300个赞那么简单，国家所掌握的众多与社会个体相关的数据或信息完全可以“被刻意收集和存储起来用以描摹一个人的‘数据特征’，从而以极高的准确率预测个体行动，即消除一个人在社会中的不确定性”，这意味着“国家控制和操纵社会的能力将获得质的飞跃”。更为关键的是，国家可以通过算法模型调整呈现在社会个体面前的信息内容或者说调整社会个体所接触到的信息环境，实现对社会个体的注意力的规训以及思维方式的规训，最终使社会个体的行为与态度按照国家设定或预想的方向迈进，使社会个体心甘情愿、心悦诚服地接受国家的安排与支配，而不去反问为什么要那样。

三、“制造同意”：“全能国家”再现的代价

在人工智能时代，鉴于个人与社会对人工智能的强依赖性，国家可以通过各种智能设备和智能系统采集个人与社会信息，国家的信息能力已经达到一种膨胀的状态，可以打造出一个极为富有效率的数字利维坦。这意味着国家可以较为容易地刻画出个人的“数字画像”以及国家可能比你自己更了解你自己；意味着国家可以随时精准锁定个人、锁定群体、锁定问题、锁定风险，继而进行干预和控制，而且这种干预和控制可能是悄无声息或者在不知不觉中完成的；意味着国家可以很讨巧地让个人与社会按照国家的预期行动，并且不感觉到背后存在国家力量的引导而是真实地遵循了自身的意愿与判断。

如果说在人工智能时代到来之前，历史中的“全能国家”更多以一种“有形的全能”样态而存在，对社会和个体的控制是实体的“组织化控制”，那么在人工智能时代，“全能国家”则更多以一种“无形的全能”样态而存在，对社会和个体的控制则走向了隐形的“数字化控制”；如果说在人工智能时代到来之前，历史中的“全能国家”翻越围栏进入社会各个领域和个人生活之中还存在不少阻碍甚至是合法性风险，那么在人工智能时代，“全能国家”可以通过难以察觉的方式翻越围栏进入社会各个领域和个人生活之中，社会和个人甚至无从获取警报的提醒。最终可能出现安东尼·吉登斯说对了一半的结果，“我们生活在一个福柯称之为国家‘监控’变得越来越广泛和越来越明显的社会”，并且生活在一个越来越不需要反思和追问的社会，之所以认为其说对了一半，是因为人工智能时代的国家监控既变得越来越广泛，也变得越来越隐蔽。

国家出场的原初使命和国家治理的根本目的都是不断增进民众与社会福祉，由于现代社会公共问题日益复杂，相比于生活在一个软弱无能的国家之中从而遭遇种种不便或不幸，人们更愿意生活在一个强有力的国家之中，因为强有力的国家确实更有可能确保或增进民众与社会福祉。然而一个国家的能力也不是越强大就越好，当国家能力的强大程度超过了一定阈值之后，国家确保或增进民众与社会福祉的角色就有可能发生变化，转而成为民众与社会福祉的损耗者。“全能国家”固然可以通过精准的“数字画像”提供更精准的公共服务，与此同时也可以通过难以察觉的方式实施“精准监控”，提供更精准的公共服务是福音，以难以察觉的方式实施“精准监控”则可能就是噩耗。试想，在一个被国家的“无形之眼”时时盯着的国度，个人能否真诚、自在、自主地生活？还是只能按照国家的要求和希望按部就班、循规蹈矩地生活？恐怕后者的可能性更大。如此一来，个人很可能成为类似于按照剧本表演的演员，个人的日常生活变成了“演戏”，个人求变、创新、探索等意识与行为都可能被抑制，生活可能平静如一潭死水，泛不起半点涟漪，如此何谈活力？何谈幸福？

另外，现代国家治理在经过一段“国家回退”浪潮之后，再次“向国家回退”，国家主体在处理社会公共事务中的作用重新得到重视，然而凡是治理便不能丢弃治理的核心特征，国家治理虽然强调国家主体的中心地位，但是依然需要其他主体贡献力量。换句话说，现代国家治理既需要确立国家主体在处理社会公共事务中的权威或主导权，也需要激发社会自身的活力，不断促进社会自身的成长。问题在于，人工智能为国家赋能之后可能导致国家能力过于膨胀，使国家成为“全能国家”，在人工智能时代，国家有足够的能力对社会各方面进行“安排”或者说促使个人与社会按照国家的预期行动。个人与社会看似自主，其实“在数字世界里，人们沉迷于对速度和结果的盲目崇拜，却不再内省和反思；算法将一切转化为可以量化的维度并将其再次输出试图引导甚至规训人们的思想和行为，而个体却乐在其中。‘数据思维’泛滥的结果可能是人们自主意识的进一步丧失，数据比人们更了解自己，轻而易举地控制个体的思想，形塑着个体对数据权威的认同”。长此以往，个人与社会变成了一个看似可以自主作出选择而实际上只能在“好或不好”“同意或不同意”“允许或不允许”“支持或不支持”“赞成或不赞成”等之间进行选择并且最后只会点击“好”“同意”“允许”“支持”“赞成”等选项的“按键机器”。因为国家在掌握充分信息并变得比你自己更了解你自己以及在对人进行思想规训之后，在很大程度上已经可以很讨巧地将国家意愿嵌入按照个人与社会偏好设计的选项内容中，故而个人与社会选择肯定性答案的概率就会大幅度增加，换言之，国家已经可以制造个人与社会的“同意”。不过如此一来，社会就将流失许多在求同存异和争辩争鸣过程中迸发出来的活力。

四、国家自律：人工智能时代社会活力的基础

国家出场的原初使命和国家治理的根本目的都是不断增进民众与社会福祉，而“全能国家”的出现最终可能与国家的原初使命和国家治理的根本目的背道而驰。毕竟在国家无形之眼的监控和无形之手的控制下，个人与社会的自主性将被抑制，而在某种意义上，能够自主自在地生活、作出各种抉择以及进行试错、探索和创新等恰恰是幸福的重要来源。然而在人工智能时代，国家借助数据与算法的力量实施无形之眼的监控和无形之手的操控，将个人与社会从自主选择、试错、探索、创新中体验幸福的机会之窗关闭，将个人与社会的幸福之源控制在自己手中，而且无形之眼的监控和无形之手的操控还很隐蔽。也正是由于无形之眼的监控和无形之手的操控难以察觉，因此人工智能时代的国家治理，或者说国家在人工智能时代想要借助人工智能增进民众与社会福祉，才如此需要国家自律，才如此考验国家的自律性，国家自律是国家在人工智能时代不违背其原初使命、国家治理不背离其根本目的的前提。

柏拉图在《理想国》一书中曾经借格劳孔之口举了一个“金戒指”的例子：吕底亚人古各斯的祖先原本是一个牧羊人，在当时吕底亚的统治者手下当差，每个月要开一次会向国王报告羊群的情况。一次偶然的机会让他捡到一枚金戒指，有一次他戴着金戒指去开会，无意中发现这枚戒指具备让人隐身的功能，此后他利用这枚戒指的功能当上了国王的使臣，并且最后夺取了王位。格劳孔随后引申说道，不管是谁拥有了这样的戒指，如果能在市场里要拿什么就随便拿什么，能随意穿门越户，能随意调戏妇女，能随意越狱杀人，总之能像全能的神一样，随心所欲行动的话，就不会有人坚定不移地做正义的事了。当然格劳孔的看法过于悲观，最起码发自内心想坚守正义理念的人还是会继续做正义的事情的，不过这也切实表明，一个戴上了古各斯祖先金戒指的人选择为善还是作恶主要取决于其自身的信念。其实这个例子与人工智能时代场景中的国家自律非常相似，在某种意义上，以数据与算法为基础的人工智能可以帮助国家实现无形之眼的监控和无形之手的操控，就像给国家戴上了古各斯祖先的金戒指，国家监控和控制个人与社会的广度以及程度也主要取决于国家的选择，或者说主要取决于国家自律的水平。一个自律的国家必定拥有一定的边界意识，会给个人与社会留有一定的自主空间，而恰恰是这一点自主空间能够为社会活力提供生长的土壤，从而避免社会平静如一潭死水。实际上，在人工智能时代戴上了古各斯祖先金戒指的国家能够自律还是有很大好处的，因为在一个无形之眼和无形之手可以悄无声息地监控、控制个人与社会的国度，久而久之，个人与社会所需要做的事情就是等待和接受国家的安排，而一个只需要等待和接受国家安排的社会，可想而知不会有太多的活力，民众理性和社会理性也难以找到成长的机会和空间，长此以往，民众和社会将变成只会也只能依赖国家的“巨婴”，最终“受累”的还是国家。

人工智能时代的国家自律无疑是民众与社会福祉的重要保证，不过问题在于，国家自律如何得以实现呢？从根本上来说，自律指的是一个人无需外在的监督与约束而能按照自己既定的某种原则、规则、准则、信念、要求等行事，一个人要想实现自律，必不可缺的条件就是在心中树立起某种原则、规则、准则、信念或要求并且坚信之和笃行之，无此则难成自律。同样，要实现人工智能时代的国家自律，首要的任务就是国家树立起某种坚信并笃行的信条。一般来说，自律是分任务场景的，不同任务场景中的自律会需要不同信条的支撑，信条的形成与自律所要解决的中心问题紧密相关或者说与不自律的典型表现紧密相关。比如学习自律通常需要高效专注信条的支撑，因为学习不自律的典型表现就是无法高效利用时间、经常开小差等；饮食自律通常需要合理均衡信条的支撑，因为饮食不自律的典型表现就是胡吃海喝、不合理不均衡进食等。国家的原初使命、国家治理的根本目的都指向增进民众与社会福祉，之所以在人工智能时代的国家治理场景中强调国家自律，就是因为担忧国家借助技术的力量对个人与社会进行全方位的无形监控和无形控制，从而抑制个人与社会的自主性，最终损耗而不是增进民众与社会福祉。由于国家借助人工智能对个人与社会进行全方位的无形监控和无形控制，从方式层面来看，是将个人与社会都视作一串串可供计算的数字，实质上是以数据和算法为本，从目的层面来看，为的是使国家能够按照自身的预期、意愿来规训或安排个人与社会，实质上是以国家为本，恰恰就是缺少以个人、民众、社会为本，归根到底就是缺少以人为本，因此要实现人工智能时代的国家自律，最关键的还是国家树立起新的、严格的、长期的以人为本的信条。

之所以要树立新的、严格的、全面的以人为本的信条，主要有以下原因：一方面，以人为本有着丰富的内涵与外延，在不同的场景中可能有不同的指代，人工智能时代国家自律场景中的以人为本有其特指，主要强调的是国家适当减少无形监控和无形控制的广度以及程度，尊重个人与社会的自主性，给予个人与社会一定的探索、试错和创新空间。另一方面，政治领域和国家治理领域积累了深厚的人本思想传统，然而在落实以人为本时，许多执政施政者往往习惯于将以人为本视为行动的出发点或终极目标，认为只要出发点是为了人、方便人、服务人、帮助人或者说只要最后达到了为了人、方便人、服务人、帮助人的效果，行动过程和方式如何则无关紧要，人工智能时代国家自律场景中的以人为本不能如此，因此严格的以人为本想要强调的是在出发点、过程、方式、结果等各方面都要注重以人为本，不能用出发点的正确或结果的良好掩盖过程或方式的欠妥。再者，由于人工智能会不断发展升级，未来社会的智能化程度会不断提高，国家治理与人工智能的关联互动是长期的，因此在人工智能时代国家自律场景中，长期的以人为本想表达的是，以人为本不是今天坚信笃行明天又不知其为何物的机会主义式以人为本，而是稳定持续地与人工智能时代的国家自律共存的，甚至可以说，人工智能时代存续多久、国家治理对人工智能的依持存续多久，人工智能时代的国家自律及其以人为本的核心信条就会存续多久。