人工智能发展挑战法律与人类

李文涛

摘要：以人工智能为代表的新科技已经深刻地改变我们的生活、生产和工作方式，人工智能既给我们带来了无尽的方便和快捷，又为人类社会的发展带来了许多的不确定性。深深影响着我们生活的方方面面，如何看待人和机器的关系、人工智能与法律的关系、人工智能未来的发展方向，这些问题都需要我们从现在就开始思考和研究，具体而言，人工智能不断模糊着机器人和人的界限，带来了很多复杂的伦理、法律和安全问题，人工智能时代的到来对立法、执法、司法等各个方面都带来了新的挑战，人类未来的生存和生活也将随之改变。

关键词：人工智能发展；立法挑战；人类生存

1 人工智能

人工智能，英文缩写为 AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是相对于人的智能而言的。正是由于意识是一种特殊的物质运动形式，所以根据控制论理论，运用功能模拟的方法，制造电脑模拟人脑的部分功能，把人的部分智能活动机械化，叫人工智能。人工智能的本质是对人思维的信息过程的模拟，是人的智能的物化。人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，目前的人工智能只是一种初级的人工智能，它依然没能摆脱机器的定义，它的程序由人来编写，它的活动受人操控，对于这种低级别的弱人工智能，其给法律带来的冲击和挑战是极小的，但科技的发展是肯定的，未来的人工智能一定是超人工智能，他们有自己的思维，有自己独特的价值判断，他们是物质社会的产物，他们具有社会性。超人工智能时代的到来给人类带来的冲击和挑战才是我们应该思考的问题。

2 人工智能带来的问题

在科学技术快速发展的今天，各种新科技的出现层出不穷，人类自身的秘密开始一层一层的揭开。我们发展科技的目的是将来的人工智能机器能将我们从繁重的体力劳动和脑力劳动中解放出来，例如机器人做家务、带孩子、做司机、秘书等等一系列我们不愿意花太多精力或者有太多限制条件的工作。然而，机器人的过度发展强大，人类在很多的方面都不如机器人，反而退化成为机器人的奴隶？他们会不会有一天无法忍受人类对他们的“剥削”和“压迫”，挑战人类的统治？很多的科幻作品和电影中都预言了这样的场景，未来的智能机器人和人类争夺有限的地球资源，并最终打败人类，成为新的地球统治者。这也正是绝大多数人对人工智能的发展忧忡忡的原因。 人工智能的发展，将会也必然会超出我们人类的控制，机器人的定义将会从工具、机器变成“超人”，机器人将拥有自己的思维，对这个世界有着自己的认识。我们在进行发明创造的同时，担心被我们所发明的物质所毁灭。科技发展本身并不是问题，人类如何运用自己掌握的技术，并确保自己的技术的安全性才是问题的关键。因此我们在弱人工智能时代将超人工智能提上议程，如何通过法律的完善既能保证人工智能为我们人类的发展做出贡献，又能利用法律来维护我们自身的权益。因为我们最大的敌人不是我们发明的技术，而是我们自己本身。

3 人工智能对立法带来的挑战

从事科学研究是公民的权利和自由，寻求科技的创新发展也是人类不断进化的标志，各国的法律都对此予以保护。同时法律对科研自由有着严格的界限，只保护那些有利于人类进步事业的科学技术。我们无法预知人工智能是否符合法律上的标准。因为科学技术具有极强的不确定性，会带来很大的风险。机器人是否具有法律上的人格？是否享有人类的某些权利呢？答案是否定的，因为在弱人工智能时代，机器人的定义就是人类发明创造的一种工具，人与动物与植物最根本的差别就是人类的社会性，而弱人工智能只是按照人类设定好的程序执行他们的任务，所以把弱人工智能归纳到人的范围，就是一种超越人类发展的概念错误，弱人工智能时代机器人都不具备人的主体资格，更不用说承担法律责任了。但是超人工智能时代机器人有自己的思维，有自己的价值判断，他们是否能享有人类的权利？他们能否拥有被宪法承认的主体资格？对于这个问题， 首先需要明白法律人格指的是法律关系主体维持和行使法律權利，服从法律义务和责任的条件。要成为法律上的独立人格者必须具备两个条件，一是社会存在， 这意味着能够独立自主地作出意思表示，具备独立的权利能力和行为能力，并能够为自己的行为承担责任。人脑所以具有思维的特殊机能，决不是由单独的生物学运动造成的，而是长期的社会实践的结果。正如马克思和恩格斯指出的：“意识一开始就是社会的产物，而且只要人们还存在着，它就仍然是这种产物。”二是法律的确认。自然人、法人及其他非法人组织据此都具有独立的法律人格。超人工智能时代机器人能够做出自己的意思表示，可以独立的为自己的行为承担责任， 所以超人工智能时代机器人符合法律人格的要求，这种超人工智能在一定程度上就是人，法律总是滞后于社会的发展， 但这并不意味着我们不能采取相应的预防措施，所以我们以后的立法工作就不应该仅仅局限于目前我们已经认识到的问题，而更多地应该对未来的人类发展在立法上设计一些预防条款，同时我们目前的立法不能也不应该阻碍科学技术的发展。这就需要我们法律人共同迎接新时代带来的挑战。

4 人工智能对司法程序带来的冲击

司法程序，又称诉讼程序，是指司法权行使时所必须遵循的法定的方式、方法、顺序及步骤等的总称，包括起诉程序、审判程序等不同的内容。司法程序是司法权的构成要素之一，程序改革在司法改革中占有极其重要的地位，发挥着十分独特的作用。

我之前所说的，超人工智能时代的机器人可以由宪法赋予其主体资格，可以独立承担责任，他们有自己的思维方式，他们完全了解人类的历史文明传承，它们对事物有着自己的判断价值标准，那么以后的司法机关的职位和公务履职是不是也可以由他们来担任，而他们无论从记忆力还是法律知识的储备，都要比人类更胜一筹，在同等竞争中人类将会一败涂地，以后的司法程序都不用了，直接输入超人工智能机器人的脑中，他们按照既定的程序行使权力。

5 人工智能给人类生存带来的冲击

超人工智能时代的到来是科学发展的必然结果，同时超人工智能时代的到来对于人类社会就是一场灾难，他们无论从智商还是身体素质都比人类强大的太多，到时候会造成这样两种现象：第一种是超人工智能时代，由于机器人比人类强大太多，机器人不满足于作为人类的辅助者，他们奋起反抗并依靠着强大的科技力量毁灭人类，并最终统治地球，人类灭绝；第二种情况是人类逐渐地认识到科技的发展所带来的好处，并想通过科技改变人类，将新型的科技应运到人的身上，人类自己变成了机器人。这两种情况都不是我想看到的，这样的机器文明也不是人类发展的最终目的。如何避免这种世纪难题，也许法律能给我们一些答案。

6 人工智能何去何从

对于人工智能引發我们产生的思考以及科技发展将带给我们负面的影响，这是人类发展的必经过程，我们恐惧的不是科学技术，而是人类作为统治者将面临自己无法控制的局面，说到底目前的人工智能所引发的法律思考都是为了维护人类统治的必要，既然我们是为了维护人类的统治地位，那我们就有必要采取风险措施，面对未来要有预防性的措施，面对不确定要有因应性制度的保护。为了应对未来超人工智能时代我们应当调整规范构成的要件，应以人工智能的发展与规制为主题，既要确保科学技术的发展不受到法律的重重限制，又不让科技发展到无法控制，形成制度性、法治化的社会治理体系，包括以安全为核心的法律价值目标、以伦理为先导的社会规范调控体系和以技术、法律为主导的风险控制机制。当前应尽快出台“国家发展战略”，及时制定“机器人伦理章程”，适时进行机器人专门立法。对机器的研发需要一定的透明公开机制。为科技发展制定红线，确保科技的发展不越过红线，是安全的，对人类有利的。

个人觉得法律规制和科学技术发展本身就是就是互相矛盾的，在科技迅速发展的今天，可控制性与科技发展本身就是个伪命题，人类既想享受科学技术带给自己的好处，又对未来的不可控性有着深深的恐惧感，这种不安全感正是人类诞生与生俱来的，对未知的恐惧使人类在前进中曲折，也正是因为人性，才让这个世界丰富，如果一味的发展科技，未来的一切都由制度框架了人，那么最终人类发展了科技，人类也因科技而毁灭，毕竟所有科技的发展 都应该回归人性。

参考文献：

[1] 梁俊毅.人工智能的发展及其认知意义[J].大众科技，2011（03）.

（作者单位：西北政法大学刑事法学院）