《AI安全创新法案》的拉锯战

5月，美国加利福尼亚州参议院以32∶1的悬殊表决通过参议员斯科特·维纳发起的《前沿人工智能模型安全可靠创新法案》。8月，加州众议院已经表决通过新法案。

监管空前严格，新法案推出多项AI模型开发者民事、行政和刑事责任机制，包括对AI模型一刀致命的“死亡开关”（kill switch，终止键）设置要求；AI模型开发者可能承担遭人滥用的天价罚金，甚至牢狱之灾。一时之间，硅谷大科技公司、学者激辩不休。

加州颁布新法

今年2月7日，加利福尼亚州参议员维纳提交加州参议院第1047号法案。“从根本上说，我希望人工智能取得成功，创新继续下去，但让我们先从安全风险前走出来。”他向外澄清，“这是一项轻触监管的法案，仅仅要求开发人员训练大型模型进行基本的安全评估，以识别重大风险并采取合理措施来减轻风险。”

新法案旨在规范高级人工智能模型的开发和使用，要求开发人员在训练AI模型之前作出安全决定，遵守各种安全要求，并报告AI安全事件。法案规定加州技术部内设立前沿模型司，负责监督人工智能模型，并对违反该法案的行为进行民事处罚。

法案要求加州的AI相关企业向前沿模型司披露是否符合AI新规，保证他们不会开发具有“危害能力”的AI模型，例如用来制造生化武器、核武器，或协助网络攻击。

首当其冲，新法案关注深度伪造等潜在危害，为大规模人工智能系统的开发设置多重安全护栏。法案首先将“人工智能模型”定义为基于机器的系统，可以作出影响真实或虚拟环境的预测、建议或决策，并可以制定信息或行动选项。

新法案并未一刀切，将所有人工智能系统纳入严审机制，而是对所规范的对象作出限制。

该法案要求开发人员在训练“涵盖的人工智能模型”之前评估安全性，确保模型安全无虞，不会对公共安全或福利构成风险。

法案规定强制报告义务，开发者必须在发生“人工智能安全事件”后72小时内通知监管部门加州技术部新设的前沿模型司。法案同时纳入保护和鼓励人工智能开发实体内部举报条款，确保员工有权举报公司违反法案的行为，不必担心遭到打击报复。

新法案一大亮点是其关机能力。当人工智能模型未获得积极的安全判定时，开发人员必须为此类模型实现关机功能。这意味着开发人员能够实现在极端情况下关闭或限制 AI模型的功能。值得一提的是，法案明确规定，对不遵守法定要求的组织进行处罚；违法实体面临禁令、高额罚款和其他处罚。加州总检察长将有权起诉与人工智能相关的损害和对公共安全的威胁。

引发各方争论不休

人工智能技术的飞速发展，引发了人们对新技术安全性的强烈担忧。

6月4日，13名现任和前任OpenAI员工发表公开信，警告说前沿人工智能公司“没有得到政府的充分监管，对人类构成严重风险”。强调人工智能企业受利益驱使缺乏有效监管，现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性。

加州新法案得到AI先驱辛顿（Geoffrey Hinton）和本吉奥（Yoshua Bengio）的大力支持，他们一直担心人工智能对人类生存造成威胁。

马斯克曾是ChatGPT制造商OpenAI的早期投资者，后来双方反目成仇。今年5月马斯克为旗下人工智能初创企业xAI公司在B轮融资中筹得60亿美元。马斯克公开称OpenAI为对人类的生存威胁，支持新法案。“这是一个艰难的决定，会让一些人不满，但综合考虑，我认为加州应该通过法案。在过去20多年里，我一直是AI监管的倡导者，就像我们监管任何对公众有潜在风险的产品和技术一样。”

英国《金融时报》6月爆料，加州新法案背后的推手是人工智能安全中心（CAIS），该中心由计算机科学家丹·亨德里克斯经营，他也是xAI公司的安全顾问。“这些竞争压力正在影响这些人工智能组织，这些组织基本上激励员工在安全方面偷工减料。”丹说，“加州法案现实合理，大多数人都希望强化监管。”

加州法案成为硅谷强烈反对焦点。Meta生成式AI首席产品经理拉奥（Arun Rao）表示，法案不可行，将终结大模型开源。他补充说：“随着公司和高薪员工的离开，摧毁人工智能行业和将公司赶出去的净税收影响可能达到数十亿美元。”

“如果有人想制定法规来扼杀创新，那他几乎不可能做得更好！”著名计算机科学家吴恩达说，“它为科幻小说中渲染的风险带来了开发者巨大的责任，激起了任何敢于创新的人的巨大恐惧。”

不少硅谷风险投资者和初创企业高管担心法案会给AI开发者带来无法承受的责任，他们无法保证自己的服务不被坏人滥用，企业被迫改变运营方式。

5月，加州商会抨击法案“模糊且不切实际”，将造成重大监管不确定性，阻碍创新。加州进步商会批评法案，指出加州对科技企业及其200亿美元税收的依赖。

科技游说团体TechNet 执行董事霍夫曼表示：“我们不应该对主要位于加州的行业进行过度监管，完全没有必要这样做，尤其是当我们谈论本州的预算赤字。”

面对批评，维纳反驳说：“这是科技行业，它不喜欢有任何监管，所以对我来说，有阻力一点也不奇怪。”他说外界报道并不完全准确，正在修订法案，澄清其范围。

修订后的法案规定，开源开发人员将不对“经过大量调整”的大模型负责，“终止开关”要求也不适用于开源模型。

“我是人工智能的坚定支持者，开源的坚定支持者。我不会以任何方式阻碍创新。”维纳直言，“但随着事态发展，人们要重视安全，这一点很重要。”

维纳表示自己更希望这个问题在联邦层面处理，“但正如我们在数据隐私、社交媒体、网络中立性方面所看到的那样，即使是在两党大力支持的技术问题上，国会采取行动非常困难，有时甚至无法采取行动”。

联邦立法难， 加州一马当先

彭博社强调：“在没有关于人工智能的联邦立法的情况下，美国各州越来越多地推动自己的法规。”6月10日《纽约时报》发文，讨论联邦陷入停滞，各州开始实施人工智能监管立法的新常态。

“加州立法机构已经帮助制定了美国科技消费者保护法。该州于 2020年通过一项隐私法，限制了用户数据的收集，并于2002年通过一项儿童安全法，为18岁以下儿童提供了上网保障。”

除最近强制出售或禁止社交媒体应用TikTok的立法外，尽管提出了多项提案，美国国会多年来尚未通过重大科技监管立法。

布鲁金斯学会学者约书亚·特纳观察：“尽管有一系列法案、框架和听证会，但美国国会未能通过任何立法来针对特定的人工智能风险，或广泛地确保人工智能系统的负责任开发和部署。”

前联邦贸易委员会人工智能顾问安巴·卡克 （Amba Kak） 表示：“国会无所作为令人失望，我们已经错过了几次采取行动的机会，而世界其他国家已经采取行动了。”

加州立法者填补了这一空白，率先推出了一系列监管法案，这些法案随即成为事实上的全美法规。像加州这样的科技大州经常为全国49州树立先例，这在很大程度上是因为49州立法者都知道，大公司要遵守跨州零散法规极具挑战性，合规成本无法承受。

2023年10月，伯克利大学一项包括加州选民在内的民意调查显示，73%受访者支持制定法律，打击误导性信息或深度伪造，并限制在竞选期间使用人工智能技术。哈里斯认为对人工智能生成的深度伪造的担忧是当下最重要的问题之一。

近几个月来，全美各州的立法者提出400项有关人工智能的新法律。加州以50项法案遥遥领先各州。

加州的优势正在于本州经济和科技一枝独秀，执政党偏好监管。谁人不知，福布斯全球人工智能公司50强中32家的所在地在加州，这里有OpenAI、Anthropic、Meta、xAI、Google和Microsoft等领先的人工智能前沿参与者。此外，加州的GDP占美国GDP的14.5%。

数十年来，民主党长期执政的加州，立法机构向来支持立法监管大公司，保护消费者，反对歧视，傲视全美。加州州长和议会多数为民主党人，不易受到联邦政治僵局和两极分化的影响，因此加州议会更容易通过法律。加州消费者隐私法案（CCPA）的成功，也让州议员更加自信。

“我们处于一个独特的位置，拥有如此多的科技创新者。”加州众议院议员乔希·洛文塔尔表示，“人们期望我们成为美国人工智能立法领域的领导者，我们也希望自己能成为领导者。”（作者系中国政法大学比较法学院讲师）