人工智能的治理与创新发展

信息系统安全性的问题主要来自大型软件设计漏洞或者缺陷，进而产生安全问题。中国科学院院士张钹认为，发展人工智能技术时出现了全新的安全问题。这个安全问题主要来源于算法本身的不安全。因此，必须对算法做彻底的改变，才能完全解决安全问题。之所以这么重视人工智能的安全问题，主要原因是它的安全问题更加难以克服。人工智能的安全治理很重要，可以防止人工智能技术被误用，主要是无意识的误用，因为人工智能算法本身带来的不安全问题是很难被预先发现的。如果我们在使用的过程中不注意这个问题，人工智能就会被无意识地错用，造成严重后果。

发展第三代人工智能是一项长期而艰巨的任务，人工智能的安全和治理也是长期任务。解决人工智能安全性问题必须两手抓，一手抓治理，一手抓创新发展，解决人工智能算法本身不安全的问题。