未雨绸缪的防范
给人工智能戴上“紧箍咒”
霍金曾这样评价人工智能：“它既可能成为人类迄今发生过的最好的事，也可能成为最糟糕的事”。我们既不能盲目乐观，也不能因噎废食，必须及早给未来人工智能的发展套上必要的安全、伦理等方面的“紧箍咒”，同时又不能阻碍技术创新和人类社会进步的步伐。
从技术安全角度建立共同遵守的发展准则。根据人工智能可预见的风险，建立世界范围内的人工智能发展准则，对研究范围、内容、目的、用途等各个方面进行规范，确保安全、可控地发展人工智能。比如，对于智能系统到底应该实现到什么样的自主程度，赋予其多大的自主权利以及哪些方面不能实现等进行明确限制。2017年1月，在美国加利福尼亚州举办的阿西洛马人工智能会议上，近千名人工智能和机器人领域专家已联合签署了《阿西洛马人工智能23条原则》，呼吁世界在发展人工智能时共同遵守，成为人工智能安全、有序发展的良好开端。
从道德伦理角度建立科学严格的评估机制。人工智能主要是基于算法，而算法在本质上是“以数学方式或计算机代码表达的意见”，是设计者、开发者的主观创造，有可能将自己的偏见、价值观嵌入算法系统，制造出不符合社会道德规范的智能机器，这就需要对其进行严格评估以确保安全。2016年12月，美国电气和电子工程师协会启动了人工智能伦理工程，提出对嵌入智能系统的规范和价值进行评估，以确定其是否和现实中的道德价值体系相一致。我国在《新一代人工智能发展规划》中也提出“建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。
从规范运用角度建立具有法律约束力的普遍性制度条约。任何一种先进技术能否产生威胁，主要看使用者出于何种目的、如何运用。诚然，面对人工智能的巨大优势和潜在利益，特别是在涉及国家安全领域方面，直接禁止使用人工智能技术是不现实的。这正如国际上禁止或限制使用“致命性自主武器系统”一样,至今无法取得任何实质性进展。因此，应呼吁建立具有法律约束力的国际性条约，对某些特殊功能的智能系统风险和技术扩散等进行规范和预防。
