【导读】在由2018年“创响中国”活动组委会、黑龙江省发展和改革委员会、黑龙江省科学技术厅、黑龙江省教育厅指导,哈尔滨市人民政府主办,哈尔滨市发展和改革委员会、哈尔滨新区管理委员会等单位承办的“创响中国
△网络安全专家、中国工程院院士 方滨兴
我们先从一个宏观的角度来看,作为一个新技术和安全有什么样的关系?
当一个新技术用于安全时,它会存在着两种情况,一种是把新技术支撑安全,当然它可以做攻击,也可以做防御,这个新技术实际上是被安全领域来利用了。第二种是出现了一个新技术,它本身就会带来一个新的安全问题,也就是说它有可能是自身还不够安全就用了。我们有时候说它可能是一个潘多拉的盒子,把魔鬼放出来了,危害了其他的领域。我们可以把它看成四种情况:
第一种情况,它用于助力防守,助力攻击,内生安全,衍生安全。我们从这个视角来看看人工智能是什么情况。首先人工智能会助力防御,人工智能供给,样本攻击,威胁人类。这是国外开发的一个系统,叫做AI2,用人工智能方法来分析你是不是有攻击的情况,它通过大量的数据学习让人给它做一个判断,是不是攻击。这种知识就能够判断是否会出现新的攻击。最后得到了很好的效果,发现攻击的情况比过去提高了3倍。
第二种情况,人工智能助力于网络攻击,我们叫做自动化的网络攻击。在美国2013年就准备推这件事,他就说我要搞机器人的自动攻击。我们两年后要搞一次比赛,来干这个事儿。2016年就做了这个比赛,进入了初选,一年时间进行决赛。这是等于通过机器人,完全在人不干预的情况下自己去搞计算机的攻击,来看人工智能能够发挥什么样的作用。
在这里面一个核心是要编一个“网络推理”系统,也就是计算机一定要能够自动的去发现程序有没有漏洞可以被利用,如果可有的话,我们就想法自动生成一个程序攻击你,同时也防止我让