真品网

人工智能安全之我见

□ 时间：2019-2-1 □ 来源： 昆仑策

   【导读】在由2018年“创响中国”活动组委会、黑龙江省发展和改革委员会、黑龙江省科学技术厅、黑龙江省教育厅指导，哈尔滨市人民政府主办，哈尔滨市发展和改革委员会、哈尔滨新区管理委员会等单位承办的“创响中国


       △网络安全专家、中国工程院院士  方滨兴

    我们先从一个宏观的角度来看，作为一个新技术和安全有什么样的关系？ 

    当一个新技术用于安全时，它会存在着两种情况，一种是把新技术支撑安全，当然它可以做攻击，也可以做防御，这个新技术实际上是被安全领域来利用了。第二种是出现了一个新技术，它本身就会带来一个新的安全问题，也就是说它有可能是自身还不够安全就用了。我们有时候说它可能是一个潘多拉的盒子，把魔鬼放出来了，危害了其他的领域。我们可以把它看成四种情况： 

    第一种情况，它用于助力防守，助力攻击，内生安全，衍生安全。我们从这个视角来看看人工智能是什么情况。首先人工智能会助力防御，人工智能供给，样本攻击，威胁人类。这是国外开发的一个系统，叫做AI2，用人工智能方法来分析你是不是有攻击的情况，它通过大量的数据学习让人给它做一个判断，是不是攻击。这种知识就能够判断是否会出现新的攻击。最后得到了很好的效果，发现攻击的情况比过去提高了3倍。

    第二种情况，人工智能助力于网络攻击，我们叫做自动化的网络攻击。在美国2013年就准备推这件事，他就说我要搞机器人的自动攻击。我们两年后要搞一次比赛，来干这个事儿。2016年就做了这个比赛，进入了初选，一年时间进行决赛。这是等于通过机器人，完全在人不干预的情况下自己去搞计算机的攻击，来看人工智能能够发挥什么样的作用。

    在这里面一个核心是要编一个“网络推理”系统，也就是计算机一定要能够自动的去发现程序有没有漏洞可以被利用，如果可有的话，我们就想法自动生成一个程序攻击你，同时也防止我让

资讯作者： 源信息发布时间： 2019/2/1 编辑:金阳