新闻快讯
< >

DARPA教AI修复网络,学坏了怎么办?

E安全12月28日讯 2016年8月,美国国防部高级研究计划局(简称DARPA)主办了网络超级挑战赛(CGC),以证明人工智能(AI)能够凭借机器速度发现并修复软件中的缺陷。多位计算机安全大师前往美国拉斯维加斯参加此次比赛。一年之后,DARPA官员与竞赛获奖者们达成共识:在网络保护这一猫鼠游戏当中,AI正在迅速成为能够为国防部方面带来对抗优势的重要因素。

回顾:CGC超级挑战赛中,各支队伍进行了近12个小时的奋战,旨在比拼谁的自动化系统能够更好地识别并修复软件中的漏洞,其中冠军的奖金甚至高达200万美元(约合人民币1311万元)。

DARPA新主张:自我修复网络不再是梦想-E安全

一年时间,AI技术迅速崛起

一年之后,DARPA官员与竞赛获奖者们达成共识:在网络保护这一猫鼠游戏当中,AI正在迅速成为能够为国防部方面带来对抗优势的重要因素。

匹兹堡初创企业ForAllSecure公司CEO、竞赛胜方领队大卫-布拉姆雷指出,“目前的计算机安全性问题太过复杂,涉及多个流程。下载补丁、决定是否安装并确保其不会对其它任务造成影响。我们需要缩短人为参与度,让这些操作能够在数分钟内完成,不再像过去那样耗费数小时甚至数天。”

在发起这次网络竞赛时,DARPA方面要求各位研究人员设想通过机器学习技术实现网络安全的增强与赋能。实际上美国国防以外的行业也一直存在着相关呼吁之声。

哥伦比亚大学国际与公共事务学院研究员杰森-希利在2016年美国春季众议院军事委员会听证会中强调,“股票交易已经由算法负责控制,人力交易员在很大程度上已经显得多余。希望这样的作法被引入到未来网络冲突的处理当中?如果能够实现,将会对美国网络司令部的人员配置、项目以及美国网络防御的整个体系带来巨大的影响”。

DARPA新主张:自我修复网络不再是梦想-E安全

在DARPA的这次网络竞赛当中,各获胜团队纷纷拿出了立足AI实现的攻击与防御工具。他们教导机器如何快速准确地攻克其它团队系统当中的已知防御措施,并利用机器智能快速将适当补丁部署至自己的系统当中。

DARPA信息创新办公室项目经理达斯汀-弗雷泽表示,AI在网络场景中作用的可能性在本次竞赛开始之前一直是个“悬而未决的难题”。此次竞赛的结果表明,人类正一步步迈向利用自动化手段发现漏洞并找到补救措施的光明彼岸。

如果情况真是如此,那么这一切可能会给军事网络运营机构产生深远的思路性影响。必须强调的是,面对目前迅速演变的威胁形势,军事网络运营机构往往疲于追赶而无法占得先机。军事领导者希望构建起具备自我修复能力的网络体系。

AI技术目前存在的难题

弗雷泽描述了2016年这次竞赛当中各参赛队伍所面对的典型场景。在这一场景当中,运营人员检测到软件漏洞,并利用其攻击对手的系统。对方部署一款补丁,而攻击方则在下一轮行动中识别此补丁并设计出对应的后续利用手段。

弗雷泽表示,“在20分钟之内,我们就观察到发现漏洞、部署补丁、攻克补丁、反攻克等一系列行动。”就当前安全形势来讲,“如果手动操作,这种交互可能需要数天、数周甚至数个月时间才可能完成。”

但这并不是说AI很快就将重塑整个军事网络。研究人员们指出,尽管DARPA挑战赛已经过去了一年多,但他们仍然需要取得进一步重大进展才有可能将机器学习技术作为一类大规模网络资产加以运营。

DARPA新主张:自我修复网络不再是梦想-E安全

考虑AI被反利用的可能性

布拉姆利警告称,任何在网络环境中使用AI作为军事用途的机构都必须考虑到敌对方使用反AI方法的可能性:如果我们的计算机能够学习,那么敌对方可能会以此为突破口对其进行误导。他进一步补充称,“如果网络安全开始转向AI驱动,恶意分子就会转而攻击AI并向其教授一些邪恶的技能。如果将控制权交给AI,在其学习到邪恶技能之后,很容易引发无法控制的糟糕局面。

AI在特定领域并不能发挥优势

除此之外,AI在某些领域也很难真正发挥自己的学习能力。举例来说,计算机能够通过学习了解如何发现遭到破坏的事物,但其很难发现面临潜在破坏风险的事物。弗雷泽表示,“一旦其中存在某些类似于逻辑错误的状况(特别是那些难以量化的、非破坏性状况),自动化方案往往就无法准确发现威胁。另外,在某一应用程序当中可以接受的行为,在另一应用程序当中有可能代表着非常严重的缺陷,这具体取决于实际情境。人类直觉能够很好地解决这些问题,但机器则不行。

尽管存在上述障碍,但研究人员确实看到了以自动化方式解决网络安全领域内一些日常工作的可能性与发展潜力。DARPA目前还没有公布关于AI网络保护应用的正式计划,不过随着人们对于商业化AI方案接受程度的日益提升,相信DARPA以及来自其它部门与领域的研究人员们将继续探索这种值得关注的可能性。

E安全注:本文系E安全独家编译报道,转载请联系授权,并保留出处与链接,不得删减内容。联系方式:① 微信号zhu-geliang ②邮箱eapp@easyaq.com
@E安全,最专业的前沿网络安全媒体和产业服务平台,每日提供优质全球网络安全资讯与深度思考,欢迎关注微信公众号「E安全」(EAQapp),或登E安全门户网站www.easyaq.com , 查看更多精彩内容。