新闻快讯
< >

下一场网络军备赛是AI的较量:例如无人机!

E安全1月29日讯 美国陆军选择让蝎子计算机服务公司(Scorpion Computer Services)为其提供 AI 系统,以运行和保护美国陆军的无人机操作。该公司首席执行官沃尔特·奥布莱恩表示,这是一场军备赛,美军使用AI保护数据中心,而敌对方也必须利用 AI 进行对抗,就看谁的 AI 更聪明。

无人机操作系统AI升级

美国陆军2018年1月宣布与 Stryke Industries 及分包商 Scorpion Computer Services 签署合同,对无人机操作进行AI升级。将 AI 系统用于通用地面控制站将有助于进行无人机操作,并提供最强大的网络安全保护。

奥布莱恩表示,利用Scorpion公司的 AI 系统ScenGen(Scenario Generator),阿拉巴马州亨茨维尔红石兵工厂的操作人员能够控制“捕食者”无人机,例如 MQ-1C 灰鹰无人机,从而形成保护或进攻群。

MQ-1C“灰鹰”

通用原子能公司的 MQ-1C “灰鹰”无人机属于中空长航时无人机,是 MQ-1 “掠食者”无人机的升级版,配有 AGM-114 “地狱火”导弹和 GBU-44/B “蝰蛇打击”制导炸弹,可承载800磅的有效载荷,将支援炮兵、战场侦查部队、作战部队、陆军特种部队和空中搜索部队等完成任务。

下一场网络军备赛是AI的较量-E安全

奥布莱恩还指出,ScenGen 可用于规划作战,测试内部系统并将回归测试自动化。该系统的速度极快,每90分钟“思考”250年的人类工作。ScenGen 基本上会想到任何可能发生的情况。

但是,ScenGen 的最大影响可能是网络安全。AI 系统的复杂性和适应能力意味着,它们会迅速响应网络攻击,并识别和保护系统的每个潜在入口。如果对方利用更智能的 AI(也许是量子计算AI)入侵 ScenGen 这类系统,其结果将是灾难性的。目前还未发现这样的 AI 系统,但这只是时间问题,未来几十年可能会被开发出来。

不能让ScenGen系统源代码泄露

奥布莱恩表示,ScenGen 最好的数字保护方式就是自己本身,而部署其它安全措施可防止该系统落入敌手。ScenGen 的源代码永远不会连接到互联网,而是通过密钥严加保护。这类代码有特定用途,也就意味着能用于无人机不代表就能用在直升机上。

若未经 Scorpion 两名高级成员授权,任何人均不能移动 ScenGen 系统。也就是说,没有人可以决定移动该系统,并且红石兵工厂的物理安全有保障。

奥布莱恩指出,该系统未使用传统的编码语言(如C++或Java),而是使用自己发明的语言,而操作人员需要数年时间才能完全掌握,即使有人想控制该系统,但也不知道如何使用。不过随着技术的发展,ScenGen 终有一日也会面临淘汰,会被AI量子计算系统攻破。这类似于网络核武器,当网络战打响时,数学的较量将会决定输赢。

下一场网络军备赛是AI的较量-E安全

AI市场不断扩大或引发灾难性后果

P&S Market Research的一份研究报告显示,全球网络安全行业的 AI 市场已在私营部门不断实现增长,预计到2023年将达到182亿美元(约合人民币1163万元)。其增长的主要原因在于,私营部门使用威胁学习算法保护企业免遭网络攻击。

美国路易斯维尔大学副教授兼网络安全实验室主任罗曼·亚姆博尔斯基表示,即使提供网络安全的 AI 软件也会面临网络攻击风险。许多网络安全系统都可能面临攻击风险,包括入侵检测和反病毒软件系统,AI 同样可能存在安全风险。入侵检测系统可被训练偏离正常行为,这就是所谓的“行为漂移”(Behavioral Drift),还可禁用反病毒软件。

亚姆博尔斯基指出,有时此类威胁归咎于人为错误,例如在某些情况下,用户获许训练 AI 系统完成某些任务,但训练出错会带来灾难性后果,超级智能系统出现故障可能会引发灾难性事件没有恢复的可能性

E安全注:本文系E安全独家编译报道,转载请联系授权,并保留出处与链接,不得删减内容。联系方式:① 微信号zhu-geliang ②邮箱eapp@easyaq.com
@E安全,最专业的前沿网络安全媒体和产业服务平台,每日提供优质全球网络安全资讯与深度思考,欢迎关注微信公众号「E安全」(EAQapp),或登E安全门户网站www.easyaq.com , 查看更多精彩内容。