博客 AI & ML

网络安全和AI / ML:安全专家的经验教训

Joanne Lennon 产品营销高级经理 2018年11月14日发布

正如我最近在博客中强调的那样, 边缘网络的安全性如何?是AI& ML the Answer?因此,安全性仍然是所有企业的头等大事,最近,很少有新兴技术比人工智能(AI)和机器学习(ML)引起更多关注。

为了获得关于AI / ML在网络安全中的作用的坦诚实用的见解,我与Extreme的杰出系统工程师和常驻网络安全专家Ed Koehler进行了交谈,讨论了什么是真实的,什么不是真实的。安全方面的AI和ML。以下是我们Q的一瞥&A:

问题1:您如何定义机器学习和人工智能? 

这是一个很好的起点,因为ML和AI术语之间存在很多歧义和滥用。幸运的是,两者之间存在良好的二分法。

机器学习 主要基于统计机制和分析。 ML可以吸收大量重要信息,并运行数学算法并传播知识,以清楚地了解正在发生的事情。使用机器,我们人类可以根据所生成的数据做出决策。机器可以比人类处理更多的数据并更快地处理它,这就是为什么ML成为当今主流和广泛使用的原因。

人工智能另一方面,在剃刀的边缘。人工智能需要一个能够启动并基本上像人类一样学习其环境的系统。我认为,如今几乎不存在人工智能。甚至不 沃森 是人工智能。

问题2:提供AI / ML的知识库有多重要? 

很重要。信息广泛-有些信息可以很好地进行统计表示,而有些信息则不能。知识库的构建是至关重要的因素。信息的结构越窄,它就越适合ML和AI。

考虑下象棋…。它具有一组狭窄且定义明确的规则。 沃森可以扮演世界顶级国际象棋棋手并赢得比赛。原因是信息的知识库定义明确;轻松地对Watson进行“培训”。

相反,使用IBM Watson诊断癌前肿瘤 事实证明效果不佳。为什么?因为信息的知识库定义较少。即使是世界上最好的研究科学家和医生也无法提供所有答案。在这种环境下,科学家们比Watson可以更准确地诊断肿瘤,因为除了依靠数据之外,他们还利用自己的经验和直觉。这并不意味着Watson是无用的,只是意味着它没有达到该领域真正AI的定义。

关键在于,机器需要像人类一样进行训练,并且缺乏人类所拥有的本体的灵活性。想一想。我们只需进行最少的培训即可在广泛的环境之间有效切换。机器无法有效地做到这一点。他们需要接受有关问题或行动的培训。不要低估人类直觉的力量。

问题3:您认为机器学习和人工智能在网络安全中的作用吗? 

绝对。如今,在许多领域中,机器学习解决方案已得到有效使用。安全环境在不断变化和发展,并且ML解决方案在信息结构狭窄的区域中效果最佳。  

威胁检测系统&防火墙就是一个很好的例子。考虑一下欧洲某人被一种新方法入侵– 僵尸网络 或恶意软件。该事件被注册,签名被上传到云中,这样当美国某人被黑客入侵时,就已经发现了该漏洞。在这种情况下,云技术和ML就像人类免疫系统一样工作。识别威胁并做出反应。

另一个例子是 活动目录 (广告)。通过关联AD日志,您可以确定暴力枚举攻击,模拟,管理帐户特权搜索等。挑战在于AD信息的数量庞大,很难弄清什么是重要的。 ML可以消除很多垃圾,使人们可以专注于重要的数据集。我们称之为“可操作知识”。

问题4:是否对在网络安全中负面使用AI / ML有任何担忧?

是!我们已经看到了犯罪分子利用AI / ML解决方案的示例。如果我可以操纵安全系统所依据的知识库,那么我可以对其进行折衷。这就是为什么永远不要完全依赖技术的原因-您始终需要人类的参与。

考虑自动驾驶汽车和操纵知识库的危险。如果交通信号灯或停车标志突然从自动驾驶汽车的视野中消失,会发生什么?这可能会带来可怕的后果。但是,这些类型的事情可以而且确实会在网络世界中发生。您需要保持警惕,以保护知识库的完整性,并且永远不能使人员完全脱离循环。就像人类可以重新获得对汽车的控制一样,有时您需要人类重新获得对安全性的控制。

问题5:关于AI / ML,企业应该从哪里开始?

我的建议是双重的。首先,投资信息。我们谈论的90%是信息。您拥有的可以相互关联的信息越多越好。投资可以在开放生态系统中工作的系统。寻找具有端到端分析功能,应用遥测等的解决方案。

第二,投资安全专家。我们永远不会把人类排除在外。您不能仅依靠ML / AL,而是要投资于人类知识并为他们提供正确的工具。寻求雇用您没有的东西–渗透专家,风险评估专家等。

附加信息

要了解有关安全性和Extreme Networks解决方案的更多信息,请查看以下资源:

将最新故事直接发送到您的收件箱!

相关企业故事