Forbes最新消息,随着人工智能(AI)成为IT领域中更大的一部分,网络安全正在成为AI的战场。网络安全方面的最新,最激进的攻击现在正利用AI逃避传统的安全防御并对抗对手的反应。攻击者和防御者之间的猫捉老鼠游戏正在朝着不同的层次发展,在此层次上,人工智能正在增强人的元素。网络安全的未来可能是人工智能与人工智能。
攻击者可以在网络安全攻击中使用AI来逃避检测(躲避),隐藏在许多地方而不被检测(普遍)并自动适应对策(自适应).IBM Research正在利用其专业知识来帮助构建抵御所有人攻击的工具并保护数据隐私。
随着企业尝试AI服务,支持AI的机器学习模型变得非常重要,以至于模型本身就是入侵攻击的目标。这些机器学习模型通常使用数小时和数天的计算时间来构建,并且可能包含专有信息,使其有价值并成为盗窃的目标。模型可能因为其货币价值或知识产权而被盗,或者为了设计模型的对策而被盗。通过“中毒”训练模型或部署的神经网络,可以使用对策来使基于AI的系统陷入错误行为。如果AI模型对于驾驶无人驾驶汽车至关重要并且对其进行黑客入侵会使乘员的安全受到威胁,那么这将很危险。训练有素的AI模型也可能以其他方式被破坏/利用来设计对感兴趣对象进行错误分类的方法。攻击者可以在网络攻击中使用AI掩盖攻击。 IBM Research在安全AI方面的工作的一个目标是,在实际的黑帽(犯罪分子)发动攻击之前,想象可能的攻击并制定防御策略。 IBM创建的一个程序是Adversarial Robust Toolbox(ART),这是一种开放源代码的工具,可供AI和软件社区用于此类研究。
IBM Research一直在研究创建和传播复杂而隐秘的恶意软件的方法,这些恶意软件只会在发现自己位于所需位置后才发现/提取自身,从而使其检测不到,直到为时已晚。
随着IBM研究人员对AI和安全性的关注,他们决定将这种攻击作为其对策研究的一部分。该恶意软件称为DeepLo​​cker。该恶意软件包括加密的有效负载,但不包括解密该恶意软件的密钥。当恶意软件确定已达到其特定目标时,将派生密钥并激活恶意软件。对于所有其他防御和所有其他潜在目标,它看起来是良性的,因此将无法被发现。通过使用AI,很容易大规模开发针对每个特定目标定制的此类恶意软件。确定目标可能会使用神经网络,通过使用图像识别图像或识别语音或噪音来识别正确的目的地。
IBM Research调查的另一个领域是提供用于差异隐私的工具。差异安全性会在数据库中添加一些随机偏见,使数据匿名,但不会破坏结果。虽然较早的对抗性攻击模式具有算法性且更易于检测,但新的攻击方式却增加了AI功能,例如自然语言处理和更自然的人机交互,从而使恶意软件更具回避性,渗透性和可扩展性。该恶意软件将使用AI来保持不断变化的形式,以便更加逃避和愚弄常见的检测技术和规则。自动化技术可以使恶意软件更具可扩展性,并且与AI结合可以在企业内部横向移动并攻击目标,而无需人工干预。
在网络安全攻击中使用AI可能会变得更加普遍。可以设计出更好的垃圾邮件,从而避免通过使用自然语言处理来制作更多类似人的邮件,从而将其作为鱼叉式网络钓鱼攻击的形式,而不是对其进行检测或个性化。此外,恶意软件可以足够聪明地了解何时将其放置在蜜罐或沙箱中,并且可以避免恶意执行看起来更加良性,并且不会提供安全防御措施。
对抗性AI通过使用AI增强的聊天机器人来攻击人为元素,从而通过类似于人的仿真来掩盖攻击。这可能会升级到以AI为基础的语音合成功能,可能使人们误以为他们正在与组织中的真实人打交道。
在网络攻击中使用AI是在旨在愚弄人类的情况下AI应用的连续性的一部分。例如,Deepfakes视频和图像可用于社会工程,并且会削弱我们对各种媒体的信任。文本是使用诸如OpenAI GPT-2之类的程序为AI带来的又一个前沿机会,该程序可以生成伪造的文本消息,这些文本消息看起来更人性化并且难以检测。
为了防御对抗攻击,可以使用GLTR(http://gltr.io/)工具来检测自动生成的文本,方法是使用完全相同的机器学习技术来创建伪造的文本,以确定该文本是否由ML创建。这是使用AI防御AI的一个示例。但这是我们可以赢得的战争吗?随着AI变得越来越复杂和模型变得越来越复杂,检测变得越来越困难。寻找可以区分人类和AI的标记将变得越来越困难,并且可能需要特定的水印,数字签名或其他指纹模式才能识别真实内容。
在网络攻击中使用AI使得失败更加困难,因为虽然算法代码可以更轻松地与攻击模式匹配,但利用机器学习进行的攻击却很难预测,因为它的可预测性较低。这就是为什么您需要机器学习防御来抵抗机器学习攻击的原因。
网络安全的未来将需要利用AI来应对坏人的AI。在网络安全中使用AI非常重要,以至于DARPA在2016年创建并运行了Cyber​​ Grand Challenge计划,以将针对防御性AI的AI攻击纳入战斗中,以查看哪种AI获胜。网络大挑战赛的获胜者利用这次机会根据挑战中使用的技术来建立安全业务。
IBM Research和其他安全研究人员正在通过想象攻击并创建防御和反攻来制定策略。这是安全投资的关键领域,因为防御需要与攻击保持同步。网络安全中的AI与AI博弈才刚刚开始。

头像

By szf