机器学习只是扩展不是替代

recco
当恶意软件的特征明确并且足够收敛,机器学习的效率还是非常明显的。尤其是环境越稳定,机器学习对异常行为的识别就准确。而且,并非所有的异常行为都是恶意行为。综上所述,机器学习在安全领域并非有人想象的那样魔力无穷,只能是现有安全方法、系统和团队的能力扩展,而不是替代。

2345截图20220818151609.png

与业外人士认为的相反,机器学习(ML)并非神奇的安全解药。一般来说,ML只适用于某特定问题,并有大量可用数据集,且具有高度可重复性或可预测性的问题。大多数安全问题既不需要ML也无法从ML中受益。许多安全专家,包括谷歌的顶级技术人员,均建议在解决复杂问题时,在尝试ML之前先尽量尝试其他的方法。

ML是一个广泛的统计技术集合,它允许我们训练计算机来预估一个问题的答案。一个设计良好的ML系统,可以“解锁”在通常情况下无法获得的洞察力,前提是要适用于特定的问题类型。

一个ML成功应用的例子是自然语言处理(NLP),它使得计算机能够“理解”人类语言,包括约定俗成的习语和隐含的喻义。网络安全则在许多方面与语言处理类似,如攻击者使用的许多技术名词都有着与本源大不相同的含义,像那些拼写或发音相同但含义不同的单词。并且,同样的技术既可用于攻击也可用于防御。

不同的机构,其IT环境在体系结构、业务优先级和风险容忍度等方面各不相同。试图建立一种可以解决所有场景中的安全算法是不可能的。ML在安全领域有几个应用较为成功的例子,都是针对一种非常具体的问题。如垃圾邮件过滤、抗D或反恶意爬虫及恶意软件检测等。

垃圾进,垃圾出

ML最大的挑战是需要一个庞大且有正确标记的数据集来进行训练。例如,要建立一个猫的图片识别模型,则需要许多标记正确的“猫”的照片和许多标有“非猫”的图片。如果没有足够的图片或是有不准确的标签,模型就无法达到理想的效果。

一个广为人知的ML监督学习的场景是恶意软件检测。很多EDR/EPP产品使用ML来标记大量的恶意样本和良性样本,以训练出识别恶意软件的模型。这些模型可以正确识别出许多想尽办法以规避签名检测的恶意软件。但我们知道,误报和漏报仍然存在。

ML可以发现那些签名无法捕获的恶意软件,但也可能会错过签名能够捕获的恶意程序。因此,现在的EDR/EPP等端点安全工具,普遍使用将ML和基于签名的技术相结合的方法,以实现最佳的检测效果。

误报的问题

即使ML的识别模型构造得很好,但在解释其检测结果时也并非易事。因为其输出的结果是一个概率,一个可能性。比如,“80%的猫(或恶意软件)”。这种不确定性是人工智能模型固有的,而且难以解释为什么是80%。但80%就可以了吗?

如果想要更高的概率,就需要不断的调优,但很少有用户能够做得到。为了将概率形成决策,就只能设定某个阈值,将大于某个数值(如90%)等同于“是”。但这显然会产生误报,如果判断的数量大于10万的话,即使是90%的正确率那也是1万的误报量。

漏报的问题

我们讨厌误报,因为它浪费大量的时间和精力。但我们可能更不喜欢漏报,因为它意味着丝毫没有感觉到威胁。所以,在误报和漏报之间存在一种平衡关系,而且这个平衡需要根据用户环境不断的进行调谐。因此,不同的用户不同的业务,其最佳平衡点是不同的。

结语

当恶意软件的特征明确并且足够收敛,机器学习的效率还是非常明显的。尤其是环境越稳定,机器学习对异常行为的识别就准确。而且,并非所有的异常行为都是恶意行为。综上所述,机器学习在安全领域并非有人想象的那样魔力无穷,只能是现有安全方法、系统和团队的能力扩展,而不是替代。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论