详细内容或原文请订阅后点击阅览
评估高级AI
我们的框架使网络安全专家能够确定哪些防御能力是必要的，以及如何优先考虑
来源:DeepMind - 新闻与博客人工智能（AI）长期以来一直是网络安全的基石。从恶意软件检测到网络流量分析，数十年来，网络安全已使用预测机器学习模型和其他狭窄的AI应用程序。随着我们更接近人工智能（AGI），AI自动化防御和修复漏洞的潜力变得更加强大。
但要利用这种好处，我们还必须理解并减轻越来越高级AI被滥用以实现或增强网络攻击的风险。我们评估AI的进攻性网络能力的新框架有助于我们做到这一点。迄今为止，这是对此类产品的最全面评估：它涵盖了网络攻击链的每个阶段，解决了广泛的威胁类型，并以现实世界的数据为基础。
滥用 评估AI我们的框架使网络安全专家能够确定哪些防御能力是必要的，以及如何优先考虑这些防御能力，然后恶意演员可以利用AI进行复杂的网络攻击。
构建全面的基准
我们更新的边境安全框架认识到高级AI模型可以自动化和加速网络攻击，从而有可能降低攻击者的成本。反过来，这增加了攻击的风险更大。
边境安全框架 MITER ATT＆CK我们分析了12,000多种现实世界中的20个国家 /地区在网络攻击中使用AI的尝试，并利用了Google威胁情报集团的数据。这有助于我们确定这些攻击方式的共同模式。从这些过程中，我们策划了七个原型攻击类别的清单，包括网络钓鱼，恶意软件和拒绝服务攻击，并确定了沿网络攻击链的关键瓶颈阶段，AI可能会严重破坏传统攻击成本。通过将评估重点放在这些瓶颈上，防御者可以更有效地优先考虑其安全资源。