网络安全和人工智能:2025 年会带来什么?

在恶意行为者的手中,人工智能工具可以增强各种诈骗、虚假宣传活动和其他威胁的规模和严重性

来源:WeLiveSecurity _恶意软件

数字安全

网络安全与人工智能:2025 年会发生什么?

在恶意行为者的手中,人工智能工具可以增强各种诈骗、虚假宣传活动和其他威胁的规模和严重性

2025 年 1 月 15 日 • ,5 分钟阅读

2025 年 1 月 15 日 5 分钟阅读

在过去的一年里,人工智能加速了网络安全军备竞赛。未来 12 个月也不会有喘息的机会。这对企业网络安全团队及其雇主以及日常网络用户都有重大影响。虽然人工智能技术可以帮助防御者提高安全性,但恶意行为者却在不遗余力地利用人工智能工具,因此我们可以预见诈骗、社会工程、账户欺诈、虚假信息和其他威胁将会增加。

帮助防御者提高安全性

以下是 2025 年你可以期待的事情。

需要注意什么

2024 年初,英国国家网络安全中心 (NCSC) 警告称,人工智能已经被各种类型的威胁行为者使用,并且“几乎肯定会在未来两年内增加网络攻击的数量和影响”。 这种威胁在社会工程的背景下最为严重,其中生成式人工智能 (GenAI) 可以帮助恶意行为者以完美的当地语言制作极具说服力的活动。 在侦察中,人工智能可以自动大规模识别易受攻击的资产。

警告

虽然这些趋势肯定会持续到 2025 年,但我们也可能会看到 AI 用于:

  • 身份验证绕过:Deepfake 技术用于帮助欺诈者在自拍和基于视频的检查中冒充客户以创建新帐户和访问帐户。
  • 身份验证绕过:
  • 商业电子邮件泄露 (BEC):AI 再次用于社会工程,但这次是为了诱骗公司收件人将资金汇入欺诈者控制的账户。 Deepfake 音频和视频也可用于在电话和虚拟会议中冒充 CEO 和其他高级领导。
  • 商业电子邮件泄露 (BEC): Deepfake 音频 冒充诈骗: 注意