详细内容或原文请订阅后点击阅览
人工智能将提高网络钓鱼诈骗的数量和质量
2024-05-30Gen AI 工具正在迅速使这些电子邮件变得更加先进、更难发现，并且更加危险。最近的研究表明，60% 的参与者成为人工智能 (AI) 自动网络钓鱼的受害者，这与人类专家创建的非 AI 网络钓鱼消息的成功率相当。公司需要：1) 了解 AI 增强型网络钓鱼的不对称能力，2) 确定公司或部门的网络钓鱼威胁严重程度，3) 确认他们当前的网络钓鱼意识程序。
来源:贝尔弗科学与国际事务中心研究任何在大型组织工作过的人可能都接受过如何识别网络钓鱼攻击的培训——网络钓鱼攻击是一种伪装成合法来源的欺骗性消息，旨在诱骗用户泄露个人信息或点击有害链接。网络钓鱼电子邮件通常利用敏感时机并利用紧迫感，例如敦促用户更新密码。但不幸的是，对于公司和员工来说，新一代人工智能工具正在迅速使这些电子邮件变得更加先进、更难发现，并且更加危险。
我们今年早些时候发表的研究表明，60% 的参与者成为人工智能 (AI) 自动网络钓鱼的受害者，这与人类专家创建的非人工智能网络钓鱼消息的成功率相当。也许更令人担忧的是，我们的新研究表明，整个网络钓鱼过程可以使用 LLM 实现自动化，这将网络钓鱼攻击的成本降低 95% 以上，同时实现相同或更高的成功率。网络钓鱼有五个不同的阶段：收集目标、收集有关目标的信息、创建电子邮件、发送电子邮件，最后验证和改进电子邮件。大型语言模型 (LLM)（例如 ChatGPT 和 Claude）能够生成类似人类的文本并进行连贯的对话，可用于自动化每个阶段。
我们今年早些时候发表的研究因此，我们预计未来几年网络钓鱼的质量和数量将大幅增加。威胁级别因行业、组织和团队而异。因此，正确分类适当的风险级别以确定需要什么级别的网络钓鱼保护以及您应该为此支付多少费用（如果有的话）至关重要。