详细内容或原文请订阅后点击阅览
超级诈骗
当 ChatGPT 于 2022 年底向公众发布时，它让人们看到了生成式人工智能如何轻松地通过简单的提示生成大量类似人类的文本。这很快引起了犯罪分子的注意，他们很快开始使用大型语言模型来生成恶意电子邮件 - 包括无针对性的垃圾邮件和更复杂的邮件，......
来源:MIT Technology Review _人工智能许多组织已经在努力应对针对他们的大量网络攻击。随着越来越多的犯罪分子尝试碰运气，以及公开的生成式人工智能系统的能力不断提高，这个问题可能会变得更加严重。本月早些时候，人工智能公司 Anthropic 声称其开发并正在测试的模型 Mythos 发现了数千个严重漏洞，其中一些漏洞存在于每个主要操作系统和网络浏览器中。 Anthropic 表示，所有这些问题都已得到修补，但由于这些新功能，该公司推迟了该模型的发布，并成立了一个名为 Project Glasswing 的科技公司联盟，该联盟表示，该联盟将尝试将这些功能同时用于防御目的。
目前，网络安全研究人员乐观地认为，通过基本防御可以阻止较草率的攻击，并强调掌握软件更新和遵守网络安全协议的重要性。未来我们将如何抵御更复杂的攻击还不清楚。
好消息是人工智能也被用于防御。微软（微软只是密切关注此类威胁的众多企业之一）每天都会处理超过 100 万亿个被其人工智能系统标记为潜在恶意或可疑的信号。该公司表示，2024 年 4 月至 2025 年 4 月期间，它成功阻止了价值 40 亿美元的诈骗和欺诈交易，其中许多可能得到了人工智能内容的帮助。使此类攻击成为可能的技术也可能是我们在未来几年保证我们安全的最佳选择。