详细内容或原文请订阅后点击阅览
科学家刚刚构建了一种强大的人工智能计算机蠕虫，它可以在传播时学习
据制作它的研究人员称，这个原型可以帮助世界为人工智能恶意软件威胁做好准备
来源:科学美国人一项新研究表明，由易于访问的人工智能模型驱动的计算机恶意软件已经出现——一位专家表示，这项研究为我们敲响了“警钟”，要求我们更加严肃地对待人工智能带来的网络安全风险。
在这项研究中，研究人员创建了一种由人工智能驱动的计算机“蠕虫”，旨在在设备之间进行攻击和传播，揭示了一种威胁，他们表示，世界尚未做好应对的准备。
“我们的结果表明，自我维持的人工智能驱动的网络威胁不再是理论上的，”研究人员写道。这篇论文首先由《纽约时报》报道，发布在预印本服务器 arXiv.org 上，尚未经过同行评审。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您将有助于确保有关塑造当今世界的发现和想法的影响力故事的未来。
多伦多大学教授 David Lie 熟悉这项研究，但没有直接参与这项研究，他表示这项工作是一个“警钟”，应该激励网络专家和研究人员尽快制定针对人工智能引发的漏洞的对策。 “这里的示范是，有动力尽早这样做，”他说。
为了制造“蠕虫”（一种在设备之间自主传播的恶意软件），研究人员没有依赖 Anthropic 或 OpenAI 等公司的专有人工智能模型，这两家公司都已就其技术被不良行为者使用的威胁发出了警告。相反，研究人员在实验室网站上的一篇文章中写道，他们使用了一种未公开但免费提供的人工智能模型，“任何人都可以从互联网上下载”。
Lie 说，好消息是这项技术是“双重用途”。他说，人工智能可能使蠕虫能够在传播过程中进行学习，发现并攻击隐藏的漏洞，但人工智能也可以帮助解决这些缺陷。 “他们是彼此的镜子。”