详细内容或原文请订阅后点击阅览
“你无法摆脱它”：廉价的人工智能蠕虫可以在没有人类指导的情况下在设备之间传播 - 但科学家是如何创造它的？
研究人员展示了未来的恶意软件如何利用人工智能来做出传统上由人类黑客处理的决策 - 但并非所有专家都认为我们应该恐慌。
来源:LiveScience研究人员证明，由人工智能 (AI) 驱动的计算机蠕虫可以通过识别和利用不同设备上的漏洞在网络中自主传播，这引发了人们对该技术如何改变网络攻击未来的新担忧。
这种概念验证恶意软件由多伦多大学的研究人员和网络安全公司 CleverHans 开发，将本地运行的大型语言模型 (LLM) 与自主软件代理相结合，可以扫描网络、评估潜在的攻击路径，并决定如何在无需人工干预的情况下破坏新目标。研究人员表示，这项工作展示了人工智能如何使恶意软件能够适应陌生的环境，而不是依赖于单一的预编程漏洞。
在 6 月 2 日上传到 arXiv 预印本服务器的一项新研究中描述的实验中，该蠕虫针对包含 33 台主机的模拟企业网络进行了测试，其中包括 Linux 服务器、Windows 工作站计算机和其他互联网连接 (IoT) 设备。研究人员发现，该系统在一周内发现了漏洞，破坏了新机器，并在大约 62% 的网络上进行了自我复制。
“主要发现是，这种类型的系统不仅仅可以运行固定的漏洞利用；它可以检查目标环境，推理可能的漏洞，使用工具尝试攻击，然后在成功入侵后进行自我复制，”华盛顿特区三一华盛顿大学信息技术兼职教授迈克尔·阿吉（Michael Agee）告诉《Live Science》，他没有参与这项研究。
AI蠕虫是如何工作的？
“攻击中人工智能驱动的部分主要是推理和决策，”Agee 说。 “法学硕士并不是神奇地入侵系统；它被用来推理信息的含义，提出可能的攻击策略，决定下一步应该尝试哪种工具或行动，并在出现问题时帮助调整方法。”