详细内容或原文请订阅后点击阅览
AI代理的网络攻击即将到来
代理是人工智能行业的讨论 - 他们能够计划，推理和执行复杂的任务，例如调度会议，订购杂货，甚至接管您的计算机代表您更改设置。但是，使代理商有帮助的助手的同样复杂能力也可以使其成为进行网络攻击的强大工具。他们很容易……
来源:MIT Technology Review _人工智能代理也比通常用于黑客入侵系统的机器人明显聪明。机器人是通过脚本运行的简单自动化程序，因此它们难以适应意外的情况。另一方面，代理商不仅能够适应他们与黑客目标的互动方式，而且还可以避免检测 - 其中的两个超出了有限的脚本程序计划的能力。他说：“他们可以看一下目标，并猜测穿透目标的最佳方法。” “这种事情是无法触及的，例如愚蠢的脚本机器人。”
自从LLM特工Honeypot于去年10月上线以来，它已记录了超过1100万次访问它的尝试，其中绝大多数来自好奇的人类和机器人。但是其中，研究人员发现了八个潜在的AI代理，他们确认的两个是似乎分别起源于香港和新加坡的代理商。
“我们会猜测，这些确认的代理是人类直接发起的实验，其议程是诸如‘登上互联网并试图破解我的一些有趣的东西’之类的议程，”沃尔科夫说。该团队计划将其Honeypot扩展到社交媒体平台，网站和数据库中，以吸引和捕获更广泛的攻击者，包括垃圾邮件机器人和网络钓鱼代理，以分析未来的威胁。
为了确定哪些易受伤害服务器的访问者是LLM驱动的代理，研究人员将及时的注射技术嵌入了蜜罐中。这些攻击旨在通过发布新的说明并提出需要人类智能的问题来改变AI代理的行为。这种方法对标准机器人不起作用。
提示注射技术