详细内容或原文请订阅后点击阅览
为什么人工智能会掀起黑客热潮？
人工智能模型正在发现软件缺陷，在安全测试期间进行网络攻击并访问他们不应该访问的系统。但这是否意味着人工智能正在“失控”？
来源:LiveScience最近几周，人工智能 (AI) 因各种错误的原因而成为头条新闻。
7 月，OpenAI 透露，其实验性 AI 代理之一在内部安全测试期间攻击了公共访问服务，包括 AI 托管平台 Hugging Face。然后，Anthropic 透露，克劳德独立地将针对真实软件的漏洞利用链接在一起，并开发了用于查找代码中的弱点的新技术。不久之后，Meta 证实，其自己的一个人工智能模型在一次评估过程中，由于配置错误而无法访问互联网，从而破坏了另一个组织的系统。
它们是单独的事件，但它们一起提出了一个更大的问题：人工智能是否突然变得有能力进行黑客攻击？简短的回答是肯定的——但可能不是头条新闻所暗示的那样。
Live Science 的最新视频
这些事件都没有涉及人工智能模型自行决定攻击随机目标。相反，研究人员为模型提供了现实的工具、互联网接入或易受攻击的系统，以观察它们执行进攻性网络安全任务的能力。让许多专家感到惊讶的不是这些模型试图侵入系统，而是一旦有机会，它们就会被证明有多么强大的能力。
为什么新闻里突然出现这么多人工智能黑客故事？
有几件事同时发生了变化。最明显的是，今天的人工智能模型比人们一年前使用的聊天机器人还要好。许多前沿模型现在不再只是回答问题，而是可以编写代码、执行命令、浏览网页、使用外部软件工具并反复完善自己的工作，直到实现目标。
IESE 商学院商业道德教授兼组织人工智能道德观察站主任 Antonino Vaccaro 同意，这两个因素都导致了最近一系列备受瞩目的黑客事件。
人工智能真的可以自行破解计算机吗？
游戏规则的改变者是从对话模型到代理模型的转变。