详细内容或原文请订阅后点击阅览
为什么企业人工智能代理可能成为最终的内部威胁
生成式人工智能正在从聊天机器人转向自主行动者。当代理可以启动其他代理、花钱并修改系统时，生产力工具和内部威胁之间的界限就消失了。
来源:ZDNet | 机器人新闻关注 ZDNET：将我们添加为 Google 上的首选来源。
ZDNET 的关键要点
自 10 月以来，我一直很高兴使用 Claude Code 对一系列应用程序进行振动编码。每隔一段时间，我会给他们一个指示，他们就会去执行我的命令。这是一次愉快的合作。我可以看到人工智能正在做的一切，并且我可以以比以往更快的速度生成新代码。
但随后 Anthropic 更新了它的语言模型。关键特征是克劳德能够启动下属代理，这些代理可以同时处理问题的不同部分并相互通信。从理论上讲，这是一项重大的技术进步。
理论上。
另外：人工智能会让网络安全变得过时还是硅谷又在胡言乱语？
我的整个经历都改变了。突然间，克劳德同时踢走了四、五、六、七、甚至八名特工。我不知道他们都在做什么。如果一个或多个人发脾气，我什至没有办法阻止他们。他们确实发疯了。
一个人在尝试访问一个没有 root 权限的文件时被卡住了。另一个人介入并尝试重构整个应用程序（我没有要求）。该代理在整个过程中失败，导致整个代码中命名约定不一致和对象声明冲突。它高效而愉快地彻底摧毁了我的应用程序。
幸运的是，我有源代码管理签入和备份，所以我能够恢复。我还发起了一项协议，禁止克劳德启动并行、同时的代理。造成损害的可能性太大了。
另外：推出人工智能？您的企业不能出错的 5 种安全策略 - 以及原因
这就是我。我是一名孤独的开发人员，作为业余项目致力于开发优先级较低的应用程序。尽管如此，人工智能发起的流氓特工还是摧毁了我的项目。