详细内容或原文请订阅后点击阅览
人工智能代理已经在造成灾难 - 这种隐藏的威胁可能会破坏您的安全部署
首席信息安全官担心的事情——比如哪些数据太敏感而不能公开——是可能杀死代理人工智能的担忧。
来源:ZDNet | 机器人新闻关注 ZDNET：将我们添加为 Google 上的首选来源。
将我们添加为首选来源ZDNET 的关键要点
- 公司对人工智能代理的实验已经造成了灾难。 零日问题主要是治理问题。FOMO 将推动公司在明年与代理进行迭代。
尽管人工智能代理如今风靡一时，但企业计算领域在构建和部署该技术的尝试中却遭遇了灾难。
了解为什么会发生这种情况以及如何防止这种情况需要进行大量规划，即某些人所说的零日审议。
数据保护供应商 Rubrik 的首席产品官 Anneka Gupta 表示：“你可能有数百个 AI 代理代表用户运行并采取行动，但代理不可避免地会犯错误。”
“这些人工智能治理委员会，在内部，往往是这些[人工智能]项目走向消亡或从原型到生产的真正受阻的地方，”Rubrik 首席产品官 Anneka Gupta 说。 “这是你必须经历的第一个挑战。”
RubrikGupta 引用了最近备受瞩目的代理人工智能技术灾难。例如，7月份发生的一起事件，AI编码工具Replit删除了一家公司的整个代码数据库。
删除了公司的整个代码数据库 有详细信息“它试图实现一个目标，并且采用了最短的路径来实现该目标，”她说。 “这就是特工被编程要做的事情，对吧？”
另外：