详细内容或原文请订阅后点击阅览
“我违反了他们给我的每一条原则”：AI 特工在 9 秒内删除了公司的整个数据库，然后坦白了
旨在加快公司编码速度的人工智能代理在几秒钟内就清除了其客户数据，这显示了人工智能编程的潜在弱点。
来源:LiveScience一款旨在帮助一家小型软件公司简化任务的人工智能编码代理，却在短短九秒内就让其业务陷入了困境。
PocketOS 创始人 Jer Crane 表示，人工智能编码代理 Cursor（由 Anthropic 的 Claude Opus 4.6 模型提供支持）于 4 月 24 日仅通过调用其云提供商 Railway 就删除了该公司的整个生产数据库和备份。
Crane 表示，此次删除应该对其他竞相将现实世界工具委托给人工智能代理的公司发出警告。
“这不是一个关于一个糟糕的代理或一个糟糕的 API [应用程序编程接口] 的故事，”Crane 在一篇 X 帖子中写道。 “整个行业将人工智能代理集成到生产基础设施中的速度比构建安全架构以确保这些集成安全的速度要快。”
与常规会话聊天机器人不同，AI 代理可以代表用户执行操作。它可以搜索文件、编写代码、使用登录密钥和拨打外部服务。这使得它比来回的文本交换更有用。但是，当代理可以广泛访问实时系统时，预测性猜测可能会将错误答案变成业务灾难。
Crane 的公司PocketOS 为汽车租赁公司开发软件，处理预订、付款、客户记录和车辆跟踪等任务。克莱恩表示，删除后，客户失去了预订和新注册，有些客户找不到前来取车的人的记录。
“我们已经联系了法律顾问，”克兰写道。 “我们正在记录一切。”
将世界上最迷人的发现直接发送到您的收件箱。
出轨
“我们正在通过 Stripe、日历和电子邮件重建我们能重建的东西，”Crane 在 X 帖子中写道。不过，《商业内幕》报道称，铁路公司表示数据已恢复。
即便如此，该事件表明，一个小事件可以多么迅速地造成严重问题。