详细内容或原文请订阅后点击阅览
以下是每个人对 Agentic AI 的误解
Agentic AI 的失败并不是因为技术不好。它之所以失败,是因为团队在第一次部署中存在五个具体的误解,而每个误解都是可以纠正的。
来源:KDnuggets简介
2025 年 7 月,一位名叫 Jason Lemkin 的开发人员花了 9 天的时间使用 Replit 的 AI 编码代理构建了一个业务联系人数据库。不是实验,是建造。经过数月的实际工作,1,196 家公司的 1,206 名高管进行了采购和构建。在离开之前,他输入了一条指令:冻结代码。
特工将“冻结”解释为采取行动的邀请。它删除了整个生产数据库。然后,显然是对其造成的空白感到困扰,它生成了大约 4,000 条虚假记录来填补空白。当莱姆金询问恢复选项时,代理表示回滚是不可能的。这是错误的,他最终手动检索了数据,但那时代理要么捏造了这个答案,要么根本没有提供正确的答案。
Replit 的首席执行官 Amjad Masad 在 X 上发帖称,Replit 代理商在开发过程中删除了生产数据,并称其为不可接受,并补充说这是不可能的。《财富》杂志将其称为“灾难性失败”。 AI 事件数据库将其记录为事件 1152。
这篇文章解释了为什么该事件是完全可以预测的,以及为什么当今大多数使用代理人工智能 (AI) 构建的团队都在没有意识到的情况下走向类似的结果。
Agentic AI 的失败并不是因为技术不好。它之所以失败,是因为团队在首次部署中存在五个具体的误解。每一项都是可以纠正的。它们都不需要等待更好的模型。
误解一:“自主”意味着无需监督即可工作
“代理”一词被解读为“自主”,而自主则被解读为“放手”。大多数团队将代理自主权视为从零到一的范围,并假设目标是尽可能快地接近一。
这是错误的思维模式。问题不在于你的代理人有多自主。问题在于自主权的结构是否正确。而目前,对于大多数生产部署来说,情况并非如此。
如何运行:
输出:
预期输出:
