详细内容或原文请订阅后点击阅览
Agentic AI 的大骗局
我们对外部咨询的过度依赖告诉我们如何将我们的思想委托给机器代理人工智能的大骗局首先出现在走向数据科学上。
来源:走向数据科学来自顾问和人工智能供应商的最新一波文章、观点文章和预测，都自信地预测代理人工智能即将接管人类工作，我最近发现自己在回想 2009 年在伦敦帝国理工学院的第一年。我们的编程入门课程讲师经常会告诉我们，在计算机上编码之前，先用笔和纸勾画出课程作业的解决方案，因为这种更慢、更深思熟虑的手工书写和绘图过程可以帮助建立对主题有更深入的了解并得出更好的解决方案。
今天，这个建议似乎比以往任何时候都更加中肯。人工智能诱人的前景吸引了个人、组织和政府。一名学生提交了一篇人工智能生成的论文，绕过了写作变成理解的认知斗争。一家公司用人工智能代理取代了人类员工，从而摆脱了评估人工智能输出所需的隐性机构知识。法院用不透明且可能存在偏见的算法风险评分来补充量刑决定。无论每种情况的动机是什么，随着时间的推移，将认知、判断和责任让给人工智能很可能成为默认做法，直到我们对人工智能及其更广泛生态系统中的参与者的依赖变得如此深入和规范化，以至于扭转它似乎既没有必要也不可行。人类代理权的丧失本身就足以令人担忧。更重要的是，经过仔细观察，那些看起来很漂亮的人工智能输出往往只有通用价值，有时甚至是错误的。
以咨询行业的结构动态作为一个有启发性的类比，本文综合了我们对代理人工智能日益依赖的了解，追踪了个人、组织和社会层面过度依赖的风险，并提出了在我们的能力无可挽回地丧失之前在每个层面重新夺回代理权的方法。