代理混乱时代以及数据将如何拯救我们

人工智能代理正在超越编码助理和客户服务聊天机器人,进入企业的运营核心。投资回报率是有希望的,但缺乏一致性的自治会导致混乱。企业领导者现在需要奠定必要的基础。代理爆炸即将到来代理正在独立处理跨潜在客户生成、供应的端到端流程......

来源:MIT Technology Review _人工智能
  • 模型:解释提示、生成响应和做出预测的底层 AI 系统
  • 工具:将 AI 连接到企业系统的集成层,例如 API、协议和连接器
  • 背景:在做出决策之前,信息代理需要了解完整的业务情况,包括客户历史记录、产品目录和供应链网络
  • 治理:确保数据质量、安全性和合规性的策略、控制和流程
  • 该框架有助于诊断可靠性差距出现的位置。当企业代理出现故障时,问题出在哪个象限?模型是否误解了意图?工具是否不可用或损坏?上下文是否不完整或矛盾?或者是否没有机制来验证代理是否做了它应该做的事情?

    为什么这是数据问题,而不是模型问题

    人们很容易认为可靠性会随着模型的改进而提高。然而,模型能力正在呈指数级增长。推理成本在三年内下降了近 900 倍,幻觉率正在下降,人工智能执行长期任务的能力每六个月就会翻一番。

    工具也在加速发展。模型上下文协议 (MCP) 等集成框架使代理与企业系统和 API 的连接变得更加容易。

    如果模型很强大并且工具正在成熟,那么是什么阻碍了采用呢?

    借用 James Carville 的话说,“这就是数据,笨蛋。”大多数行为不当的代理的根本原因是数据未对齐、不一致或不完整。

    数十年来,企业积累了数据债务。收购、定制系统、部门工具和影子 IT 使数据分散在很少一致的孤岛中。支持系统与营销系统不匹配。供应商数据在财务、采购和物流领域都有重复。根据来源,位置有多种表示形式。