打击工具蔓延:人工智能工具注册表案例

随着企业人工智能代理采用规模的扩大,集中式组织级工具基础设施的缺乏正在产生复合成本。当围绕优化部署速度而采用时,企业就会面临一系列风险:重复的工程工作、安全漏洞和操作不透明。每个企业都需要自己的共享工具注册表,反映其特定的[...]

来源:O'Reilly Media _AI & ML

随着企业人工智能代理采用规模的扩大,集中式组织级工具基础设施的缺乏正在产生复合成本。当围绕优化部署速度而采用时,企业就会面临一系列风险:重复的工程工作、安全漏洞和操作不透明。

每个企业都需要自己的共享工具注册表,该注册表能够反映其特定的监管环境、安全状况和操作惯例。需要明确的是,这并不是公共包管理器(例如 npm、PyPI 或 Maven)的论据。每个企业需要的基础设施都是内部的;其范围包括自己的团队、自己的数据、自己的政策、自己的领域。在快速发展的新兴领域,试图将范围扩大到单个组织之外是不成熟的标准化。

共享企业工具注册表并不是一种优化,也不是一种锦上添花的东西。它是基础设施,因为代理部署的规模超出了早期实验的范围。它的理由基于两个支柱:降低协调成本和实现风险管理,无论是对于与代理一起构建的人类还是对于代理本身。

AI 代理依赖于检索数据、写入记录、触发工作流程和调用外部 API 的工具。根据麦肯锡的说法,在大多数大型组织中,这些工具都是由各个团队以临时方式构建的:无文档记录、不受管理且对组织的其他部分不可见。大多数工程领导者都熟悉这种模式,并且它所产生的碎片化与每个新代理部署有关。团队重建其他地方已经存在的东西,安全审查错过了从未注册的工具,当出现问题时,没有人能够完整了解正在运行的内容或原因。

基础设施规模的协调失败

可见性问题

治理需要共享上下文

生产级工具目录需要什么

不作为的复合成本