主漂移

在过去的一年里,我审查了大约两打组织的企业代理架构,其中包括银行、零售商、医疗保健系统和一些监管机构。架构图确实令人印象深刻。有 MCP 网关、工具注册表、矢量存储、编排器、策略引擎和可观察性堆栈的框。有[...]

来源:O'Reilly Media _AI & ML

在过去的一年里,我审查了大约两打组织的企业代理架构,其中包括银行、零售商、医疗保健系统和一些监管机构。架构图确实令人印象深刻。有 MCP 网关、工具注册表、矢量存储、编排器、策略引擎和可观察性堆栈的框。箭头显示代理如何发现彼此、共享上下文以及跨网格调用工具。按照 2026 年的标准,这些是任何严肃的代理部署的赌注图片。但它们在任何地方都没有显示出代理人是谁、他们拥有谁的权威,或者当他们出错时由谁来回答。

这种遗漏有一个值得使用的名字:主体漂移,在任何足够大的代理系统中,记录的行为应该源自人类权威与实际采取该行为的行为者之间的稳定脱钩。在您交付第一个代理的那天,看似防御性的身份姿态会随着代理的繁殖、组合和超越其最初的计划而悄然退化。主要漂移不是三种独立的故障模式;这是一个级联。身份首先崩溃。接下来,权威会受到侵蚀,因为不再有稳定的主体来约束政策。第三,责任消失,因为在事件审查开始时,代理错误的成本落在谈判地位最弱的团队身上。阻止级联意味着在第一个环节进行干预,但目前几乎没有企业代理平台这样做。

要查看级联运行,请选择最无聊的企业代理(退款代理)并观看。

实际的治理平面必须捕获决策,而不仅仅是行动。推理级审计记录是缺失层的承载原语,它看起来像这样: