详细内容或原文请订阅后点击阅览
身份优先的人工智能治理：保护代理劳动力
AI 代理现在在生产系统内部运行，查询 Snowflake、更新 Salesforce 并自主执行业务逻辑。在许多企业中，他们使用静态 API 密钥或共享凭据进行身份验证，而不是使用公司 IDP 中的不同身份。通过共享凭证对自治系统进行身份验证会带来真正的治理风险。当代理执行操作时，经常会记录...后身份优先人工智能治理：保护代理劳动力安全首先出现在 DataRobot 上。
来源:DataRobot博客AI 代理现在在生产系统内部运行，查询 Snowflake、更新 Salesforce 并自主执行业务逻辑。在许多企业中，他们使用静态 API 密钥或共享凭据进行身份验证，而不是使用公司 IDP 中的不同身份。
通过共享凭证对自治系统进行身份验证会带来真正的治理风险。
当代理执行操作时，日志通常将其归因于开发人员密钥或服务帐户，而不是明确定义的自治参与者。归因变得模糊。最小特权减弱。撤销可能需要轮换凭证或修改代码，而不是禁用受管身份。在非确定性环境中，这种延迟会减慢调查和遏制速度。
共享凭证将自治系统变成“影子身份”：在生产环境中操作的参与者在企业目录中没有明确的、受管理的身份。
大多数组织都有适当的监控和防护措施。这个问题是结构性的。自治系统在保护人类用户的同一控制平面内的一流身份治理之外运行。缩小这一差距需要使代理与管理员工的身份模型保持一致，确保每个自主参与者都是可追踪的、权限范围有限且可集中撤销的。
隐藏的风险：现代代理人工智能是不确定的
传统的企业软件遵循预定义的逻辑。给定相同的输入，它会产生相同的输出。
代理人工智能系统的运作方式不同。他们不执行固定脚本，而是使用概率模型来：
如果您指示代理优化供应链路线，它可能会在确定路线之前参考天气预报、燃料成本数据和历史绩效。这种灵活性使代理能够解决传统软件无法解决的复杂的多系统问题。