详细内容或原文请订阅后点击阅览
使用 Amazon Bedrock AgentCore 中的临时策略保护 AI 代理
Amazon Bedrock AgentCore 中的临时策略允许您定义有状态规则，根据代理的会话历史记录评估授权。了解如何强制执行工作流程排序、防止数据伪造、限制财务风险以及要求对高价值操作进行人工批准。
来源:亚马逊云科技 _机器学习在 AI 代理出现之前，访问控制通常将每个操作视为独立事件就足够了。应用程序依靠确定性业务逻辑来强制执行操作是否按正确顺序发生或数据是否是最新的。人工智能代理的行为方式与传统应用程序根本不同。他们在运行时决定调用哪些工具、使用哪些参数以及以什么顺序。这种灵活性与日益智能的模型相结合，使代理具有同等的测量能力和控制挑战性。当单独考虑时，一个工具调用可能被认为是安全的，但在前一个调用的上下文中是有害的，例如从不受信任的数据源读取之后。那么问题就变成了，如何以代理无法规避的方式强制执行考虑代理会话历史记录的授权规则？
Amazon Bedrock AgentCore 中的临时策略允许您定义有状态规则，通过在代理轨迹中的先前事件上下文中评估当前请求来确定对 AgentCore Gateway 目标的授权。由于这些策略在 AgentCore 网关外围运行，位于代理自己的代码之外，因此代理无法拦截或操纵它们。
在这篇文章中，您将了解什么是临时策略、它们如何工作，并通过一个示例进行演示。我们将向您展示如何使用临时策略来强制工作流程排序，防止工具调用之间的数据伪造，限制每个会话的累积财务风险，以及要求人工批准高价值的操作。您还将了解当代理在没有人工参与的情况下操作时如何自动收紧权限。然而，首先，我们将更详细地探讨有状态策略的需求和用例。