详细内容或原文请订阅后点击阅览
使用 Amazon Bedrock AgentCore 中的策略保护 AI 代理
在本文中，您将了解 Amazon Bedrock AgentCore 中的策略如何创建一个独立于代理自身推理运行的确定性执行层。您将学习如何将业务规则的自然语言描述转化为 Cedar 策略，然后使用这些策略来实施细粒度的身份感知控制，以便代理仅访问其用户有权使用的工具和数据。您还将了解如何通过 AgentCore Gateway 应用策略，在运行时拦截和评估每个代理到工具的请求。
来源:亚马逊云科技 _机器学习在受监管的行业中安全部署人工智能代理具有挑战性。如果没有适当的边界，访问敏感数据或执行事务的代理可能会带来重大的安全风险。与传统软件不同，人工智能代理通过调用工具、访问数据并使用来自环境和用户的数据调整其推理来选择操作来实现目标。这种自主权正是使代理如此强大的原因，也是使安全成为不容谈判的问题的原因。
代理安全的一个有用的心理模型是将代理与外界隔离。为此，请考虑代理周围的墙壁，它定义了代理可以访问的内容、可以与之交互的内容以及它可以对外部世界产生什么影响。如果没有明确定义的墙，可以发送电子邮件、查询数据库、执行代码或触发金融交易的代理是有风险的。这些功能可能会导致数据泄露、对代码或基础设施的意外访问或引发注入攻击。如何在不减慢创新速度的情况下大规模可靠地实施 AI 安全？Amazon Bedrock AgentCore 中的策略为您提供了一种在运行时大规模实施这些边界的原则性方法。
在本文中，我们使用医疗保健预约调度代理来了解 Amazon Bedrock AgentCore 中的策略如何创建独立于代理自身推理运行的确定性执行层。医疗保健自然适合这种探索。在此域中操作的代理必须处理敏感的患者数据，遵守严格的访问边界，并一致地执行业务规则。这需要执行确定性策略来维护患者数据的安全和安全的运行时操作。完整示例可在 GitHub 上获取：amazon-bedrock-agentcore-samples。
缺失的层：为什么代理需要外部策略执行
Cedar：确定性策略执行的语言
Permit( 主体 == 用户::"alice", 操作 == 操作::"查看", 资源 == 照片::"VacationPhoto94.jpg");