详细内容或原文请订阅后点击阅览
使用 Amazon Bedrock Guardrails InvokeGuardrailChecks API 保护您的代理 AI 应用程序
今天，我们宣布推出 Amazon Bedrock Guardrails 的新 API。借助此 API，您可以在代理 AI 应用程序中的任何点应用单独的防护措施（也称为安全检查），而无需创建护栏资源。在这篇文章中，我们将介绍 InvokeGuardrailChecks API 的工作原理以及如何使用它来构建安全的多轮代理 AI 应用程序。
来源:亚马逊云科技 _机器学习今天，我们宣布推出 Amazon Bedrock Guardrails 的新 API。借助此 API，您可以在代理 AI 应用程序中的任何点应用单独的防护措施（也称为安全检查），而无需创建护栏资源。新的 InvokeGuardrailChecks API 使您可以灵活地在代理循环中的任何时刻调用受支持的保护措施，并在应用程序逻辑中采取所需的操作。 API 在仅检测模式下运行，并返回每个防护措施的数字分数。您可以根据您的具体要求在应用程序中定义自定义阈值和操作，以阻止、绕过、重试或记录结果以用于审核目的。
Amazon Bedrock Guardrails 提供可配置的保护措施，帮助您构建安全的生成式 AI 应用程序。通过跨基础模型的全面安全控制，Amazon Bedrock Guardrails 可以帮助您检测和过滤不需要的内容，并保护用户输入和模型响应中的敏感信息。
新的 InvokeGuardrailChecks API 通过多轮工作流程扩展了代理 AI 应用程序的这些功能。人工智能代理计划任务、调用工具、处理输出并通过循环进行迭代，通常不需要直接的用户交互。该循环中的每个步骤都具有不同的风险状况，并且需要不同的保护措施。借助 InvokeGuardrailChecks API，您可以在需要的地方应用所需的检查，而无需为每个阶段配置单独的 Guardrail 资源而产生运营开销。 API 返回一个数字分数，帮助您为应用程序定义自己的阈值和操作。在这篇文章中，我们将介绍 InvokeGuardrailChecks API 的工作原理以及如何使用它来构建安全的多轮代理 AI 应用程序。
为什么代理人工智能需要有针对性的安全控制
考虑一个多回合客户支持代理，可以处理对话中的各种请求：