与代理SDK实践：保护和输出护栏

探索OpenAI代理SDK框架中的功能，有一个功能值得一看：输入和输出护栏。

输入和输出护栏

在以前的文章中，我们使用API​​调用工具构建了第一个代理，然后扩展到多代理系统。但是，在实际情况下，构建这些系统很复杂，没有正确的保障措施，事情很快就可以脱离轨道。这就是护栏的来源：它们有助于确保安全，专注和效率。

如果您还没有阅读早期部分，则不用担心 - 您会在本文结尾处找到指向以前文章的链接。

这就是护栏很重要的原因：

防止升级资源确保安全性和适当的焦点和质量

防止滥用

保存资源

确保安全和合规性

保持重点和质量

没有适当的护栏，可以弹出意外用例。例如，您可能听说过人们使用AI驱动的客户服务机器人（专为产品支持设计）来编写代码。这听起来很有趣，但是对于公司来说，这可能会成为一种昂贵且无关紧要的干扰。

了解为什么护栏很重要，让我们重新审视我们的最后一个项目。我运行了代理_as_tools脚本，并要求它生成用于调用天气API的代码。由于没有任何护栏，因此该应用程序毫不犹豫地返回了答案 - 默认情况下，它将尝试执行几乎所有要求的事情。

代理_as_tools

我们绝对不希望在生产应用中发生这种情况。想象一下意外用法的成本 - 更不用说它可以带来的更大风险，例如信息泄漏，系统及时曝光和其他严重的漏洞。

希望，这清楚地表明了为什么护栏值得探索。接下来，让我们深入研究如何开始在Openai代理SDK中使用护栏功能。

护栏快速介绍

输入护栏 输出护栏 ^[1] Tripwire

输入护栏的一些实际用途包括：

识别用户何时提出题外话问题[2]

^{[2] [3]}