机构名称：
¥ 1.0
我们提出了一个新型系统，该系统可以通过正式的安全分析仪来增强安全性AI代理。与先前的工作相反，我们的系统不会尝试以最佳及时检测提示注射，而是对代理的构成严格的约束，从而防止了压力的影响。可以在新颖而灵活的域特定语言中为安全规则指定约束。在代理采取诉讼之前，分析仪会检查当前代理州是否违反了所提供的任何政策规则，并在不允许拟议的诉讼中提出错误。当分析仪确定诉讼要安全时，它可以使用正式保证，即违反了策略中指定的规则。我们表明我们的分析仪是有效的，并检测并防止了现实世界代理中的安全漏洞。
具有正式安全保证的AI代理商
主要关键词
相关文件推荐
