详细内容或原文请订阅后点击阅览
Profftarmor保护律师免受Genai供应商安全风险
ProfftArmor是加利福尼亚州的一家创业公司，它可以测试Genai供应商是否有“间接及时注入”和26个风险向量等安全风险。他们是...
来源:Artificial LawyerProfftArmor是加利福尼亚州的一家创业公司，它可以测试Genai供应商是否有“间接及时注入”和26个风险向量等安全风险。他们专注于法律，健康和其他关键部门，人工律师会赶上他们学习更多信息。
旧金山的联合创始人Shankar Krishnan告诉AL：‘如果律师事务所正在评估AI供应商，他们将把它发送给我们。我们会给他们提供有关该供应商的AI组件的详细风险报告。我们通过测试这些供应商是否有“间接提示注入”的风险来做到这一点，这是LLM应用程序的新安全风险。
Shankar Krishnan‘我们检查了26个风险向量，所有这些都映射到了领先的安全框架，例如“ Owasp LLM前10名”，“ Miter Atlas”，“ Nist AI RMF”等。我们的专业是我们的技术，它生产了测试这些LLM应用程序的扫描方面。'
在您询问之前，此网站从未听说过NIST AI RMF…..但是及时注射是一个以前完成了法律技术的术语。
因此，为了让您了解他们的全部内容，这是英国艾伦·图灵（Alan Turing）研究所的声明：‘及时注射是最先进的生成AI模型面临的最紧急问题之一。
“英国国家网络安全中心已将其标记为关键风险，而美国国家标准技术学院则将其称为“生成性AI的最大安全缺陷”。
“简单地定义，提示注射'当攻击者通过精心设计的输入操纵大型语言模型（LLM），从而导致LLM在不知不觉中执行攻击者的意图，如开放的全球应用程序安全项目所做的那样。这可能导致操纵系统决策，向用户的虚假信息分布，敏感信息的披露，复杂的网络钓鱼攻击的编排以及恶意代码的执行。
不要您可以在此处找到有关PromptArmor的更多信息。
-