详细内容或原文请订阅后点击阅览
AI助手中的漏洞允许在提示中插入恶意命令
此技术可用于绕过过滤器、获取敏感信息或执行不需要的操作。
来源:OSP网站大数据新闻在 GitLab Duo 协作处理服务中发现了与向 AI 助手的请求中注入恶意命令（提示注入）相关的严重漏洞。这些缺陷允许攻击者注入恶意命令或改变人工智能的行为，这可能导致不可预测或危险的结果。
以 Duo 为例，事实证明，AI 助手可以作为泄露私人信息的渠道，包括源代码和零日漏洞的描述。然而，攻击本身并不需要黑客攻击或访问基础设施。实际上，Duo 可以在平台内用作木马，并具有与开发人员相同的权利，包括访问错误跟踪器和内部讨论的权限。
专家指出，此类问题不仅对于GitLab Duo很常见，对于其他AI助手也很常见，这凸显了使用人工智能时普遍存在的安全风险。提示注入漏洞可用于绕过过滤器、获取敏感信息或在自动化系统中执行不需要的操作。
许多组织现在正在将人工智能助手应用到他们的工作流程中。正如专家强调的那样，他们需要特别注意通过定期测试系统并实施额外的安全措施来防范此类攻击。