详细内容或原文请订阅后点击阅览
越狱 LLM 驱动的机器人出奇地容易
人工智能聊天机器人（例如 ChatGPT）和其他由大型语言模型 (LLM) 驱动的应用程序人气飙升，促使许多公司探索由 LLM 驱动的机器人。然而，一项新研究现在揭示了一种自动化入侵此类机器的方法，成功率高达 100%。通过绕过安全护栏，研究人员可以操纵自动驾驶系统与行人相撞，操纵机器狗寻找危险的地方引爆炸弹。本质上，LLM 是智能手机用来预测用户正在输入的单词其余部分的自动完成功能的增强版。经过训练可以分析文本、图像和音频的 LLM 可以提供个性化的旅行建议，根据冰箱内容的图片设计食谱，并帮助生成网站。LLM 处理文本的非凡能力促使许多公司使用人工智能系统通过语音命令帮助控制机器人，将用户的提示转化为机器人可以运行的代码。例如，波士顿动力公司的机器狗 Spot 现已与 OpenAI 的 ChatGPT 集成，可以充当导游。Figure 的人形机器人和 Unitree 的 Go2 机器狗也同样配备了 ChatGPT。然而，一组科学家最近发现了 LLM 的一系列安全漏洞。所谓的越狱攻击发现了开发提示的方法，这些提示可以绕过 LLM 安全措施并欺骗 AI 系统生成不需要的内容，例如构建说明
来源:IEEE Spectrum _机器人错误 403 禁止
禁止
错误 54113
详细信息：cache-bur-kbur8200135-BUR 1731367747 3960516571
Varnish 缓存服务器