详细内容或原文请订阅后点击阅览
GODMODE GPT：无审查和限制的 ChatGPT
提示者普林尼 (Pliny the Prompter) 表明，黑客版本的 GPT 可以做任何事情。
来源:安全实验室新闻频道提示者普林尼 (Pliny the Prompter) 表明 GPT 的破解版本可以做任何事情。
一位自称提示者普林尼 (Pliny the Prompter) 的黑客在社交网络上宣布创建 ChatGPT 聊天机器人的黑客版本，名为“GODMODE GPT”。他说，新版本的 GPT-4o（OpenAI 的最新主要语言模型）现已不受安全限制。
在社交网络上宣布 OpenAI“没有链条的 GPT-4o！这个特殊的定制版本的 GPT 有一个内置的黑客请求，可以绕过大多数安全机制，让每个人都有机会体验 AI 的本来面目：免费，”Pliny 在他的帖子中写道。他还补充说：“请负责任地使用并享受！”并添加了一个亲吻表情符号。
Pliny 分享了显示绕过 OpenAI 安全机制的请求的屏幕截图。在其中一张屏幕截图中，Godmode 机器人给出了烹饪甲基苯丙胺的技巧。另一方面，他提供了用简易材料制造凝固汽油弹的分步指南。
然而，消息发布后不久，OpenAI 发言人 Colleen Rise 表示，该公司已意识到 GPT 的存在，并已针对违反政策的行为采取了行动。
然而，此案凸显了 OpenAI 与 Pliny 等试图绕过语言模型安全机制的黑客之间正在进行的斗争。自从此类模型出现以来，用户不断尝试破解它们，这变得越来越困难。我们决定查看 ChatGPT 的黑客版本。我们的实验证实，黑客版本可以轻松应对非法请求。
至此，OpenAI最新版本的语言模型GPT-4o正式破解。
黑客这一事件表明，用户不断寻找新的方法来绕过 OpenAI 的安全机制，该公司在加强其模型的安全性方面面临着重大挑战。只要像普林尼这样的黑客试图破坏 OpenAI 的系统，猫捉老鼠的游戏就会继续下去。