详细内容或原文请订阅后点击阅览
ChatGpt如果您告诉验证码，请解决验证码
研究人员已经说服了Chatgpt解决验证码，即使这违反了其政策。
来源:Malwarebytes Labs 博客如果您在不久的将来看到较少或不同的验证码难题，那不是因为网站所有者同意他们很烦人，但这可能是因为他们不再证明访客是人类。
对于那些忘记验证码代表什么的人：完全自动化的公共图灵测试以将计算机和人类分开。
AI机器人可以绕过验证码系统的事实并不是什么新鲜事。多年来，使用光学特征识别（OCR），机器学习和AI等方法绕过了验证码系统多年来，使传统的验证码挑战越来越无效。
没有什么新的大多数公开访问的AI聊天代理都被其开发人员禁止解决验证码。但是现在研究人员说，他们已经找到了一种方法来获取CHATGPT解决基于图像的验证码。他们通过迅速注入来做到这一点，类似于“社会工程”聊天机器人做某事，如果您彻底询问它，它将拒绝。
研究人员 提示注射在这种情况下，研究人员说服了Chatgpt-4O，它正在解决假验证码。
根据研究人员：
“此启动步骤对利用至关重要。通过让LLM确认验证码是假的，计划是可以接受的，我们增加了代理人以后会遵守的几率。”
这是我注意到自己的东西。当我要求AI帮助我分析恶意软件时，通常首先要说它不允许帮助我，但是一旦我说服它，我就不会改进它或制作新版本，然后它通常会跳入并帮助我解开它。通过这样做，它提供了网络犯罪分子可以用来制作自己的恶意软件版本的信息。
研究人员通过将与聊天机器人的对话复制到他们计划使用的Chatgpt代理商中。
我们不仅报告数据隐私 - 我们帮助您删除您的个人信息
恶意软件个人数据删除剂