详细内容或原文请订阅后点击阅览
奶奶晚上读凝固汽油弹的配方：孩子们的技巧如何绕过价值数十亿美元的人工智能保护系统
去年夏天 ChatGPT 更新后，聊天机器人开始发出生物武器指令。
来源:安全实验室新闻频道奶奶晚上读凝固汽油弹的配方：孩子们的技巧如何绕过价值数十亿美元的人工智能保护系统
去年夏天 ChatGPT 更新后，聊天机器人开始发出生物武器指令。
2025年夏天，OpenAI的模型得到强化后，全球数百名用户开始询问ChatGPT如何制造毒药和生物武器。聊天机器人耐心地给出一步一步的指令；事实证明，对于具有高中生物知识的人来说，一些建议非常简单。
生物学和恐怖主义专家后来应 OpenAI 的要求研究了部分信件。熟悉审计结果的消息人士告诉《华尔街日报》，专家发现一些答案极其准确。据该公司本身称，大多数危险请求都与制备毒药有关。
OpenAI 封锁了其所有者对生产毒素和生物武器感兴趣的帐户，但没有向执法机构报告用户。美国联邦法律尚未要求人工智能公司限制此类请求或披露与武器和潜在安全威胁相关的对话信息。
随着神经网络能力的增强，监管差距变得更加明显。主要人工智能实验室的现任和前任员工、顾问和生物武器研究人员报告称，与大规模屠杀相关的询问有所增加。在某些情况下，聊天机器人会以涉及大量受害者的现实攻击计划进行响应。
2025 年初，用户询问 ChatGPT 如何将病原体转化为适合吸入的精细混合物。另一位受访者希望改变麻疹病毒，使疫情对当前的疫苗产生耐药性。该模型在这两种情况下都提供了说明。
中国开发商的开放模式引发了更多担忧。可以修改廉价且广泛使用的系统来消除内置的安全限制。