详细内容或原文请订阅后点击阅览
新方法旨在保护孩子免受人工智能生成的非法内容的侵害
研究人员开发了一种审计技术来测试生成式人工智能模型的恶意功能，而不提示它们进行非法输出。
来源:MIT新闻 - 人工智能随着生成式人工智能的爆炸性普及，现在可以在线获取许多开源模型，任何人都可以根据自己的任务进行调整，例如以某种艺术风格生成产品渲染图。
但这些模型也落入了不法分子的手中，他们可能会对其进行优化以产生非法内容，例如仇恨言论或儿童性虐待材料 (CSAM)。这是一个日益严重的问题——国家失踪和受虐儿童中心在 2025 年收到了超过 150 万份人工智能生成的 CSAM 报告，比 2024 年的 67,000 份有所增加。
工程师通常通过提示模型并检查其输出来测试 AI 的有害功能，但这对于 CSAM 来说是不可能的，因为在美国，无论意图如何，生成此类内容都是非法的。
为了避免这种困境并提高人工智能安全性，由研究生 Vinith Suriyakumar 以及副教授 Ashia Wilson 和 Marzyeh Ghassemi 领导的麻省理工学院科学家团队与 Thorn 的研究人员联手开发了一种新的审计方法，该方法可以确定模型是否可以在不提示的情况下生成 CSAM。 Thorn 是一家儿童安全非营利组织，其使命是改变数字时代保护儿童免受性虐待和性剥削的方式。
他们的技术检查模型的内部工作原理是如何适应的，但它永远不会生成输出。通过检查隐藏的表示，它可以可靠地推断模型是否专门用于生成有害图像。
测试时，审核程序识别出专门用于生成 100% 准确度的 CSAM 的模型变体。托管平台可以使用此技术来标记不安全的模型并快速删除它们或首先阻止它们上传。
审核改编
最近的技术使用户可以更轻松地通过称为微调的过程专门为其任务专门生成人工智能模型。
非生成式解决方案