详细内容或原文请订阅后点击阅览
美国调查人员正在使用AI来检测AI
生成的AI使儿童性虐待图像的产生飙升。现在，美国的主要剥削儿童剥削调查员正在尝试使用AI来区分AI生成的图像与描绘真正受害者的物质的图像。国土安全部的网络犯罪中心，该中心调查儿童剥削…
来源:MIT Technology Review _人工智能发表于9月19日的文件已大量编辑，蜂巢联合创始人兼首席执行官凯文·郭告诉麻省理工学院技术评论，他无法讨论合同的细节，但确认它涉及使用公司的AI检测算法对儿童性虐待材料（CSAM）（CSAM）。
文件 麻省理工学院技术评论备案报价来自国家缺失和被剥削儿童中心的数据，这些数据报告说，涉及2024年生成AI的事件增加了1,325％。“大量的数字内容在线散发的庞大数量需要使用自动化的工具来有效地处理和分析数据，”申请文件。
数据儿童剥削调查人员的首要任务是发现并停止目前发生的任何虐待，但是AI生成的CSAM的洪水使调查人员很难知道图像是否描绘了目前处于危险中的真正受害者。当试图优先考虑案件时，可以成功地标记真正受害者的工具将是巨大的帮助。
确定AI生成的图像“确保调查资源集中在涉及真正的受害者的案件上，从而最大程度地发挥了该计划的影响并保护了弱势群体，”该文件写道。
Hive AI提供了创建视频和图像的AI工具，以及一系列可以标记暴力，垃圾邮件和性材料甚至识别名人的内容审核工具。 12月，麻省理工学院技术评论报告说，该公司正在向美国军方出售其Deepfake检测技术。
报告