详细内容或原文请订阅后点击阅览
人工智能内容检测器受到重击：联邦贸易委员会严厉打击误导性声明
声称其人工智能检测工具可以以近乎完美的准确度将人类书写与机器书写区分开的公司现在已成为联邦贸易委员会的目标。该委员会最近敲定了一项针对 Workado, LLC（该公司通过以前称为 Content at Scale 的网站（现更名为 Brandwell）销售其检测器）的命令，声称这些工具经过了广泛的培训，而实际上它们主要接受的是学术写作方面的培训。这是根据本报告详细调查得出的结果。 FTC 将大胆声称的“98% 准确率”标记为没有依据。在该命令中，Workado 必须撤回这些声明，向之前的用户发送通知，保持合规性 [...]
来源:AI 2 People声称其人工智能检测工具可以以近乎完美的准确度将人类书写与机器书写区分开的公司现在已成为联邦贸易委员会的目标。
该委员会最近敲定了一项针对 Workado, LLC（该公司通过以前称为 Content at Scale 的网站（现更名为 Brandwell）销售其检测器）的命令，声称这些工具经过了广泛的培训，而实际上它们主要接受的是学术写作方面的培训。这是根据本报告详细调查得出的结果。
报告FTC 将大胆声称的“98% 准确率”标记为没有依据。在该命令中，Workado 必须撤回这些声明、向之前的用户发送通知、维护合规日志并为未来的广告声明保留证据。
消息：如果你说你的人工智能可以像人眼识别假钞一样检测人工智能，那么你最好有收据。
时机很说明问题。随着人工智能生成的文本充斥教室、新闻编辑室和企业通讯，检测工具面临着巨大的压力，但过度推销的诱惑也很大。
Reddit 用户的另一项分析指出，“准确性”是检测工具中的一个不稳定指标，尤其是当基本速率（人工智能生成某物的频率）变化很大时。
是另一个角度：这是更广泛的监管趋势的一部分。例如，联邦贸易委员会之前的执法闪电战针对的是其他“人工智能承诺”，涉及承诺自动化法律服务或“人工智能驱动”店面的工具，但无法证实这些说法。换句话说：人工智能标签并不是免费通行证。
针对其他“人工智能承诺”我个人觉得有点令人不安的是对依赖这些探测器的机构（学校、出版商，甚至政府）产生的连锁反应。
如果检测器夸大其准确性或在不透明的情况下使用，那么误报就会成为大问题。
对大学人工智能检测系统的调查发现，学生被错误标记，有时甚至未经人工审核。因此，联邦贸易委员会的这一行动可能是一个值得欢迎的警钟。