这是斜坡吗?无需模型即可检测 AI 生成的内容

研究支持的线索,用于检测 LLM 生成的文本以及关于“为什么”该帖子是这样的数学直觉的数学直觉吗?在没有模型的情况下检测人工智能生成的内容首先出现在走向数据科学上。

来源:走向数据科学

S 检测 LLM 内容。你在 Reddit 上恶搞,渴望有机会向你怀疑是人工智能的作者敲下“人工智能撰写”的锤子。

事实上,你不是,研究证明了这一点。

最近,我因发表文章而被一个未命名的 Reddit 子版块永久封禁。版主将其标记为人工智能生成的内容,我立即被禁止。

版主没有注意到的是文章的创建日期:

距离 ChatGPT 向公众开放已经整整两年了。

这不是草率的——这是我的写作。

低精度,高召回率

当前对 LLM 生成内容的强烈反对的问题在于,检测 AI 的自动工具通常精度较低且召回率较高:将所有内容都分类为 AI 编写,以最大程度地避免“陷阱”。

为了演示,这是我的写作摘录(聊天机器人时代之前)

每个想法都需要根据提到的两个因素确定优先级,

执行的难易程度和成功的可能性。

不幸的是,没有简单的方法来确定执行的难易程度或可能性,

  • 因为每个研究人员和团队都是不同的。
  • 一些注意事项:
  • - 方法或想法有多复杂?
  • - 这种方法在其他领域是否取得了成功?- 我/我们有应用此方法的专业知识吗?在确定优先级过程结束时,您应该有以下想法:显示结果的可能性最高,其次是执行的难易程度。如果您要为此创建一个分数(用于排序),那么它的权重会更大成功的可能性与执行的难易程度。这是来自流行的人工智能检测器的相关报告。这并不意味着告诉或模型毫无用处。这里的目标不应该而且可能永远不会是确定性。但是,有了更多的信息,你可能会从疯狂的猜测变成比抛硬币更好一点的结果。在本文中,我将重点介绍 LLM 生成内容的签名模式的研究,包括:词汇告诉修辞和句子结构讲述标点符号告诉为什么即使是自信的读者也会出错—