详细内容或原文请订阅后点击阅览
人类还是人工智能？科学家们创造了一种检测工具来识别文本的作者
学者们开发了 DetectGPT，它可以在 95% 的时间内为流行的开源 LLM 区分 AI 生成的文本和人类书写的文本。
来源:Qudata人类还是人工智能？科学家发明了一种检测工具来识别文本作者
人工智能的广泛发展，尤其是 OpenAI 推出的 ChatGPT，其答案和对话准确且合乎逻辑，激发了公众意识，并引发了人们对大型语言模型 (LLM) 的新一轮兴趣。很明显，它们的可能性比我们想象的要大。标题既反映了兴奋，也反映了担忧：机器人能写求职信吗？它们能帮助学生参加考试吗？机器人会通过社交媒体影响选民吗？它们能代替艺术家创造新设计吗？它们会让作家失业吗？
ChatGPT在 ChatGPT 轰动一时发布后，谷歌、Meta 和其他公司都在讨论类似的模型。计算机科学家呼吁加强审查。他们认为，社会需要新水平的基础设施和工具来保护这些模型，并专注于开发这样的基础设施。
这些关键保障措施之一可能是一种工具，可以为教师、记者和公民提供区分 LLM 生成的文本和人工编写文本的能力。
为此，斯坦福大学四年级计算机科学研究生 Eric Anthony Mitchell 在攻读博士学位期间与同事一起开发了 DetectGPT。它已作为演示和文档发布，用于区分 LLM 生成的文本和人工编写的文本。在初步实验中，该工具在五个流行的开源 LLM 中 95% 的时间准确确定了作者身份。该工具尚处于开发的早期阶段，但 Mitchell 和他的同事正在努力确保它在未来对社会大有裨益。
DetectGPT第二种方法避免训练新模型，只是在将文本输入模型后使用 LLM 来发现自己的输出。
该研究已在 arXiv 预印本服务器上发布。
arXiv