详细内容或原文请订阅后点击阅览
当人类生成的数据耗尽时，我们如何防止人工智能模型自我蚕食？科学家表示他们已经找到了答案。
研究人员发现，将人造数据引入人工智能训练有助于防止人工智能模型崩溃。
来源:LiveScience虽然人工智能 (AI) 系统的发展没有显示出放缓的迹象，但人们越来越担心大型语言模型 (LLM) 很快就会耗尽可供摄取和学习的人造数据。
科学家表示，一旦发生这种情况，人工智能模型将越来越依赖人工智能合成的信息，这将导致一种称为“模型崩溃”的效应。这就是法学硕士们胡言乱语的地方，而他们所支持的人工智能系统提供不准确的答案，并对查询产生幻觉信息的情况比现在更加常见。
伦敦国王学院 (KCL) 数学系无序系统教授亚西尔·鲁迪 (Yasser Roudi) 告诉《Live Science》：“考虑到一些专家认为我们将在今年年底前用完高质量的人类生成数据，这一点尤其令人担忧。因此，如果你依赖这些合成数据，但存在几乎生死存亡的威胁，它会摧毁你的人工智能，那么你就有麻烦了。” “例如，如果你的法学硕士被医院用来分析脑部扫描并发现癌症，如果在训练另一个模型时他们经历了模型崩溃，那么这些机器可能会误诊人们。”
然而，Roudi 最近发现，即使所有其他数据都是人工智能生成的，也可以通过在人工智能的训练数据中添加单个人造数据点来绕过模型崩溃。
这项研究由来自 KCL、挪威科技大学和意大利阿卜杜斯萨拉姆国际理论物理中心的研究人员参与，于 5 月 14 日发表在《物理评论快报》杂志上。
虽然在积极部署人工智能系统的现实场景中，人工智能模型崩溃并未发生，但任何使用 ChatGPT 或 Gemini 等工具生成答案或文本的人都很可能经历过错误或幻觉。然而，鲁迪希望新的发现能够概述一种避开这种潜在的紧急威胁的方法。
对抗崩溃
将世界上最迷人的发现直接发送到您的收件箱。