详细内容或原文请订阅后点击阅览
当人工智能的输出对人工智能本身构成威胁时
随着人工智能生成的数据越来越难以检测，未来的人工智能越来越有可能吸收这些数据，从而导致更糟糕的结果。
来源:重点aatish bhatia
aatish bhatiaAatish Bhatia采访了AI。研究人员，研究了研究论文并提供了A.I.系统自己的输出。
互联网正在以人工智能产生的文字和图像中的瓦解。
OpenAI首席执行官 Sam Altman在2月写道，该公司每天产生约1000亿个单词 - 每天一百万本小说的文字，其中一个未知的份额在互联网上找到了。 每天1000亿个单词 A.I.生成的文本可能显示为餐厅评论，约会资料或社交媒体帖子。它也可以作为新闻文章出现：Newsguard是一个跟踪在线错误信息的小组，最近在一千个网站上确定了易于错误的A.I.生成的新闻文章。 一千个网站 A.I.生成的新闻文章 实际上，没有任何万无一失的方法来检测这种内容，很多人都不会被发现。 所有这些AI.生成的信息可能会使我们更难知道真实的信息。这也为AI。公司。当他们拖网以获取新数据以训练下一个模型（这是一项越来越具有挑战性的任务）时，他们很可能会摄入自己的某些A.I.生成的内容，从而创造出一个无意的反馈回路，其中曾经是A.I.的输出是什么。成为另一个的输入。 越来越具有挑战性的任务 从长远来看，这个周期可能会对AI构成威胁。本身。研究表明，当生成性A.I.接受了许多自己的输出的培训，它可能会变得更糟。 研究 有 显示 那个 这是一个简单的说明，说明了A.I.时发生的情况系统一遍又一遍地接受了自己的输出训练： 这是60,000个手写数字的数据集的一部分。 当我们训练A.I.为了模仿这些数字，其输出看起来像这样。 此新套件由AI。接受过以前的A.I.生成数字的培训。如果这个过程继续进行，会发生什么？ 30代后，它们会收敛成单个形状。 纸 研究 new
Sam Altman在2月写道，该公司每天产生约1000亿个单词 - 每天一百万本小说的文字，其中一个未知的份额在互联网上找到了。每天1000亿个单词
A.I.生成的文本可能显示为餐厅评论，约会资料或社交媒体帖子。它也可以作为新闻文章出现：Newsguard是一个跟踪在线错误信息的小组，最近在一千个网站上确定了易于错误的A.I.生成的新闻文章。 一千个网站A.I.生成的新闻文章
实际上，没有任何万无一失的方法来检测这种内容，很多人都不会被发现。
所有这些AI.生成的信息可能会使我们更难知道真实的信息。这也为AI。公司。当他们拖网以获取新数据以训练下一个模型（这是一项越来越具有挑战性的任务）时，他们很可能会摄入自己的某些A.I.生成的内容，从而创造出一个无意的反馈回路，其中曾经是A.I.的输出是什么。成为另一个的输入。越来越具有挑战性的任务
从长远来看，这个周期可能会对AI构成威胁。本身。研究表明，当生成性A.I.接受了许多自己的输出的培训，它可能会变得更糟。 研究 有 显示那个
这是一个简单的说明，说明了A.I.时发生的情况系统一遍又一遍地接受了自己的输出训练：
这是60,000个手写数字的数据集的一部分。
当我们训练A.I.为了模仿这些数字，其输出看起来像这样。
此新套件由AI。接受过以前的A.I.生成数字的培训。如果这个过程继续进行，会发生什么？
30代后，它们会收敛成单个形状。 纸 研究new