详细内容或原文请订阅后点击阅览
你可能不会读这篇文章……没关系
“救命！有太多[LLM bug 报告、关于 LLM bug 报告的博客文章、书籍、论文、抄本、卷轴、纸莎草纸、楔形文字板]！我如何选择阅读哪些？” ——很多人，想必就到此为止吧！如果您正在阅读本文，请问问自己您是如何到达这里的。 Substack的算法给你推荐了这篇文章吗？做了一个多汁的[…]
来源:O'Reilly Media _AI & ML—很多人，大概
停在那里！如果您正在阅读本文，请问问自己您是如何到达这里的。 Substack的算法给你推荐了这篇文章吗？有趣的缩略图是否可以让人们从平凡的任务中分心？也许您个人认识我并觉得您有义务（您确实如此）？您是否已经后悔点击的决定了？
世界上许多最重要的开源软件存储库的维护者都“淹没”在 bug 报告中。curl 的负责人 Daniel Stenberg 记录了此类报告不断增加的趋势，这些报告部分是由拥有最新法学硕士的善意用户生成的。这些报告看起来完全可信，其中少数实际上强调了真正的漏洞。但大多数基本上毫无价值。实际上，它们可能比毫无价值更糟糕，因为了解报告是否报告真实内容的唯一方法是手动完成大部分验证工作。生成错误报告的成本已经降低，而验证报告的成本却保持不变。因此，LLM 生成的大量报告分散了专家维护人员的注意力，他们可能将时间和注意力花在具有较高相对信号的报告上。
这个时间成本肯定会上升。
制作可信的论文、可信的求职信、可信的代码、可信的博客文章、可信的 bug 报告、可信的数学证明和可信的风险分析的成本正在趋向于 0。因此供应量将继续飙升。
本质上，我们现在很擅长生成东西，但不太擅长弄清楚这些东西是否真的有用。