详细内容或原文请订阅后点击阅览
阻止AI旋转故事：防止幻觉的指南
AI正在彻底改变每个行业的运作方式。这使我们更加高效，更有生产力，并且在正确实施时 - 总体上可以更好地完成工作。但是，随着我们对这项新技术的依赖迅速提高，我们必须提醒自己一个简单的事实：AI并不是无误的。它的输出不应是[…]停止AI旋转故事的帖子：防止幻觉的指南首先出现在unite.ai上。
来源:Unite.AIAI正在彻底改变每个行业的运作方式。这使我们更加高效，更有生产力，并且在正确实施时 - 总体上可以更好地完成工作。但是，随着我们对这项新技术的依赖迅速提高，我们必须提醒自己一个简单的事实：AI并不是无误的。它的输出不应以面值进行，因为就像人类一样，AI可能会犯错误。
我们将这些错误称为“ AI幻觉”。此类事故的范围从错误地回答数学问题到提供政府政策的不准确信息。在高度受监管的行业中，幻觉会导致昂贵的罚款和法律麻烦，更不用说不满意的客户了。
数学问题错误地 不准确的信息因此，AI幻觉的频率应引起人们的关注：据估计，现代大型语言模型（LLMS）的幻觉在1％到30％的时间内都有幻觉。这会导致数百个虚假答案每天产生，这意味着希望利用这项技术的企业在选择要实施哪些工具时艰苦的选择性。
估计让我们探讨为什么会发生AI幻觉，危及的是什么以及我们如何识别和纠正它们。
垃圾，垃圾
您还记得小时候玩游戏“电话”吗？当起始短语从玩家到玩家时，启动短语将如何扭曲，从而在圆圈绕过圈子时产生了完全不同的陈述？
AI从其输入中学习的方式相似。 LLMS生成的响应仅与他们所喂养的信息一样好，这意味着不正确的上下文可以导致虚假信息的产生和传播。如果AI系统建立在不准确，过时或有偏见的数据上，则其输出将反映这一点。
仅