一个限制被该行业称为“幻觉”。幻觉是AI产生的错误信息。生成的预训练的变压器（GPT）和大语言模型（LLMS）处理输入并产生输出，而无需真正了解所说的内容。相反，LLM使用复杂算法根据已经说过的内容来预测下一个单词，一对一。因此，LLM无法产生真正的知识；他们只能根据培训数据输出表达式。10实际上，根据美国计算机科学家兼作家彼得·丹宁（Peter Denning [IL1）的说法，LLM可以“检索从未真正说过的细分市场，但接近了几个部分。” 11这就是为什么GPT模型产生的“幻觉”和错误信息的原因。生成的AI可以产生听起来很现实但根本上不正确的响应。