详细内容或原文请订阅后点击阅览
OpenAI 的下一个模型：AI 是否已陷入停滞？
The Information 的一份重磅报告表明，OpenAI 的下一代 AI 模型代号为“Orion”，可能会遇到意想不到的障碍。
来源:营销人工智能研究所The Information 的一份重磅报告表明，OpenAI 的下一代 AI 模型（代号为“Orion”）可能遇到了意想不到的障碍。
The Information 的一份重磅报告表明，OpenAI 的下一代 AI 模型（代号为“Orion”）可能遇到了意想不到的障碍。 The Information报告称，虽然 Orion 比之前的模型有所改进，但收益明显小于我们在 GPT-3 和 GPT-4 之间看到的显著飞跃。
更令人担忧的是？尽管运营成本更高，但该模型在某些任务上的表现并不总是更好，包括编码。
但 OpenAI 内部人士强烈反对 AI 放缓的说法。而现实可能比最初看起来更复杂。
Marketing AI Institute 创始人兼首席执行官 Paul Roetzer 在《人工智能秀》第 123 集中为我详细阐述了这一切。
人工智能秀第 123 集 人工智能秀第 123 集训练数据挑战
问题的核心是人工智能面临的一项基本挑战：高质量的训练数据正变得越来越稀缺。
据 The Information 报道，OpenAI 已经基本耗尽了公开可用的文本来源，并开始尝试使用人工智能生成的训练数据——这一举措本身也带来了一些复杂性。
据 The Information 报道该出版物写道：
“GPT 放缓的一个原因是高质量文本和其他数据的供应量正在减少，LLM 可以在预训练期间处理这些数据，以理解世界和不同概念之间的关系，从而解决诸如起草博客文章或解决编码错误等问题，OpenAI 员工和研究人员表示。
过去几年，法学硕士在预训练过程中使用了来自网站、书籍和其他来源的公开文本和其他数据，但这些人士表示，模型开发人员已经尽可能多地利用了这类数据。”