详细内容或原文请订阅后点击阅览
Altman 让投资者心烦意乱？
术语向量被高估了
来源:AI的零点原则Sam Altman（开发 ChatGPT 的 OpenAI 首席执行官）最近表示，他即将发布一项重大声明，这将让许多投资者感到不安。
一些人猜测这将与 OpenAI 开源有关。 一些人认为他会要求更多的监管。 一些人认为他会宣布 GPT5 的长期延迟。 事实上，OpenAI 甚至还没有开始训练它。
我真正疯狂的猜测：“我们实际上并不需要 GPU”
GPT5 的延迟可能是由 OpenAI 的研究导致发现更便宜的无 GPU LLM 算法，而这些算法可能还没有为黄金时段做好准备。
“令投资者失望”的警告是因为从今以后，涉及 GPU 的云服务将不再需要用于语言理解；它们对于图像、视频、语音、声音、科学应用等仍然至关重要。 这会打乱许多预算和销售 GPU 的公司。
这些无需 GPU 的自然语言理解 (NLU) 算法是存在的。自 2001 年以来，我一直在我的公司 Syntience Inc 研究 LLM。我们的产品是一种更小、更快、更便宜的 LLM，我们现在称之为 SSM——小型语法模型。我们可以在五分钟内使用仅 5MB 的语料库在笔记本电脑上创建一个“有用的”SSM，而且无需使用 GPU。我们在云端有一个 UM1 演示服务器，可以加载一个只用了几个小时就学会的小型 SSM。测试此演示服务器的代码已发布在 GitHub 上。
大约一年前，我发布了一个摘要，介绍了我的 SSM 是如何创建的以及如何在我的主要发布网站上使用它们。第 8 章讨论了“OL”学习算法，第 9 章讨论了基于云的“UM1”运行时服务。请注意，这一年多前的章节中的语言没有使用术语“SSM”，因为我最近才开始使用它。
https://experimental-epistemology.ai/organic-learning/
https://experimental-epistemology.ai/organic-learning/2006-2014 年间，像 Geoff Hinton 这样的人发现深度学习 (DL) 可以很好地理解图像。
没人知道。