详细内容或原文请订阅后点击阅览

对人工智能学习方式的根本性反思

2025年12月4日 13:30 33 Comments
X Twitter Instagram Mail

OpenAI 前首席科学家、现代人工智能革命的核心人物 Ilya Sutskever 最近公开了他的新事业——安全超级智能 (SSI)。

来源:营销人工智能研究所
OpenAI 前首席科学家、现代人工智能革命的核心人物 Ilya Sutskever 最近公开了他的新事业——安全超级智能 (SSI)。在 Dwarkesh 播客上的一次罕见采访中，Sutskever 讨论了他在 SSI 背后的哲学，为什么“规模化时代”正在结束，以及为什么他认为通向超级智能的道路需要从根本上重新思考 AI 的学习方式。我在《人工智能秀》第 183 集中回顾了对 SmarterX 和 Marketing AI Institute 创始人兼首席执行官 Paul Roetzer 的采访。“规模化”的终结，研究的回归在过去的五年里，AI 的主导策略已经很简单：更大的计算机、更多的数据、更大的模型。这种“扩展假设”为我们带来了 GPT-3、GPT-4 和生成式人工智能的繁荣。但根据 Sutskever 的说法，那个时代正在碰壁。“Ilya 说，扩展当前的方式将继续带来改进，但一些重要的东西将继续缺失，”Roetzer 说。Sutskever 认为，用于训练法学硕士的预训练数据（从互联网上抓取的大量数据）是有限的。你不能不断添加更多文本来达到超级智能。相反，该行业正在回到“研究时代”，重点必须转向可靠的泛化和样本效率。换句话说，SSI 想要建立一个像人类一样学习的模型，而不是建立一个能够记住整个互联网的模型，能够快速掌握新任务，而无需先查看数十亿个示例。一点一滴的超级智能当 SSI 推出时，其既定目标是“直接射击”超级智能，这意味着他们将秘密工作数年，只发布最终的、安全的产品。然而，在采访中，Sutskever 对这一承诺进行了对冲。“我认为即使在直接拍摄的情况下，你仍然会逐步发布它，”Sutskever 在播客中说道。 “渐进主义将是任何计划的固有组成部分。”对于罗泽来说，这一承认意义重大。“这是一个变体