硅达尔文主义:为什么稀缺性是真正智慧的源泉

我们混淆了“尺寸”和“智能”。人工智能的下一次飞跃不会来自更大的数据中心,而是来自更受限的环境。《后硅达尔文主义:为什么稀缺性是真正智能的源泉》首先出现在《走向数据科学》上。

来源:走向数据科学

进入了一个奇怪的人工智能时代,其中大小被错误地等同于智力。模型变得越来越大,参数达到数十亿个,数据中心达到工业规模,进展以所用电量的兆瓦数来衡量。然而,一些有史以来最巧妙的智能系统——例如星际飞船和人脑——在极其严格的约束下运行。他们不依赖规模,而是依赖效率。

现代数据科学的核心是一个划分。一方面,机器学习正在争夺规模。另一方面,一场不太响亮的革命正在向后方向发生:这些是量化模型、边缘推理、TinyML 以及将在非常有限的资源上生存的架构。这些并不是导致性能下降的限制。它们是智能工程革命性变革的标志。

本文提出了一个温和但发人深省的概念:稀缺性不应被简单地视为智力的限制,而应被视为智力发展背后最重要的因素。无论是航行者一号、神经压缩,还是人类文明的未来,能够幸存下来的系统都是那些懂得如何从更少中获得更多的系统。效率并不是阻碍进步的因素。这是它的终极形态。

航海者悖论

1977 年,人类推出了历史上最持久的自主工程系统之一:航海家 1 号。

它在太阳系中航行了近 50 年,自我修正其路径,并从太阳系外的空间发回科学数据。它仅用 69.63 KB 内存和比当今智能手机慢约 200,000 倍的处理器就完成了所有这些壮举。

这种限制不被视为缺陷。这是一种设计方法。

数字巨头及其隐性成本

作为强制函数的约束

计算的加拉帕戈斯群岛