详细内容或原文请订阅后点击阅览
ai病毒：结局看起来像
上海福丹大学的研究人员几个月来一直担心事情的发展太快了。随着科技公司推动达到“人工通用情报”（在每个知识领域的人工级别或估计功能）时，基本的保障措施被忽略了。基本的安全测试从未进行过。这些测试之一似乎是从[…]
来源:宇宙杂志上海福丹大学的研究人员几个月来一直担心事情的发展太快了。随着科技公司推动达到“人工通用情报”（在每个知识领域的人工级别或估计功能）时，基本的保障措施被忽略了。基本的安全测试从未进行过。这些测试之一似乎是从科幻电影的剧本中撕下的：任何人的AI是否足够聪明，可以“自我重复”，制作无尽的副本？
自我复制构成了所有生命的基础。数十亿年前的某个地方，一系列原子弄清楚了如何形成正确的配置，以引发良好的复制周期：“它已经活着！”所有生命都是从复制的重复（和不完美的）循环中得出的。我们都是副本的副本，一直回到生活的开始。
在1940年代 - 当计算机仍然是理论框架时 - 计算机的“父亲”之一约翰·冯·诺伊曼（John von Neumann）思考了一种“通用构造函数”的想法，一种自我复制机器。通用构造函数是否可以携带足够的信息和能力来制作自身？它的最低要求是什么？这样的通用构造函数如何？它会无限期地复制自己吗？最终用自身的副本填充了宇宙？
通用构造函数在1970年，约翰·霍顿·康威（John Horton Conway）的“生命游戏”创造了一个模拟的“牢房”景观，该景观可能会根据一组简单的规则繁殖，死亡或维护其状态。这些简单的规则产生了不可预测且复杂的“新兴”行为，包括指示无限期自我复制的行为。冯·诺伊曼通用构造函数的实验证明表明，数字环境可以产生以前只有在自然世界中观察到的复杂性。
生活的游戏 UUCP 莫里斯蠕虫 其中 编写工具代码 边境AI系统超过了自我复制的红线