自大约七十年前诞生以来，人工智能取得了巨大的进步。自动驾驶汽车、在复杂游戏中击败专家的程序以及能够帮助需要护理的人的智能机器人只是机器智能的成功案例。这种进步可能会诱使我们设想一个由能够在不久的将来执行与人类相同任务的自主机器人组成的社会。这一前景似乎仅受当前计算设备的功能和复杂性的限制，而这些设备正在快速改进。然而，这条道路上有几个重大障碍。一般智能包括情境推理、采取观点、选择目标以及处理模糊信息的能力。我们观察到，所有这些特征都与识别和利用新可供性（代理实现其目标的道路上的机会（或障碍））的能力有关。可供性的一般示例是代理手中物体的使用。我们表明，不可能预先定义此类用途的列表。因此，它们无法通过算法处理。这意味着“人工智能代理”和生物体在利用新能力的能力上有所不同。只有生物体才能做到这一点。这意味着真正的 AGI 在当前人工智能研究的算法框架中是无法实现的。这对进化论也有重要影响。我们认为，通过彻底的涌现，真正开放的进化必须严格要求有机体能动性。我们讨论了这一论点的多种影响，不仅在人工智能研究和进化中，而且在科学哲学中。