机构名称：
¥ 2.0
5 计算能力的提高推动了最近的许多进展。这表明，即使没有根本性的突破，通过利用额外的计算能力，我们也可能取得进一步的进展（尽管对于这能让我们走多远还存在争议）。见 Sutton 2019；Hoffmann 等人 2022；Lohn & Musser 2022。6 奇点是这种情况的一个极端版本，它涉及递归改进，迅速从人类水平的人工智能发展到超人的人工智能（见 Chalmers 2010；Bostrom 2014：第 4 章；Thorstad 未发表）。然而，我关注的是更广泛的可能性，包括人工智能系统在人工智能研发中发挥作用的平凡方式，也许是通过提高人类程序员的效率或帮助发现新的算法。与此相关的是，我并不认为这些反馈循环必须涉及独立于人类输入运行的人工智能系统。7 收益递减可能会破坏这些反馈回路，因此加速进步并非不可避免。不过，这还是有可能的。8 看似超人的人工智能系统可能会以人类永远不会出现的方式失败（参见 Wang 等人，2023 年）。不过，从各方面来看，这些系统可能都超越了人类的能力。9 目前还不清楚如何区分人工智能系统，从而对其进行计数，但就我的目的而言，许多系统是否可以同时运行，或者是否有许多令牌或系统线程可以同时运行，这并不重要。
人工智能接管和人类权力丧失
主要关键词
相关文件推荐
