机构名称：
¥ 1.0
许多人认为，通用智能（即解决任意可解问题的能力）是人工可构建的。狭义智能（即解决特定特别困难问题的能力）最近取得了令人瞩目的发展。值得注意的例子包括自动驾驶汽车、围棋引擎、图像分类器和翻译器。通用人工智能 (AGI) 具有狭义智能所不具备的危险：如果在各个领域都比我们聪明的东西对我们的担忧无动于衷，那么它将对人类构成生存威胁，就像我们虽然没有恶意，却威胁着许多物种一样。甚至连如何保持 AGI 的目标与我们自己的目标一致的理论也被证明是难以捉摸的。我们提出了我们所知的第一个渐近无野心的 AGI 算法，其中“无野心”包括不寻求任意权力。因此，我们发现了工具收敛论题的一个例外，大致就是默认情况下，AGI 会寻求权力，包括对我们拥有权力。
渐近无野心的通用人工智能
主要关键词
相关文件推荐
