机构名称：
¥ 1.0
Yoshua Bengio 正如《国际先进人工智能安全科学报告》所强调的那样，通用人工智能系统的能力在过去十年中一直在稳步提升，并在过去几年中显著加速。1 如果这些趋势持续下去，并且按照领先人工智能公司宣称的目标，我们很可能在广泛的认知技能领域实现人类水平的能力，即通常所说的通用人工智能 (AGI)。值得注意的是，我们已经在自然语言方面实现了人类水平的能力，即可以阅读和理解文本并流利地响应或生成新的文本、视觉、音频或视频内容的系统。虽然科学进步无法准确预测，但许多领先的研究人员现在估计 AGI 的时间可能短至几年或十年。这与过去十年的稳步发展相一致，这些发展是由算法进步和计算资源使用量的扩大以及全球人工智能研发投资呈指数级增长（高达数万亿美元）所推动的。2 虽然缺乏内部审议能力（即思考能力）一直被认为是当前人工智能的主要弱点之一，但最近基于一种具有内部审议能力的新型人工智能的进展表明，我们可能即将缩小与人类水平推理能力的差距。3、4 此外，前沿人工智能公司正在寻求开发具有特定技能的人工智能，这种技能很可能解锁所有其他技能并加速进步：具有推动人工智能研究能力的人工智能。一个人工智能系统如果在人工智能研究方面的能力与人工智能实验室中最顶尖的少数研究人员一样强，那么高级研究人员的数量将成倍增加。尽管训练人工智能需要数万个 GPU，但一旦训练完成，就可以在推理时并行部署，产生相当于数十万个自动化人工智能工作者。这样的扩展可以大大加速超人人工智能系统的发展。这一场景的实现可能导致从 AGI 到人工智能超级智能 (ASI) 的快速转变，据一些专家称，转变时间从几个月到几年不等。5 想象这样的可能性可能具有挑战性，我们无法保证它们会实现，因为未来人工智能发展的速度和方向在很大程度上取决于未来数月和数年的政治决策和科学进步。如果 ASI 出现，会有什么后果？6然而，考虑到专家们列出的某些情景的后果，我们现在需要认真考虑如何减轻这些后果。显然，潜在的好处是巨大的，可以通过医学、教育、农业、应对气候变化等方面的进步，实现显著的经济增长和社会福祉的极大改善。然而，这种高级智能也可能在全球范围内提供无与伦比的战略优势，并使平衡偏向少数人（公司、国家或个人），同时对许多其他人造成巨大伤害。在当前的地缘政治和企业背景下尤其如此，因为对这些技术的控制极其集中。
通用人工智能对国家和国家的影响
主要关键词
相关文件推荐
