机构名称：
¥ 1.0
人工智能 (AI) 的最新进展可能会在未来几年提高生活水平。蛋白质折叠、语音识别以及生成模型在生成文本和图像方面的惊人成就已经超出了几年前的预期（Bubeck 等人，2023 年）。人工智能似乎很可能在短期内增强我们的创新能力，而且人工智能在许多认知任务上匹敌甚至超越人类智能并开始自我创新肯定是有可能的。一旦机器能够产生想法，研究人员的数量和质量所设定的增长限制可能不再存在，增长率可能会加快，甚至有可能导致所谓的无限消费的“奇点”。Aghion、B. Jones 和 C. Jones（2019 年）；Trammell 和 Korinek（2020 年）；Davidson（2021 年）； Nordhaus ( 2021 )；以及 Erdil 和 Besiroglu ( 2023 )。另一方面，这些进步并非没有风险。包括 OpenAI 和谷歌的顶尖研究人员在内的人工智能社区的相当一部分人警告说，这些进步可能对人类构成生存风险，要么来自“坏人”对人工智能的恶意使用，要么甚至可能来自超级智能人工智能本身。更简洁地说，人工智能可以比电力或互联网提高生活水平。但它可能带来超过核武器的风险。此外，这些可能性——无论可能性如何——都是相互关联的。正是在这样的世界状态下，人工智能足够强大，可以带来深刻的增长
人工智能困境：增长与生存风险
主要关键词
相关文件推荐
