机构名称：
¥ 4.0
背景。生成式人工智能的近期快速发展凸显了人类可能很快开发出“变革性人工智能”的可能性：人工智能技术将促成堪比农业或工业革命的转变。OpenAI 和 Google DeepMind 等领先的研究实验室直言不讳地宣布，他们的使命是构建能够在所有任务上达到或超过人类水平的“通用人工智能”（OpenAI 2023；DeepMind 2023）。领先的机器学习研究人员认真考虑了 AGI 相对较短的时间表的可能性，他们在 2023 年的一项调查中给出了 10% 的可能性，到 2027 年，人工智能将在所有任务上超越人类，并预测到 2047 年这种能力的中位数（Grace、Stewart 等人。2024 年）。用 Jones (2023) 的话来说，这种变革性人工智能的前景是一把“双刃剑”。一方面，像蛋白质折叠或文本生成中发生的那些持续的人工智能创新可以加速经济增长并改善福祉。就像工业革命使经济增长增加了大约一个数量级一样，一些人预测，变革性人工智能将所有任务自动化将使增长再增加一个数量级，GDP 增长率将上升到每年 30% 或更多 (Davidson 2021 )。事实上，扩展到包括人类水平的人工智能的标准经济增长模型甚至可以预测经济奇点：有限时间内的无限产出 (Aghion、Jones 和 Jones 2018；Trammell 和 Korinek 2020)。2024）。与协调的人工智能促进增长的情景相反，这种情况被称为不协调的人工智能。另一方面，人工智能研究界和广大公众中的许多人担心，如此强大的人工智能技术可能会给人类带来严重风险，甚至是“生存风险”。这种担忧源于一项挑战，即确保比人类更聪明的人工智能技术追求与人类价值观相匹配的目标，而不是追求意想不到的和不受欢迎的目标：“人工智能协调问题”（Ngo 2022；Yudkowsky 2016）。2023 年对机器学习研究人员的调查发现，在那些选择回应的人中，中位数认为人类水平的人工智能导致“人类灭绝或类似永久性和严重的人类物种丧失权力”的可能性为 5%（Grace、Stewart 等人。与此同时，大多数经济学家普遍不太可能同意变革性人工智能会很快得到开发，对一致的人工智能将大幅加速经济增长不太乐观，对不一致的人工智能可能对人类生存构成生存风险不太悲观（Korinek 等人即将出版）。
变革性人工智能、生存风险和实际利率*
主要关键词
相关文件推荐
