人类正处于人工智能 (AI) 加速发展的轨道上。2019 年,最先进的模型是 GPT-2,该模型无法可靠地数到十。仅仅四年后,同样基于深度学习的类似但更大的人工智能系统可以编写软件并就智力主题提供建议。科技公司现在正竞相创造通用人工智能 (AGI):在大多数或所有知识工作中匹敌或超越人类能力的通才和自主系统。2018 年深度学习图灵奖的三位获奖者(Geoffrey Hinton、Yann LeCun 和我)将 AGI 的时间线定在几年到几十年的区间内。在本文中,我研究了这其中涉及的一些更大规模的风险,并提出了减轻灾难性后果风险的方法。
主要关键词