人类正处于人工智能 (AI) 加速发展的轨道上。2019 年,最先进的模型是 GPT-2,该模型无法可靠地数到十。仅仅四年后,同样基于深度学习的类似但更大的人工智能系统可以编写软件并就智力主题提供建议。科技公司现在正竞相创造通用人工智能 (AGI):在大多数或所有知识工作中匹敌或超越人类能力的通才和自主系统。2018 年深度学习图灵奖的三位获奖者(Geoffrey Hinton、Yann LeCun 和我)将 AGI 的时间线定在几年到几十年的区间内。在本文中,我研究了这其中涉及的一些更大规模的风险,并提出了减轻灾难性后果风险的方法。
• 魁北克人工智能研究所 Mila 的创始人和科学总监(前身为蒙特利尔学习算法研究所),该研究所汇集了蒙特利尔大学、巴黎高等商学院、蒙特利尔理工学院和麦吉尔大学的研究人员,是一个独立的非营利组织,目前拥有 500 多名研究人员,其中包括 80 名教职员工。Mila 是加拿大三个由联邦政府资助的人工智能研究和创新卓越中心之一。它是世界上最大的深度学习研究学术中心,在该领域发表了开创性的论文,从 2006 年引入深度学习开始,2009 年引入课程学习,2011 年展示 ReLU 对深度网络的强大功能,以及 2014-2015 年 GAN、神经机器翻译和注意力机制带来的突破。
2019 年 9 月,Google Scholar 上查找到 Yoshua Bengio 撰写的科学出版物被引用近 206,000 次,H 指数为 146,仅 2018 年就被引用了 60,000 多次。正如图灵奖特别认可的那样,他的主要贡献共同创造了深度学习领域,涉及循环网络、使深度学习成功的方法、深度学习的理论理解、基于注意力的新架构的开发以及使神经网络能够处理集合而不仅仅是向量和序列,以及开发深度生成模型(如生成对抗网络)。最近,YB 将注意力转向了表示学习的代理视角(以及深度强化学习),并参加了关于人工智能社会责任发展的国内和全球讨论(和文件),并为人工智能在社会公益应用方面的研究做出了贡献,例如在医疗保健、环境和教育领域。主要贡献如下。 • 1989-1998 卷积和循环网络与概率对齐 (HMM) 相结合来对序列进行建模,这是我的博士论文 (1991)、NIPS'1988、NIPS'1989、Eurospeech'1991、PAMI'1991、IEEE Trans. Neural Nets 1992 的主要贡献。这些架构首先应用于我博士论文中的语音识别(并在 2010 年后重新发现),然后与 Yann LeCun 等人一起应用于手写识别和文档分析(被引用最多的论文是“基于梯度的学习应用于文档识别”,1998 年,引用次数超过 19,000 次)。 • 1991-1995 与 Samy Bengio 一起学习学习论文,从 1991 年的 IJCNN 开始,