人工智能教父称,人工智能在 30 年内消灭人类的可能性为 10-20%

人工智能可以带来工业革命级别的变革,但代价是什么?

来源:ZME科学

在人工智能领域,你很难找到比杰弗里·辛顿更有影响力的人。他在神经网络方面的工作为现代人工智能系统奠定了基础,展示了计算机如何以新的方式学习和使用数据。他也担心人工智能。在 BBC Radio 4 上,当被问及如何评估潜在的人工智能末日时,辛顿给出了一个令人不寒而栗的回答:“10% 到 20%。”

人工智能已经在多个领域进入主流使用,包括图像创建(此插图由人工智能生成)。
人工智能已经在多个领域进入主流使用,包括图像创建(此插图由人工智能生成)。

在这段关系中,我们是三岁小孩

辛顿因其在人工智能方面的工作获得了诺贝尔奖和图灵奖(计算机科学领域的诺贝尔奖)。他是三位“人工智能教父”之一,其中两位曾表示担心人工智能可能对人类构成生存威胁。

诺贝尔奖 人工智能教父

Hinton 说,最大的问题是人工智能在某些方面正在变得比我们任何人都聪明。

“你看,我们以前从来没有处理过比我们更聪明的东西。你知道多少个更聪明的东西被一个不太聪明的东西控制的例子?例子很少。有一个母亲和婴儿。进化花了很多功夫让婴儿控制母亲,但这是我所知道的唯一例子。”

允许婴儿

“我喜欢把它想象成:想象你和一个三岁的孩子。我们就是那三岁的孩子,”他说。

这并不是 Hinton 第一次表达这样的担忧。他之前曾评估未来 30 年人工智能末日的风险为 10%,现在他似乎又提高了这个数字。原因是人工智能的发展速度比他想象的要快得多,而我们的政策监管远远不够。

即使没有末日,我们的生活也将发生巨大变化

极端主义和法西斯主义