先驱者表示,是时候给失控的人工智能踩刹车了

诺贝尔奖获得者、人工智能先驱杰弗里·辛顿 (Geoffrey Hinton) 坚持认为,如果人工智能是“一辆没有方向盘的非常快的汽车”,那么监管必须提供这样的汽车。这位富有远见的科学家被广泛称为自学习技术的“教父”。在 globalissues.org 上阅读全文:“先锋说,是时候给失控的人工智能踩刹车了” →

来源:全球问题

Hinton 教授在数字世界会议 (DWC):人工智能促进社会发展(由联合国社会发展研究所 (UNRISD) 联合举办)上发表讲话时强调,必须更加谨慎地引导人工智能的快速进步,以服务社会,而不是破坏社会。

“如果你开着一辆没有刹车的汽车出去,孩子,一旦下坡你就会遇到麻烦,”他告诉代表们。 “但如果没有方向盘,你的麻烦就更大了。”

他的讲话正值人工智能政策制定忙碌的一周,随着人工智能在全球经济和社会中的日益一体化,各国政府和联合国小组加紧了关于治理、包容性和风险管理的讨论。

富人和穷人

人工智能的发展速度令人震惊。根据联合国贸易和发展会议 (UNCTAD) 的《2025 年技术与创新报告》,全球人工智能市场预计将从 2023 年的 1890 亿美元增长到 2033 年的 4.8 万亿美元,这个经济规模比日本还要大,而且是在十年内建成的。

然而,贸发会议代理秘书长佩德罗·曼努埃尔·莫雷诺在本周召开的科学和技术促进发展委员会(CSTD)会议上警告说,建设和塑造这一技术的能力仍然掌握在少数经济体和公司手中。

这种集中化可能会加剧全球不平等。联合国国际电信联盟(ITU)秘书长多琳·博格丹·马丁(Doreen Bogdan-Martin)指出,工业化“北半球”的生成式人工智能采用速度几乎是发展中的“南半球”的两倍。

“如果不加以解决,这是第二个巨大的分歧——扩大人工智能塑造国家与仅仅消费人工智能的国家之间的差距”——博格丹·马丁女士表示,并补充说,基础设施、投资和能力方面的差距无法仅靠任何一个国家或组织来缩小。

不同的讨论领域正变得越来越清晰。

数据驱动方法