机构名称：
¥ 1.0
摘要 1986 年，数学家兼哲学家 Gian-Carlo Rota 写道：“我想知道人工智能是否或何时会突破意义障碍。”（Rota 1986）。这里的“意义障碍”一词指的是关于人类与机器的一种信念：人类能够“真正理解”他们遇到的情况，而即使是当今最先进的人工智能系统，对我们试图教给它们的概念也没有像人类一样的理解。这种缺乏理解可能是现代人工智能系统通用性和可靠性目前受到限制的原因。2018 年 10 月，圣达菲研究所举办了一场为期三天的研讨会，由 Barbara Grosz、Dawn Song 和我组织，名为“人工智能与意义障碍”。来自人工智能、机器人技术、认知和发展心理学、动物行为、信息理论和哲学等不同学科的 30 名参与者齐聚一堂，讨论与生命系统中“理解”的概念以及机器中这种理解的前景相关的问题。希望研讨会的结果能够对更广泛的社区有所帮助，本文总结了讨论的主要主题并强调了研讨会上提出的一些想法。简介 1986 年，数学家和哲学家 Gian-Carlo Rota 写道：“我想知道人工智能是否或何时会突破意义的障碍。”（Rota 1986）。此处，“意义障碍”一词指的是人类与机器之间的一种信念：人类能够“真正理解”他们遇到的情况，而即使是当今最先进的人工智能系统，对我们试图教给它们的概念，也还没有像人类一样理解。也就是说，人工智能系统学习到的（或编程到的）内部表征并没有捕捉到人类在感知、语言和推理中赋予的丰富含义。这种缺乏理解可能是现代人工智能系统通用性和可靠性目前受到限制的原因。虽然通过监督或强化学习训练的深度神经网络在计算机视觉、自然语言处理和其他人工智能核心领域的许多问题上表现非常出色，但与人类智能相比，这些系统仍然很脆弱。即使是最成功的深度网络，在面对与其训练方案有哪怕是微小差异的输入时，也会以意想不到的方式失败。此外，这样的
打破人工智能的意义障碍
主要关键词
相关文件推荐
