机构名称：
¥ 2.0
人工智能 (AI) 的目标是创造智能机器。粗略地说，如果一个实体根据其感知选择预期可实现其目标的行动，则该实体被视为智能。1 将此定义应用于机器，可以推断出人工智能旨在创造根据其感知选择预期可实现其目标的行动的机器。现在，这些目标是什么？可以肯定的是，至少到目前为止，它们是我们赋予它们的目标；但是，尽管如此，它们的作用完全像机器自己的目标一样，并且它们完全确定。我们可以将其称为人工智能的标准模型：构建优化机器，插入目标，然后它们就可以运行了。这种模型不仅在人工智能中盛行，而且在控制理论（最小化成本函数）、运筹学（最大化回报总和）、经济学（最大化个人效用、GDP、季度利润或社会福利）和统计学（最小化损失函数）中也盛行。标准模型是二十世纪技术的支柱。不幸的是，这个标准模型是一个错误。如果我们只完整正确地写下我们的目标，那么设计对我们有益的机器是没有意义的。如果目标是错误的，我们可能会很幸运，注意到机器令人惊讶的令人反感的行为，并能够及时将其关闭。或者，如果机器比我们更聪明，问题可能是不可逆转的。机器越智能，对人类的后果就越糟糕：机器将更有能力以与我们的真实目标不一致的方式改变世界，并更有能力预见和防止任何干扰其计划的行为。1960 年，在看到亚瑟·塞缪尔的跳棋程序学会比其创造者更好地下棋后，诺伯特·维纳 (1960) 发出了明确的警告：
人类兼容的人工智能 - 人@EECS
主要关键词
相关文件推荐
