人工智能系统面临的挑战之一是,其智能的狭窄性意味着,虽然它们在某些情况下可能表现得很好,但在其他情况下,它们的表现可能会急剧下降。在某种情况下比人类驾驶员安全得多的自动驾驶汽车,可能会突然莫名其妙地撞上混凝土障碍物、停放的汽车或半挂车。12 在一种情况下表现准确的分类算法,在另一种情况下可能表现不佳。据报道,AlphaGo 的第一个版本在 2016 年达到了超越人类的表现,如果棋盘尺寸不再是训练它的 19×19 英寸,它就无法下好棋。13 人工智能系统的狭窄性使其智能变得脆弱——当超出其预期用途的范围时,很容易突然出现极端故障。