18 世纪,托马斯·贝叶斯 (Thomas Bayes) 提出了一个激进的想法:用概率来表示我们认为假设正确的程度 (Bayes, 1763/1958)。他在一场赌博游戏中这样做:在经历了一定数量的输赢之后,你赢的概率有多大?使用概率论根据数据更新我们的信念程度的想法是我们现在所说的贝叶斯规则的基础(见图 1)。贝叶斯可能认为他的工作具有较低的概率,而这一模型在 200 多年后成为贝叶斯认知模型的基础,该模型从理性信念更新的角度解释人类行为(例如,Griffiths 等人,2010 年)。贝叶斯认知模型解释了归纳推理——从有限的数据得出不确定结论的过程,例如根据在对话中听到的新词推断其含义。在贝叶斯模型中,这种推断是将数据(例如,你听到新词的上下文)与我们对世界的现有期望(例如,对一个词可能具有何种含义的期望)相结合的结果。这些期望以假设的“先验分布”来表达,更合理的假设具有更高的先验概率。这捕捉到了学习者的“归纳偏差”——那些影响学习者选择的假设的数据以外的因素(Mitchell,1997)。先验分布可以定义为
主要关键词