详细内容或原文请订阅后点击阅览
使用下限和上限算术电路从逻辑约束中学习
如何高效训练神经网络，使其与背景知识更加一致？神经网络非常擅长识别从图像到语言的数据模式，但它们常常无法尊重人类显而易见的规则和关系。例如，神经网络可以学习识别道路代理、他们的行为，[...]
来源:ΑΙhub如何高效训练神经网络，使其与背景知识更加一致？
神经网络非常擅长识别从图像到语言的数据模式，但它们常常无法尊重人类显而易见的规则和关系。例如，神经网络可能会学习识别道路代理、他们的行为以及他们在道路场景中的位置，但很难持续学习“如果代理正在过马路，它一定是行人或骑自行车的人”或“交通信号灯不能同时呈红色和绿色”[Giu+23]（见图 1）。
图1：道路场景图像，其中交通灯被检测为“交通灯”（TL）、“红色交通灯”（RedTL）和“绿色交通灯”（GreenTL），这与道路交通的常识不一致。
为了使人工智能系统与领域知识更加一致，而不需要大型标记数据集，深度学习（处理感知）可以与符号逻辑（强制结构和推理）相结合。这种混合方法属于神经符号人工智能（NeSy）领域。
为了有效地使用这些背景知识，符号约束需要连接到网络的连续输出。关键思想是将逻辑规则转化为可计算信号，表明网络的预测与知识的符合程度，因此这些信号可以在训练期间用作反馈。
在实践中，逻辑公式用于评估神经网络的预测遵守域约束的程度。在我们的工作中，网络输出公式中存在的每个文字的概率，这些概率被解释为相应文字的权重。然后推理引擎计算逻辑公式的满意度，有效地衡量预测与背景知识的一致性。
图 2：用于训练和推理的神经组件和逻辑组件之间的考虑管道。